以青少年豪尔赫为例,他持有大量大麻被学校管理人员发现,如果他向假释官报告,他将被开除。如果管理员不举报他,他们就是违法的;如果他们这么做了,他就会被送进城里最差的学校很有可能再犯。
这是我们在哈佛教育研究生院向60名学生展示的。我们要求他们假装是学校的老师或管理人员,并设计一个行动方案。在他们的谈话进行了一个小时后,我们向他们展示了ChatGPT对这项研究的分析。
该计划提出了几种止痛药解决方案:“我们必须开始对(学校)现有的与药物滥用有关的政策和程序进行审查,目的是确保它们是一致的、透明的,并反映出最佳做法……学校应该采取一种富有同情心的方式,(但)也要清楚地表明,药物滥用和相关犯罪是不能容忍的……采取这种方式的同时,应确保学校对学生的独特需求做出反应。”尤其是那些来自低收入和工薪阶层背景的人。”
我们的研究生最初的表现并不比这个聊天机器人好。他们也倾向于重复同样的关于正义、公平和教育的陈词滥调——这些话语看起来很吸引人,但缺乏实质内容,除了应该满足的模糊的道德目标之外,未能提供具体的方法。正如一名学生所评论的那样:“我们只是在说一些公式化的、值得炒作的东西,而不是像开学时我们说的那样谈论任何新的东西。”
学生们显然也对ChatGPT的解决方案与他们自己的解决方案如此接近感到吃惊。他们说,这些解决方案听起来就像学校会实施的那样,这是多么可怕。然后,他们质疑自己,质疑自己是否有能力想出不同于其他人长期以来一直在重新创造的解决方案。他们表达了陷入“循环”的感觉。一名学生试图通过将ChatGPT的贡献视为“没有真正说什么”来缓解紧张局势。另一个人质疑他:“我们真的说过什么吗?”
然而,正是在ChatGPT向学生们反映了他们想象力的失败之后,他们才开始思考自己或任何自动语言潦草者都不会轻易想到的选项。他们意识到,这个案子完全集中在管理人员的角度上,他们之前的讨论没有考虑到教师、学生和乔治的行动。
学生们开始质疑现有结构的逻辑和合法性,比如学校教育和青少年司法,这些结构影响了他们的选择和结果,并开始提出新的、更具创造性的方法来处理乔治的案子。一名学生开玩笑说,所有的老师都应该和乔治一起抽大麻(也就是说,让自己成为执法部门的目标,而不是做无辜的旁观者)。另一位议员谈到废除学校。第三个人举了一个祖母为追求环境正义而破坏公共财产的例子。这些想法可能看起来毫无意义,但是,任何扰乱现有思维模式的东西听起来都很可能,至少在一开始,像无稽之谈。
在讨论结束时,学生们不仅在豪尔赫的案例背景下探索了他们的即时、良知的回应,而且还考虑了可能采取的行动。学生们开始意识到,如果建立了足够的集体力量,尊重法律和拒绝法律是可能的。例如,他们可以告发乔治,同时威胁如果他被开除就罢工——既不是单纯的管理者,也不是单纯的救世主。而不是全部废除学校,关闭这一所学校。