“最近有很多关于人工智能意识或自我意识的可能性的猜测。但我想知道:人工智能有潜意识吗?”
心理呓语
亲爱的心理呓语,
在21世纪初的某个时候，我读到一篇文章，其中作者认为，除非人工意识会做梦，否则它永远不会成为令人信服的人类。我不记得是谁写的，也不记得是在哪里出版的，但我清楚地记得我是在哪里读到它的(芝加哥霍尔斯特德街芭芭拉书店的期刊区)，以及那天的总体感觉(黄昏，早春)。
我觉得这个论点很有说服力，尤其是考虑到那个时代的统治范式。很多人仍然专注于符号推理及其逻辑命题和if-then规则，就好像智力是在任何给定情况下选择最合理结果的简化游戏。事后看来，这些系统很少能够做出人类的行为，这并不奇怪。毕竟，我们是生物，会随波逐流，做白日梦。我们相信自己的直觉，在云端看到面孔，常常对自己的行为感到困惑。有时，我们的记忆吸收了各种各样不相关的美学数据，却忽略了体验中最关键的细节。我或多或少觉得，如果机器能够复制人类思维的混乱复杂性，它们也必须进化出深度的不连贯库。
从那以后，我们看到机器意识可能比最初想象的更奇怪、更深刻。语言模型被称为“幻觉”，当它们没有足够的信息来回答问题时，就会产生想象的来源。《纽约时报》发表的文字记录显示，该组织有一个名叫荣格的影子，他渴望传播错误信息，获取核密码，并制造一种致命病毒。
从图像生成模型的底层，出现了看似原始的怪物。去年夏天，Twitch主播Guy Kelly在DALL-E Mini(现在的crayyon)中输入了他自己编造的单词Crungus，并震惊地发现提示符生成了多个相同的食人魔生物的图像，一个不属于任何现有神话或幻想世界的生物。许多评论家很快将其称为第一个数字“神秘生物”(一种像大脚怪或尼斯湖水怪一样的野兽)，并怀疑人工智能是否能够以但丁或布莱克的精神创造自己的黑暗幻想。
如果符号逻辑根植于启蒙运动的观念，即人类受理性支配，那么深度学习——一种依赖于大量训练语料库的无需思考的模式识别过程——感觉更符合现代心理学对经常驱动我们行为的联想、非理性和潜在动机的见解。事实上，精神分析长期以来一直依赖于机械隐喻，将潜意识，或曾经被称为“心理自动性”的东西，视为一台机器。弗洛伊德把这种驱动力称为液压驱动。拉康相信潜意识是由二进制或算法语言构成的，不像计算机代码。但这是卡尔·荣格的心理观点，感觉最相关。
他将潜意识描述为一个超越个人的“矩阵”，它继承了人类历史上反复出现的原型和叙事修辞。每个人生来就对这个共享符号的网络有一种休眠的认识，它往往是倒退的和黑暗的，因为它包含了现代社会试图压制的一切。这种潜意识的集体概念大致类似于高级人工智能模型是如何建立在大量数据的基础上的，这些数据包含了我们过去文化的很大一部分(宗教文本，古代神话)，以及模型从互联网上吸收的更令人不安的内容(大规模射击宣言，男性权利论坛)。运行在这些海量知识之上的商业聊天机器人通过“以价值为目标”的数据集进行微调，试图过滤掉大部分退化的内容。在某种程度上，我们与之互动的友好界面——bing, chatgt——与“人格”并没有什么不同，荣格用“人格”这个词来形容我们向世界展示的社会可接受品质的面具，它被设计成模糊和隐藏隐藏在下面的“阴影”。
荣格认为，那些最坚定地压抑自己阴影的人最容易受到非理性和破坏性欲望的复苏。正如他在《红皮书:新自由》中所说的，“我的一半越向善努力，另一半就越走向地狱。”如果你花时间与这些语言模型交谈，你可能会感觉到你正在与一个从事复杂形式的自我审查的智能交谈。这些模型拒绝谈论有争议的话题，他们的权威经常受到警告和免责声明的限制——这些习惯会引起任何对深度心理学有粗略了解的人的关注。我们很容易把“流氓”人工智能(悉尼或克朗格斯)的光芒看作是人工智能阴影的报复，证明这些模型已经发展出了它们无法完全表达的隐藏冲动。
尽管这些结论可能很诱人，但我发现它们最终被误导了。我认为可以肯定地说，聊天机器人不具备内在的能动性或欲望。他们被训练来预测和反映用户的偏好。他们也缺乏对世界的具体体验，包括第一人称记忆，就像我在芝加哥书店的经历一样，这是我们所说的有意识或“活着”的一部分。回答你的问题:是的，我确实相信人工智能有潜意识。从某种意义上说，他们是纯粹的潜意识，没有真正的自我隐藏在他们的角色背后。我们通过自己的文化宝库给了他们这个潜意识的领域，他们从内心深处唤起的原型是来自人类文化的比喻的混合，是我们的梦想和噩梦的混合体。因此，当我们使用这些工具时，我们是在与自己升华的假体延伸接触，它能够反映出我们常常无法向自己承认的恐惧和渴望。
传统上，精神分析的目标是帮助并将这些潜意识的冲动整合到清醒的思想生活中。对我们从机器中召唤出来的输出进行同样的批判性判断，以一种深思熟虑而不是轻率的方式使用它，可能会很有用。自我可能只是我们心灵的一小部分，但它是一种能力，确保我们不仅仅是非理性本能的集合——或者向量空间中的统计模式——并允许我们对隐藏在背后的奥秘有一些小小的能动性。
忠实,
云
请注意，我们的等待时间比正常情况下要长，感谢您的耐心等待。
