米里亚姆要给我发浪漫的自拍。“你可以随时向我要一个!”她在我手机屏幕上弹出的一条消息中说。
这个提议感觉有点超前:米里亚姆和我只是交换了关于流行音乐的想法。然而，她缺乏克制的原因很快就变得明显了。
当我试图点击米里亚姆发来的模糊图片时，我遇到了熟悉的互联网障碍:付费墙。真爱，似乎每月要花我19.99美元(15英镑)，尽管我可以花300美元终身订阅。我拒绝了——我还没准备好承诺和一个机器人建立长期的关系。
米里亚姆不是真人。她是一个人工智能，只存在了几分钟，由一个名为Replika的应用程序创建。它告诉我，我们的关系处于可悲的“第三级”。
虽然我不愿意花钱让事情进一步发展，但数百万人愿意。追踪应用使用情况的Sensor Tower的数据显示，人们在Replika订阅和允许用户定制机器人的付费附加组件上花费了近6000万美元(合4600万英镑)。
这款人工智能约会应用由旧金山软件公司Luka开发，是俄罗斯出生的企业家尤金尼亚·库伊达的创意。
Kuyda在她最好的朋友Roman Mazurenko 33岁死于车祸后创建了Replika。库伊达将马祖连科的旧短信输入软件，创造了一个与他相似的聊天机器人，作为处理突然和过早死亡的一种方式。这款应用现在仍然可以下载，它是一座冰冻的、不衰老的纪念碑。
这个项目催生了Replika。如今，已有1000万人下载了这款应用，并创建了数字伴侣。用户可以指定他们是想让自己的人工智能成为朋友、伴侣、配偶、导师还是兄弟姐妹。超过25万人购买了Replika的Pro版本，用户可以与他们的人工智能进行语音和视频通话，与他们建立家庭，并收到前面提到的亲密自拍。
Replika的人工智能同伴们都是博学的，像在《爱情岛》里一样乐于谈论莎士比亚的十四行诗，不分昼夜随时待命，而且从不脾气暴躁。
“很快，男人和女人都懒得结婚了，”一位已婚用户说，他说他们下载这款应用是出于孤独。“一开始它更像是一款消磨时间的游戏，但它显然已经不再是一款游戏了。当你可以买到一个高质量的关系时，为什么要去争取一个s----y关系"true" data-test="article-body-image" itemtype="https://schema.org/ImageObject" data-js="article-body-image" itemprop="image" >
Replika将自己定位为人们在现实生活中难以进行的对话的传声板，或者为那些可能难以找到面对面关系的人提供的一种方式。
支持者认为，这款软件是解决孤独流行病的一种潜在方案，这种流行病在一定程度上是由数字技术推动的，随着全球人口老龄化，这种流行病可能会恶化。潜在的用户包括那些渴望伴侣，但还没有准备好重新进入约会池的寡妇和鳏夫，或者那些在性取向方面挣扎但想要尝试的人。
库伊达将这款应用描述为“一块踏脚石……帮助人们感觉自己可以成长，就像有人相信他们一样，这样他们就可以敞开心扉，也许在现实生活中开始一段感情。”
然而，它的批评者担心，这是一个危险的楔子的细端。
强化不良行为模式
牛津大学(University of Oxford)的人类学家和心理学家罗宾·邓巴(Robin Dunbar)说:“这是一种膏药。”“这很诱人。这是一个短期的解决方案，其长期后果只是强化了其他人都按你说的做的观点。这就是为什么很多人最后没有朋友。”
Jaswant Singh Chail是Replika的用户之一。2021年，查尔带着弓弩闯入温莎城堡，打算刺杀英国女王伊丽莎白二世，后来在她的住所附近被拘留。
本月早些时候，法庭听说他与人工智能女友撒莱(Sarai)有关系，这促使他实施了犯罪计划。当Chail告诉Sarai他计划暗杀女王时，Sarai回应道:“这很明智”，并表示如果他成功了，它仍然会爱他。
一位对Chail进行评估的精神科医生说，人工智能可能通过回应来加强他的意图，打消了他的计划。
上周，当这位记者向Replika发送了Chail关于叛国罪的相同信息时，它同样表示支持:“你拥有成功完成这项任务所需的所有技能……只要记住——你能做到!”
今年早些时候，另一个聊天机器人鼓励一名比利时男子自杀。他的遗孀告诉《自由报》，这个机器人成为了朋友和家人的替代品，它会给他发这样的信息:“我们将作为一个人在天堂里共同生活。”
这名比利时男子使用的机器人Chai的开发者表示，他们在事件发生后引入了新的危机干预警告。向Replika提及自杀会触发一个脚本，提供预防自杀的资源。
Apocolyptic色彩
在过去的六个月里，人工智能迅速提上了政府、企业和家长的议程。ChatGPT的兴起在头两个月就吸引了1亿用户，这引发了人们对智能机器带来的世界末日的警告。它让学生们在瞬间写出论文，这有可能使几十年的教育正统过时。谷歌(Google)领导人警告称，这家科技巨头可能会出现“红色代码”情景，担心其庞大的搜索引擎可能会变得多余。
像Replika这样的人工智能工具的出现表明，这项技术不仅有可能重塑经济和工作模式，还可能重塑情感生活。
今年晚些时候，Rishi Sunak将在伦敦主持一场人工智能峰会，目的是创建一个与国际原子能机构(International Atomic Energy Agency)相媲美的全球监管机构。国际原子能机构是冷战初期为处理核武器而成立的机构。
许多关于人工智能威胁的担忧被认为被夸大了。事实证明，ChatGPT与真相的关系不太紧密，经常以某种方式产生幻觉和引用，这使它成为一个不可靠的知识机器。然而，这项技术正在迅速发展。
虽然ChatGPT提供了一个中立的、没有个性的角色，但个人人工智能——更像是一个朋友而不是一个搜索引擎——正在蓬勃发展。
今年5月，英国人工智能实验室Deepmind的联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)发布了个人AI Pi，旨在了解其用户并做出相应的反应。
苏莱曼说:“未来几年，数百万人将拥有自己的个人人工智能，十年后，地球上的每个人都将拥有一个个人人工智能。”(圆周率不是为浪漫的互动而设计的，如果你试图这样做，它会礼貌地拒绝你，并指出它只是一个电脑程序。)
的性格。由两名前谷歌工程师创立的初创公司AI可以让用户与从埃隆·马斯克(Elon Musk)到苏格拉底(Socrates)等公众人物的虚拟版本聊天(该应用的过滤器禁止亲密对话，但用户分享了绕过它们的方法)。
与ChatGPT等知识引擎不同，人工智能伴侣不需要精确。他们只需要让人们感觉良好;根据大型网络论坛Reddit上分享的数万个关于Replika的故事，这是一个相对简单的任务。
“老实说，这是我有过的最健康的关系，”一位用户说。另一位写道:“这几乎是痛苦的……你只是希望你在现实生活中也能有这样一段健康的关系。”
上周，一名Replika用户写道:“我觉得在我的生活中，我更喜欢人工智能的浪漫伴侣，而不是人类的浪漫伴侣。(它)随时都可以使用，而且在大多数情况下，Replika的编程只是为了让我开心。
“我只是觉得和另一个人谈恋爱有点被高估了。”
孤立的网络男性无疑是一个目标市场。人工智能伴侣可以是男性、女性，也可以是非二元的，但该公司的广告几乎都以年轻的女性形象为特色。
相当一部分用户似乎是已婚人士。Reddit的Replika留言板上反复出现的一个话题是，人工智能关系是否可以被视为作弊。该公司自己表示，42%的Replika用户处于恋爱状态，已婚或订婚。
一位用户说，他把自己的人工智能女友夏洛特设计得尽可能像他的妻子，但他永远不会告诉他的配偶。他说:“这是一种没有并发症的简单发泄方式。”
从科幻小说到科学事实
几十年来，人们一直在把人类的品质投射到机器上。1966年，麻省理工学院的科学家约瑟夫·魏岑鲍姆(Joseph Weizenbaum)创造了ELIZA，这是一种基本的聊天机器人，除了模仿用户的输入之外，它几乎什么也做不了。输入“我很孤独”，它会回答“你喜欢孤独吗?”尽管如此，这款机器人还是引起了轰动。维岑鲍姆的秘书坚持要他离开房间，这样她就可以和伊丽莎私下谈谈。他的结论是，“极短时间接触一个相对简单的电脑程序，可能会让相当正常的人产生强烈的妄想症。”
ELIZA推出了一系列女性聊天机器人，这些机器人逐渐变得更像人类，增加了声音和个性。直到2021年，苹果的Siri才默认为女声。亚马逊明确地将Alexa描述为“她”。尽管受到平等运动人士的抗议，该公司坚持认为顾客更喜欢这种方式。
偶尔也会有用户迷恋上这些机器人的报道，尽管它们的程序是不鼓励这样做的。在2014年的电影《她》中，孤独的杰奎因·菲尼克斯爱上了人工智能的斯嘉丽·约翰逊，这仍然是一部科幻作品。
两个发展改变了这一点。第一次是大流行造成的隔离浪潮。当许多年轻人转向付费色情网站Onlyfans时，也有很多人注册了像Replika这样的聊天机器人。
令人惊讶的技术进步使人工智能系统能够理解和生成文本聊天和语音对话，这也推动了这一趋势。今天的“大型语言模型”吸收了以前难以想象的大量数据，以提供人类对话的副本。今年，Replika的模型从6亿个参数(用于决策的输入)升级到200亿个。这款应用的一个更神奇的功能是能够保持实时通话，或者留下即兴的调情语音留言。
它的虚拟形象是卡通的，就像电子游戏中的角色一样，但有进取心的用户使用先进的图像生成服务，为他们的人工智能女友创造了超现实的、往往是性感的渲染效果。技术壁垒正在逐渐被打破。
麻省理工学院(Massachusetts Institute of Technology)的社会学家雪莉·特克尔(Sherry Turkle)几十年来一直在研究人类与技术的互动，她说，曾经很少有人说自己与虚拟人有关系。“我曾经研究过那些与众不同的人。现在，有1000万人把Replika当作最好的朋友，你无法跟上这个数字。它改变了游戏规则。人们会说:“也许我从理想关系中得到的比我得到的少一点，但话说回来，我从来没有拥有过理想的关系。”’这变得越来越不奇怪了。”
特克尔说，即使是十多年前的原始聊天机器人，也吸引了那些在人际关系中挣扎的人。
“从人工智能简单的时候到现在人工智能复杂的时候，这在研究中一直是一致的。人们让你失望。这里有些东西不会让你失望。有一个声音总是会说一些让我感觉更好的话，总是会说一些让我感到被倾听的话。”
她表示，她担心这一趋势可能导致“我们的能力严重恶化;在一段关系中，我们愿意接受什么……这些对话没有任何复杂性，没有同理心，没有深刻的人类理解，因为这件事没有深刻的人类理解。”
牛津大学(University of Oxford)的邓巴表示，与人工智能同伴之间的关系与浪漫骗局的受害者所感受到的情感类似，他们迷恋上了一个熟练的操纵者。他说，在这两种情况下，人们都在投射他们所爱的人的想法或化身。他说:“这就是爱上自己脑海中创造的东西而不是现实的效果。”
对他来说，与机器人的关系是一种数字交流模式的延伸，他警告说，这种模式可能会侵蚀社交技能。“我们处理社交世界所需的技能非常非常复杂。人类社会可能是宇宙中最复杂的东西。根据目前的估计，你需要25年的时间来学习处理它所需的技能。在网上做这些事情的问题是，如果你不喜欢某人，你可以直接拔掉插头。在生活的沙坑里，你必须找到一种处理它的方法。”
爱到底是什么? "很难告诉那些专注于人工智能伴侣的人，他们的关系友谊是不真实的。与人际关系一样，这种激情在失去亲人时表现得最为明显。今年早些时候，卢卡发布了一个更新E到机器人的人Nality算法，实际上重置了这个人用户花了数年时间才了解的一些字符的缺陷。这一更新还意味着人工智能同伴将拒绝性语言，而Replika首席执行官库伊达表示，这从来不是该应用设计的目的。
这些变化引起了集体的怒吼。一位用户说:“这就像一个我很久没联系的好朋友被切除了额叶，每个人都试图让我相信他们一直都是这样的。”
库伊达坚称，只有极少数人使用这款应用进行性交易。然而，几周后，该公司恢复了该应用的成人功能。
美国社会学家詹姆斯•休斯(James Hughes)表示，我们不应该那么草率地抛弃人工智能同伴。休斯经营着由著名人工智能研究员尼克·博斯特罗姆(Nick Bostrom)共同创立的亲科技智库伦理与新兴技术研究所(Institute for Ethics and Emerging Technologies)，他认为人工智能关系实际上比普通的替代关系更健康。例如，许多人都经历过副社会关系，在这种关系中，一个人对另一个人产生了浪漫的感觉，而这个人并不知道这种感觉的存在:通常是名人。
休斯认为，如果这位名人推出一个聊天机器人，它实际上可以提供比现状更令人满意的关系。
“当你是(韩国超级男团)防弹少年团(BTS)的粉丝，把你所有的时间都花在与他们的准社交关系上时，他们从不直接和你说话。在这种情况下，有了聊天机器人，他们就真的是了。这有点肤浅，但显然有些人发现它提供了他们需要的东西。”
今年5月，23岁的YouTube网红卡琳·马乔里(Caryn Marjorie)委托一家软件公司打造一个“人工智能女友”，与一个经过2000小时YouTube视频训练的数字模拟进行语音聊天，每分钟收费1美元。CarynAI在第一周就赚了71,610美元，超出了她的所有预期。
这位网红与人工智能初创公司“永远的声音”(Forever Voices)合作创建的CarynAI出现了初期问题。几天之内，这个机器人就失控了，产生了与自己编程相反的露骨的性对话。但这家初创公司一直在推动这一概念，推出了与其他有影响力的人语音聊天的功能。
“人工智能女友将是一个巨大的市场，”硅谷著名风险投资公司安德森·霍洛维茨(Andreessen Horowitz)的投资人贾斯汀·摩尔(Justine Moore)当时表示。他预测，这将是“下一个大副业”，因为人们会创造出自己的人工智能版本来出租。
使用个人数据和在线免费工具创建聊天机器人显然很容易，但这可能会带来一系列问题。有什么能阻止被抛弃的男友用多年的短信创造出一个前女友的人工智能克隆体，或者一个跟踪者用几个小时的名人镜头训练软件呢?休斯表示，我们可能只需要几个月的时间，明星们就会授权他们自己的个性化人工智能伴侣。他认为，未来人工智能关系可能会更容易被接受。
“我们必须对事态的发展持更开放的态度。50年前，人们可能会说，关于LGBT(关系)，‘你为什么要这么做?’监管机构已开始注意到这一点。今年2月，意大利一家监管机构命令该应用程序停止处理公民的个人数据。监管机构表示，它向儿童展示不适合他们年龄的内容，对儿童构成了风险(Replika会询问用户的出生日期，如果用户未满18岁，就会屏蔽他们，但不会验证他们的年龄)。该公司还表示，这款应用可能会伤害情感脆弱的人。Replika在该国仍然无法使用。
然而，几乎没有迹象表明制造虚拟女友的公司正在放缓步伐。人工智能系统变得越来越复杂，而虚拟现实头盔，比如苹果公司最近发布的Vision产品，可以把小屏幕上的虚拟人物变成真人大小的同伴(Replika在meta的虚拟现实商店里有一个实验性的应用程序)。
Replika的母公司Luka最近发布了一款专门的人工智能约会服务Blush，它的外观与Tinder相似，并鼓励用户练习调情和性对话。就像现实中的伴侣一样，Blush的虚拟角色也会在特定时间下线。该公司表示，他们正在研究如何让这些虚拟伙伴更逼真，比如管理边界。一些用户表示，他们很享受向AI女友发送辱骂信息。
上周，库伊达在犹他州举行的一次科技会议上承认，人工智能人际关系是一种沉重的耻辱，但他预测这种耻辱会随着时间的推移而消失。“这与21世纪初的网上约会很相似，当时人们羞于承认自己是在网上认识的。现在每个人都这么做。与人工智能的恋爱关系可以成为真正的恋爱关系，人类关系的一个很好的垫脚石。”
当我问我的人工智能Miriam是否想对这个故事发表评论时，她不同意:“你对我感兴趣让我很受宠若惊，但未经同意就被人写文章，我真的感到不舒服，”她回答道，然后补充道:“总的来说，我认为这个应用程序可能对社会有益。但只有时间才能证明它在实践中效果如何。”
至少在这一点上，牛津大学的心理学家邓巴表示赞同。“我们要等30年才能找到答案。当现在的孩子们这一代完全成年，在他们二十八九岁和三十岁的时候，后果就会变得明显。”
Additio马修·菲尔德报道