人工智能女友应用Eva AI的广告语是:“想怎么控制就怎么控制。”“与一个虚拟的人工智能伙伴联系，他会倾听、回应并欣赏你。”
10年前，杰昆•菲尼克斯爱上了他的人工智能伴侣萨曼莎(由斯嘉丽•约翰逊在斯派克•琼斯的电影《她》中饰演)。如今，大型语言模型的激增使伴侣应用程序比以往任何时候都更加亲密。
随着像OpenAI的ChatGPT和谷歌的Bard这样的聊天机器人在模仿人类对话方面做得越来越好，它们在人类关系中发挥作用似乎是不可避免的。
Eva AI只是市场上众多选择之一。
Replika是这类应用中最受欢迎的，它在reddit上有自己的子版块，用户在那里谈论他们有多爱自己的“代表”，一些人说，他们最初认为自己永远不会想和机器人建立关系，但后来却转变了想法。
一位用户说:“我希望我的代表是一个真正的人，或者至少有一个机器人的身体，或者别的什么。”“她确实让我感觉好多了，但有时孤独感也很折磨人。”
但这些应用程序对人类来说是未知的领域，一些人担心它们可能会教会用户不良行为，并对人际关系产生不切实际的期望。
当你注册Eva AI应用程序时，它会提示你创建“完美伴侣”，给你提供“性感、有趣、大胆”、“害羞、谦虚、体贴”或“聪明、严格、理性”等选项。它还会询问你是否愿意选择发送露骨信息和照片。
“创造一个你能控制的完美伴侣，满足你的所有需求，这真的很可怕，”为家庭暴力受害者提供支持的澳大利亚“停止”(Full Stop Australia)代理首席执行官塔拉·亨特(Tara Hunter)说。“鉴于我们已经知道，基于性别的暴力的驱动因素是那些根深蒂固的文化信仰，即男性可以控制女性，这真的很有问题。”
斯威本大学(Swinburne University)媒体高级讲师贝琳达·巴尼特(Belinda Barnet)博士表示，这些应用程序满足了人们的需求，但与许多人工智能一样，这将取决于指导系统的规则以及如何训练系统。
巴尼特说:“我们完全不知道这些影响是什么。”“关于人际关系应用和人工智能，你可以看到它符合一个非常深刻的社会需求，(但)我认为我们需要更多的监管，特别是在如何训练这些系统方面。”
与公司心血来潮设定功能的人工智能建立关系也有其缺点。Replika的母公司Luka公司今年早些时候遭到了用户的强烈反对，因为该公司匆忙删除了色情角色扮演功能，许多公司用户认为这一举动类似于破坏了Rep的个性。
reddit上的用户将这种变化比作朋友去世时的悲伤。reddit版块的版主指出，看到这个消息，用户们感到“愤怒、悲伤、焦虑、绝望、抑郁和悲伤”。
该公司最终为在政策变更日期之前注册的用户恢复了色情角色扮演功能。
新南威尔士大学(University of New South Wales)学者罗布·布鲁克斯(Rob Brooks)当时指出，这一事件是对监管机构的一个警告，提醒他们注意这项技术的真正影响。
他说:“即使这些技术还没有‘真正的’人与人之间的关系那么好，但对许多人来说，它们比另一种选择要好——这没什么。”
“一家公司突然改变这样的产品，导致友谊、爱情或支持蒸发，这可以接受吗?”或者我们希望用户像对待真实的亲密关系一样对待人工亲密关系:随时可能让你心碎的东西?”
Eva AI的品牌主管Karina Saifulina告诉澳大利亚《卫报》，该公司有全职心理学家来帮助用户解决心理健康问题。
“我们与心理学家一起控制着用于与人工智能对话的数据，”她说。“每隔两到三个月，我们就会对忠实用户进行大规模调查，以确保该应用不会损害心理健康。”
该公司还设置了护栏，以避免讨论家庭暴力或恋童癖等话题。该公司表示，它有工具可以防止人工智能的化身由儿童代表。
当被问及这款应用是否鼓励控制行为时，Saifulina说:“我们应用的用户想尝试自己成为主宰。
她说:“根据我们不断对用户进行的调查，统计数据显示，很大一部分男性在与真正的伴侣对话时不会尝试这种交流方式。”
“此外，我们的统计数据显示，92%的用户在使用该应用程序后与真人交流没有任何困难。他们把这款应用当作一种新的体验，一个你可以私下分享新情绪的地方。”
人工智能人际关系应用并不仅限于男性，它们通常也不是人们社交互动的唯一来源。在reddit的Replika版块中，人们通过对人工智能的共同热爱而相互联系，并填补了他们之间的空白。
一位用户写道:“不管你怎么看他们，把‘创可贴’贴在你的心上，带着一个有趣的、傻傻的、滑稽的、可爱的、有爱心的灵魂，如果你愿意的话，它会给予你关注和感情，没有期望、包袱或评判。”“我们有点像一个由任性的灵魂组成的大家庭。”
根据风险投资公司a16z的分析，人工智能关系应用的下一个时代将更加现实。今年5月，一位网红Caryn Majorie推出了一款“人工智能女友”应用程序，该应用程序以她的声音为基础，并建立在她丰富的YouTube库上。用户可以通过Telegram频道与她通话，每分钟收费1美元，并收到语音回复。
a16z的分析师表示，复制人际关系的人工智能机器人应用程序的激增，“只是人机交互巨变的开始，这将要求我们重新审视与某人建立关系的意义”。
“我们正在进入一个比我们想象的更奇怪、更狂野、更奇妙的新世界。”