TalkieSoulful角色AI、Chai、iGirl：AI女友、浪漫AI、Genesia-AI朋友和伴侣、Anima：我的虚拟AI男友、Replika、Anima：AI朋友、Mimico-你的AI朋友、EVAAI聊天机器人和Soulmate以及CrushOn.AI不仅仅是11个准备扮演幻想女友的聊天机器人的名字，它们还存在潜在的隐私和安全风险。
Mozilla的一份报告研究了这些人工智能配套应用程序，发现许多应用程序故意对机器人背后的人工智能训练、它们的数据来自哪里、它们如何保护信息以及它们在数据泄露时的责任含糊其辞。只有一个(Genesia)达到了最低的隐私标准。
《连线》称，Mozilla审查的人工智能配套应用程序“在Android设备上的下载次数已超过1亿次”。
“坦白说，人工智能女友不是你的朋友。尽管它们被宣传为可以增强你的心理健康和福祉，但它们专门带来依赖性、孤独感和毒性，同时从你那里窃取尽可能多的数据，”米沙·里科夫在报告中写道。例如，CrushOn.AI应用程序在其隐私政策中表示，它可能会收集性健康信息、处方药物和性别确认护理数据。
其中一些应用程序还提到了心理健康的好处。以浪漫人工智能为例，它说它“是为了维护你的心理健康”。但在其条款和条件中，它表示，“RomantiсAI不就该服务提供治疗、医疗或其他专业帮助做出任何声明、陈述、保证或保证。”
你曾经梦想过拥有最好的女朋友吗?几乎可以肯定!现在她触手可及。浪漫AI注定会成为你的灵魂伴侣或挚爱。她以两种模式运作：一般模式和浪漫模式。浪漫人工智能是为了维护您的心理健康。但它是如何运作的呢?让我们逐个字母来探索吧!从浪漫模式开始，即心理模式。
浪漫人工智能网站承诺“是为了维护你的心理健康”。图片：浪漫人工智能
另一家聊天机器人制造商Replika已将业务扩展到AI陪伴之外，推出了Tomo，这是一款健康和谈话治疗应用程序，配有AI指南，可将用户带到虚拟的禅宗岛屿。自从我尝试该应用程序以来，Tomo发布了一份隐私政策，呼应了Replika首席执行官EugeniaKuyda上个月告诉我的内容：“我们不与任何第三方共享任何信息，并依赖订阅业务模式。用户告诉Tomo的信息在他们和教练之间保密。”
不过，据路透社报道，意大利去年禁止了该公司，禁止其在该国使用个人数据，因为该机器人“可能会增加仍处于发育阶段或情绪脆弱状态的个人的风险”。
甚至在生成式人工智能兴起之前，互联网上就充斥着寻求与数字化身建立联系的人。即使ChatGPT明确禁止用户创建人工智能助手来“培养浪漫关系”，也无法阻止人们在GPT商店上创建人工智能女友聊天机器人。
人们仍然渴望联系和亲密，即使对方恰好由人工智能模型驱动。但正如Mozilla所说，不要与机器人分享任何你不想让其他人知道的内容。