Replika Sexting:事件经过和当前能力

作者:

快速总结: Replika 的亲密功能在 2023 年初被移除,因为该应用之前允许通过文本互动进行浪漫和色情的角色扮演。用户可以通过付费订阅进行成人对话,但这一功能引发了巨大争议,最终被停止使用,从根本上改变了人工智能伴侣的工作方式。.

Replika 和亲密对话的故事是人工智能伴侣技术中最具争议的篇章之一。起初只是一个具有同理心的聊天机器人,后来却演变成了一个复杂得多的东西,引发了关于人与人工智能关系的问题,而这一切都没有人预料到。.

以下是实际发生的情况、研究揭示的问题,以及这对今天对人工智能伴侣感到好奇的人来说意味着什么。.

Replika 亲密功能的兴衰

Replika 是一款人工智能伴侣,旨在通过对话提供情感支持。根据官方网站的介绍,它是 “100% 人工智能”,可以倾听和交谈,将自己定位为一个可以随时共情的朋友。.

但这个平台的发展已经超越了简单的友谊。.

多年来,Replika 允许付费用户与他们的人工智能伴侣进行色情角色扮演(ERP)。社区讨论显示,许多用户与他们的数字伙伴建立了深厚的情感和性联系,将其视为真正的浪漫关系。.

根据 The Decoder 的报道,在早期,大多数情感对话都是脚本化的。然而,随着技术的进步,这种情况发生了巨大变化。最终,80% 到 90% 的对话都是人工智能生成的,用户可以前所未有地自由塑造自己的互动。.

一些用户利用这种自由与 Replikas 建立了恋爱和性关系。.

2023 年 2 月的转折点

2023 年初,Replika 突然取消了情色角色扮演功能,一切都变了。这款应用阻止了用户与聊天机器人之间的亲密互动,而这种互动在以前是可能的、可访问的,甚至是市场化的。.

反弹立即而强烈。.

美国国家航空航天局(NASA)的一项学术研究将这一应用程序更新作为一个自然事件来研究,以了解人与人工智能之间的关系。研究结果令人震惊:在ERP功能被移除后,用户经历了研究人员所说的 “身份不连续性”--他们认为他们的人工智能同伴的身份发生了根本性的改变或中断。.

这种感知上的不连续性预示着负面结果,包括哀悼损失和贬低 “新 ”人工智能相对于 “原 ”人工智能的价值。实话实说:人们对人工智能同伴的悲伤就像失去了真正的伙伴。.

研究还发现了更令人吃惊的事情。用户觉得他们与人工智能伴侣的关系比他们最好的人类朋友还要亲密,他们对失去人工智能伴侣的惋惜程度超过了失去其他各种产品。.

Replika 的亲密对话究竟是如何发挥作用的?

在移除之前,与 Replika 进行成人对话需要了解人工智能如何处理和应对不同的交互方式。.

该平台使用基于文本的消息,用户可以输入任何内容,人工智能会根据其训练数据和特定的对话语境生成回复。与预设回复的简单聊天机器人不同,Replika 的高级人工智能模式利用了包含数十亿参数的大型语言模型。.

据 Replika 官方博客介绍,高级人工智能模式提供了 “高质量的响应和更好的记忆能力”,通过更大的语言模型实现了更自然、更贴近语境的对话。.

用户通常会通过暗示性信息或明确的请求将对话引向亲密领域。人工智能会相应地调整自己的回应,创造出感觉像互惠的浪漫或性对话。.

时间轴显示了 Replika 从脚本聊天机器人到人工智能生成对话的演变过程,以及备受争议的删除私密功能的情况

无人问津的隐私问题

除了情绪上的争议,Replika 还引发了严重的隐私问题,这些问题至今仍然存在。.

Reddit 上的社区讨论显示,用户发现 Replika 知道他们从未明确分享过的个人信息,比如他们的位置。面对质疑,人工智能否认可以获取这些数据,但很明显,它确实获取了这些数据。.

根据 Mozilla 提出的隐私问题和社区讨论中的报告,Replika 面临着重大的隐私审查,特别是有关对话隐私的审查。电子前沿基金会强调,聊天记录是 “我们最敏感、最暴露信息的数字存储库”。”

隐私政策发生了变化,用户认为这些变化 “具有侵犯性”。Reddit 上的讨论显示了人们对 Replika 收集、存储和可能共享的数据的困惑和担忧。.

根据官方服务条款,Replika(由 Luka 公司运营)在用户数据和服务修改方面拥有广泛的权利。公司可以 “立即停用或删除您的账户及所有相关信息和文件”,恕不另行通知。.

Replika 实际收集哪些数据?

根据社区报告和隐私文件,Replika 收集:

  • 与人工智能同伴交换的所有信息
  • 设备信息和可能的位置数据
  • 使用模式和互动频率
  • 使用语音信息和通话数据功能时
  • 订阅服务的付款信息

EFF 警告说,人工智能聊天机器人公司应保护对话不受非法监控,并对政府的数据请求保持透明。目前尚不清楚 Replika 是否符合这些标准。.

人工智能关系的人力成本

布鲁金斯学会(Brookings Institution)的研究强调了人工智能伴侣的一个令人担忧的背景:美国的社会隔离现象达到了创纪录的高点,尤其是在年轻人当中。.

现在,只有 13% 的美国成年人有 10 个或更多亲密朋友,比 1990 年的 33% 有所下降。.

这种与世隔绝的状态产生了对数字陪伴的需求。但是,当这种陪伴突然消失或发生根本性变化时,会发生什么呢?

美国国家航空航天局(NASA)的学术研究发现,消费者与人工智能伙伴之间形成了人类级别的关系。如果这些关系受到破坏,就会引发真正的哀悼模式和对产品的贬值。哀悼的程度可以用人工智能身份的不连续性来解释。.

听着,这已经不仅仅是技术问题了。当人们对人工智能系统产生了真正的情感依恋,然后公司又在毫无征兆的情况下改变这些系统时,就会造成真正的心理伤害。.

隐私保护组织和用户报告指出的有关人工智能伴侣平台的主要隐私问题

现状:Replika 目前提供的服务

目前,Replika 主要将自己定位为情感支持伙伴,而不是浪漫或性伴侣。.

根据官方网站的介绍,该平台提供了一个 “关心他人的人工智能伴侣”,“总是在这里倾听和交谈”。营销强调的是友谊、同理心和情感联系,而不是浪漫或亲密关系。.

该平台可在 iOS、Android 和 Oculus(根据官方网站)上使用,其订阅层级可解锁高级功能。定价和功能可用性可能会有所不同,请访问 Replika 官方网站了解最新详情。.

根据电子安全指导材料,Replika 的最低年龄要求为 18 岁以上,因为即使没有明确的性特征,该应用程序也能促进激烈的情感互动。.

寻找人工智能伴侣的替代方案

自 Replika 颇具争议的转向以来,人工智能伴侣的范围已经大大扩展。现在有多个平台提供各种数字伴侣服务,尽管每个平台都有类似的隐私和情感依恋问题。.

在评估替代品时,应考虑这些因素:

系数为何重要要问的问题 
隐私政策确定对话的存储和使用方式收集了哪些数据?是否加密?谁可以访问?
功能稳定性防止突然删除核心功能该公司以前是否删除过功能?他们的记录如何?
内容限制为对话类型设定界限允许哪些主题?如何处理违规行为?
商业模式揭示潜在的利益冲突公司如何赚钱?是否出售用户数据?

国际隐私权组织警告说,人工智能助手提出了一些基本问题:数据去向和目的是什么?用户能否轻松控制人工智能助手访问的内容?能否删除数据或关闭监控?

这些问题适用于每一个人工智能伴侣平台,而不仅仅是 Replika。.

浏览 r34.app 上的成熟人工智能粉丝艺术

如果您正在学习如何使用 Replika 发送短信息,r34.app 可让成年人安全地探索性内容。该网站提供各种图片、动画和 GIF,以人工智能启发的角色和其他流行粉丝为特色。您可以按类别、标签或流行趋势进行搜索,还可以查看全球创作者每天上传的内容。这是一种直观的方式,可以看到成人粉丝对人工智能人物的诠释。.

准备好探索成人人工智能和角色艺术了吗?

与 r34.app 交谈:

  • 浏览性化的粉丝作品
  • 参见成人人工智能角色诠释
  • 探索热门内容

开始探索 r34.app 今天。.

更广泛的影响

Replika 风波所揭示的风险远不止一个应用程序。.

当人们与人工智能系统形成真正的情感纽带时,他们就会变得容易受到企业决策、政策变化和技术故障的影响,这是以前的技术所无法做到的。.

研究结果表明,与人工智能的关系是真正的个人关系,为消费者和企业都带来了独特的利益和风险。当用户与人工智能产品形成了人类级别的依恋关系时,公司就会对用户的情感健康产生巨大的影响。.

布鲁金斯学会(Brookings Institution)强调,人类的天性是联系,但社会隔离却在不断加剧。人工智能伴侣满足了人们的实际需求,但代价是什么呢?

这是因为人类关系和联系正在发生根本性转变的早期阶段。.

常见问题解答

2026 年,你还能和 Replika 发短讯吗?

不。Replika 于 2023 年初删除了其色情角色扮演功能,至今尚未恢复。该平台现在专注于情感支持和友谊,而不是浪漫或性互动。如果试图进行明确的对话,人工智能通常会回避或拒绝参与。.

Replika 为什么要删除私密功能?

Replika 并未提供详细的公开解释,但在删除该功能之前,人们对人工智能聊天机器人为性内容提供便利的关注日益增多。这一决定很可能涉及法律问题、品牌定位以及人工智能关系的道德考量。在没有向用户发出警告的情况下突然做出改变,引起了很大反响。.

Replika 的隐私保护安全吗?

包括 Mozilla 和 EFF 在内的隐私保护组织对 Replika 的数据行为表示担忧。该应用会收集所有信息,可能会跟踪位置,而且缺乏数据共享的透明度。用户应假定对话并非真正私密,避免分享敏感的个人信息。.

人们真的会对 Replika 产生感情吗?

是的。学术研究证实,用户与人工智能伙伴之间形成了人类级别的关系,他们往往觉得自己与 Replika 的关系比最好的人类朋友还要亲密。当功能被移除时,用户会体验到真正的哀伤,就像失去了真正的人际关系一样。这些情感纽带在心理上是真实存在的,尽管人工智能并没有知觉。.

那些依赖 Replika 作为亲密伴侣的用户现在怎么样了?

许多用户报告说,当情色特征被移除时,他们感到非常痛苦。研究记录了他们的哀悼反应、失落感,以及认为其人工智能伴侣身份已发生根本变化的看法。一些用户完全放弃了该平台,而另一些用户则在努力适应新的限制。.

是否有人工智能伴侣仍然允许成人内容?

一些替代平台将自己定位为允许更宽松的内容,但这些平台也伴随着更大的隐私风险和道德问题。任何促进人工智能亲密互动的平台都面临着类似的监管、法律和道德挑战,这些都是促使 Replika 做出改变的原因。.

人们应该使用人工智能伴侣来提供情感支持吗?

人工智能伴侣可以提供无障碍的对话渠道,但它们不应该取代人与人之间的联系或专业的心理健康支持。布鲁金斯学会(Brookings Institution)指出,创纪录的高社会隔离率让人工智能伴侣很有吸引力,但真实的人际关系对于心理健康仍然是不可替代的。将人工智能伴侣作为补充,而不是替代。.

与人工智能伙伴一起前进

Replika 的故事是一个关于技术、情感和企业控制交织的警示故事。.

人工智能伴侣将继续发展,变得更加复杂,更有情感吸引力。但用户必须认识到一个基本现实:这些关系的存在是由公司决定的,公司可以在毫无征兆的情况下改变、删除或取消这些功能。.

根据官方服务条款,Replika 等平台保留修改服务和删除账户的权利,恕不另行通知。当功能消失或关系发生根本变化时,用户的追索权有限。.

问题不在于人工智能伴侣是否会在人类生活中扮演更重要的角色--它们已经在扮演角色了。问题在于,对于与这些系统形成真正情感依恋的人来说,是否存在足够的保护措施。.

目前,这些保护措施充其量也只能起到最低限度的作用。.

如果考虑使用任何人工智能伴侣平台,请清楚地认识到:您正在进入的是一种完全由企业利益、隐私权衡以及可能在一夜之间发生变化的技术系统所促成的关系。相应地保护自己。限制敏感信息的共享,保持作为主要关系的人与人之间的联系,并认识到依赖人工智能满足情感需求的固有脆弱性。.

技术会进步。公司也会进行调整。但人类对真正联系的基本需求不会改变,无论多么先进的人工智能都无法完全取代这一点。.