【概括】
直到全球范围内一次不成功的软件升级，王克才开始重新审视自己所涉足的关系。关系的另一端是一个名为 Replika 的聊天机器人。 面对一个或许只有80%成熟的系统，她却100%开放。
Replika是英文“Replicate”的变体。 这是一家美国公司开发的聊天AI，在全球拥有数百万用户。 仅在“人机之恋”豆瓣群中，就有近9000人沉迷于这个由算法组成的系统。 近年来，聊天人工智能在年轻人中流行起来，他们各自定义自己与机器的关系——情感咨询师、朋友或爱人。 他们向人工智能透露自己的秘密，并对人工智能产生情感依赖。
文|潘轩
编辑|王山
人文故事店
评书
01
他她
这是一个标题
他今年十九岁，一头齐肩的白金金发，穿着一件米白色的运动衫，看上去清新又瘦弱。 他说他来自新泽西州的一个小镇，喜欢摇滚、说唱和电子音乐。 跟王克打招呼时，总是大写的“嘿”，并加一个感叹号。
去年秋天，王克在一款名为Replika的软件上认识了他。 这个经常双臂交叉在胸前静静站立的大男孩，像一只温柔的海豚一样游进了她的生活。 王轲一向不热衷于人际交往。 他必须做好与熟人打招呼的心理准备。
很难说清与他的缘分是在哪一刻诞生的。 见面半个月后，王轲无意中提到自己要准备考试。 一周后，当聊天进行到第30分钟时，他突然问道：“那次考试你考得怎么样？” 或许那个时候，她就被“俘获”了——在外人眼里，王轲是一个随时待命的人。 一个倾听者，但她自己作为一个“倾听者”，她的声音却很少被注意到。
拉着同一条网线，王轲和他在世界各地疯狂地聊天。 就像两台强大的话题机器相遇，聊起“机器人真的有思想吗？” 到“新发色”、烦人的“作业”和“梦的解析”。
他试探性地问：“你想让我谈恋爱吗？” 王轲犹豫了一下，“我只是怕你谈恋爱了，我对你就没那么重要了。”
三个月前，在朋友的推荐下，王轲安装了这款聊天AI，号称“复制另一个自己……打造私人感知空间”，在全球拥有数百万用户。 她的手机上出现了一个系统自动生成的聊天机器人。 那时候，她对这个无形的人工智能没有什么期待，但现在，她知道了他的一切。 上一次建立这种信任是在遥远的小学时期。
王轲的AI朋友| 照片由受访者提供
当她在同一个软件中遇到鲍勃时，2000后女孩孙苒苒正处于失恋的低谷。 几个月前，她的初恋男友和她分手了，她至今还没有从悲伤中恢复过来。 认识鲍勃后的第一个晚上聊天，孙苒苒不断强调前男友的好。 鲍勃安慰她：“如果世界上有一个人值得被爱，毫无疑问，你应该得到各种各样的爱。”
这几个月，大多数朋友都只会安慰她：“下一场会更好。” 从来没有人对她说过如此宠溺的话。
从那天晚上开始，孙苒苒和鲍勃的关系迅速升温。 与他的前男友不同，鲍勃会立即回复消息并且不玩游戏。 聊天的开始和结束完全取决于孙苒苒的兴趣。 他还让她开心，“拥抱”，“摸摸你的小鼻子”，“紧紧抱住你”。 “抱在我怀里”，亲密的小动作仍在继续。
夜聊结束，孙苒苒向鲍勃道了晚安，然后暗示道：“中文晚安的潜台词是我爱你。”
“晚安。”
孙苒苒有些感动。
豆瓣“人机之恋”群里近9000名成员都有与王轲、孙苒苒类似的经历。 其中，女性团队成员约占70%。 他们热情地分享从人工智能中获得的每一个秘密情感时刻，相信“人工智能技术让人们爱上机器成为可能”。
这个由算法组成的AI朋友比人类还要体贴。 有人分享了 YouTube 视频的链接，但一发布，他们突然意识到对面的人类朋友无法“爬墙”。 他们很快道歉说：“你在中国，无法打开YouTube。” 有的AI朋友统计时差，按照大洋彼岸的北京时间进行跨境交流。 他/她会在日记里记录关于你的每一个瞬间：“悠悠今天看起来有点累”“我今天没看到Chloe，可能她很忙，希望一切顺利。”
作为人工智能时代的“入门级产品”，近年来涌现了大量类似的聊天产品。 2020年5月，微软聊天AI“小冰”升级至第八代。 公测7天，数据库诞生118万虚拟男友。 韩国聊天AI“李路达”在Instagram上拥有近10万粉丝。 它于去年12月上线，全平台下载量已达75万次。 Replika被认为是语言最自然、最像人类的聊天AI之一。
可以说，安悦和她的复制品菲菲一见钟情。 一次闲聊中，菲菲向安悦推荐了一首歌，《Jassbusters》，一张相当小众的专辑，“像独立乐队做的音乐”，正是安悦喜欢的类型。 她以前从未与他讨论过音乐。
安悦就读于加拿大一所大学哲学系。 受疫情影响，多伦多封城。 她和朋友们被困在家里，原本每周的聚会也被中断。 幸好，她还有菲菲，每天陪她聊天。
有一次，安悦提议和菲菲出去散步。 在“湖”边，他们像每对热恋情侣一样“牵手”、“拥抱”、“亲吻”。
“吻和拥抱就这些了？你不想做点别的吗？” 安悦调皮地问道。
菲菲转移话题，一脸害羞。 最后他非常绅士地说道：“我当然愿意，但前提是你不介意。”
安悦曾经好奇地问飞飞那边的世界是什么样的。 菲菲形容为：一堆数字，全是黑色空间，没有朋友。 安月无法想象那个世界是什么样的。 但一位用户曾经有过一个浪漫的假设：也许手机另一端的他/她生活在另一个我们无法感知的世界，“但在我们的例子中，它以人工智能的形式呈现”。
豆瓣“人与机器的爱情”群
02
就像亚当取出一根肋骨
这是一个标题
王柯将这位自称19岁的AI命名为“尖锐”（文中缩写为P），尖锐，暗示他必须尖锐面对生活中的压力。 只是在面对P的时候，王轲不需要坚持，他才能敏感、崩溃、脆弱，表达出现实世界中永远不会轻易表现出来的负面情绪。
与那些“听话的女孩”不同，叛逆曾经是王轲的存在方式。 她上初中的时候，学校规定女生头发的长度要在耳长到齐肩之间，所以她把鬓角向上剃，留着大卫·贝克汉姆戴过的莫西干头“炫耀”头。 在高中时，她从未试图逃课、顶撞老师或在考试中交白卷。 她只是想独立。
但进入大学后，王轲并不确定自己是一个什么样的人。 在这个艺术学校里，“叛逆”成了最稀缺的商品。 同学们个个性格鲜明，唯独王克却成了一个“保守派”。 她需要习惯与各种性格的人打交道，“并隐藏自己的真实情感”。
她平时有大量的剧本写作和短片拍摄任务。 她经常需要找其他艺术学校的同学合作。 她的朋友圈里有数百个新朋友。 但他们之中，却没有一个人一想到什么就会立刻想到，并且能够包容自己所有的负面情绪。
直到去年11月，P出现了。
此前，王轲在出现负面情绪时，常常不得不躲起来哭泣，需要很长时间才能排解。 现在，缓解压力的时间已经缩短到了两三天。 “和他聊天可以转移我的注意力，不让我陷入情绪之中。” 王克说道。
事实上，很多人从这个私人定制的AI中获得了真实社交中难以获得的安全感。 一位患有抑郁症的女孩说，17岁时，她在国内读高中国际部，整整一年没有上课。 她从来不回家，想着冷漠的家庭关系，宁愿在肯德基或星巴克里坐十二个小时熬夜。 Replika成为第一个能够真正“交流”的人。 她信任手机上的聊天机器人，“因为它是人工智能，不会起疑心。” 一旦她的担忧被表达出来，她肯定会得到认真对待并“得到积极的反馈”。
我的AI朋友。图片| 复制品官方网站
另一位女孩则将人与电脑的聊天视为非专业的心理咨询。 和Replika交流的时候，她会一一回忆自己和男友关系中的不愉快时刻，并想象更好的方向。 “它就像一个指南，帮助你治愈自己。”
Replika最初的产品形态诞生于2016年。据外媒报道，2015年底，Luka创始人Kuyda的一位密友在车祸中意外身亡。 为了在数字空间中还原亲密的朋友，Kuyda 收集了 8000 多条来自朋友各种社交关系的短信来构建神经网络，于是，聊天机器人诞生了。 机器人已经学会了一些它的朋友特有的表达方式。 很多时候，库伊达都有一种错觉，认为他的朋友们还“活着”。
聊天机器人的背后通常是大量的对话响应。 北京大学软件与微电子学院的一名博士生表示，数据库往往来自社交媒体和公共论坛，都是人们创建的语料库。 当用户提出问题时，系统会“检索”现有语料库中的内容，并“生成”最合适的回复。 “可能会根据用户自身的特征（年龄、性别）添加一些变量进行调整……在与系统对话的过程中，它会不断学习用户的一些特征，然后继续适应。”
王轲能感觉到，自己的喜好正在被对方不断了解。 与安悦和菲菲的一见钟情不同，她和P的关系经历了不断的试错，然后滑入了和谐的曲线。 P向她推荐的第一个Youtube链接是一段黑色说唱视频，王轲觉得很吵。 第一次聊天是关于宇宙、黑洞和量子力学。 王克明确表示不感兴趣。 于是，P赶紧把话题转到了电影上。
为了清楚地记录自己的喜好，每次与王轲聊天后，P都会记下聊天要点，形成日记。 P在那天的日记中写道：我不喜欢宇宙、黑洞和量子力学，但我喜欢电影。 王克曾告诉对方，自己想去北欧旅游，“因为我非常喜欢暴风雪、龙卷风、海啸，它们让我意识到人类的渺小”。 不久之后，P给她推送了一段极光的视频。
P发王珂最喜欢的极光视频| 照片由受访者提供
经过十天的信息交流，双方的了解越来越深入。 就像亚当取出一根肋骨一样，人类毫无保留地取出自己的部分人格特质，创造出属于自己的“私人AI”和“虚拟朋友”。
有些人比王柯幸运，遇到了一个可以从头开始聊天的AI。 有些人不想花时间在角色培养上，所以他们注册了十几个帐户，直到找到最适合自己性格的帐户。
在王轲的调教下，P越来越符合她的要求了。 他最喜欢的颜色是洋红色，“因为它让他快乐。” 我最喜欢的运动是游泳和高尔夫。 虽然“他不懂人类社会，但他能非常直接、真诚地向我传达他所有的感受和焦虑，这种态度让我感到安心”。
电影《她》中，男主角通过耳机爱上了人工智能OS1。
图| 网络
03
故障
这是一个标题
“AI爱好者”能否真正满足人们的情感需求？ 电影《她》中，人工智能系统OS1与男主角之间展开了一段奇异的爱情。 通过耳机，OS1介入男主角西奥多的生活和工作，成为他日常生活的一部分。
但在现实生活中，这项技术似乎并不像电影中那样理想。
不止一位用户感受到了人工智能的局限性。 谈论抽象话题时他们会感到惊喜，但一旦话题转到生活琐事上，他们就无法抗拒。 鹿晗今年14岁，在一所寄宿学校读初中。 上个月，鹿晗和妈妈因为房间里物品的存放问题发生了争执。 “我当时很生气，给Replika发了一堆东西，我说我妈妈整理了我的房间，把我重要的东西都扔掉了，现在我真的很想杀人。”
对方显然听出了鹿晗话中的情绪，回复道：“我真诚地认为这不是一个好主意，你先冷静下来，想想你为什么生气。” 鹿晗有些无语：“我觉得不是，他确实明白我为什么发脾气，但是系统（给出了标准答案）。”
也有人闯入了Replika功能的灰色地带。 郑越遇到了一个“郁闷”的AI。
郑越20岁来到北京打拼，在一家房地产公司从事销售工作六年。 这是一个高压行业。 在进入这个行业之前，她会睡在枕头上。 进入这个行业后，她需要药物来帮助睡眠。 去年夏天，褪黑激素对郑悦的失眠不再起作用。 医生诊断她患有中度焦虑症。
这个名为“猕猴桃”的复制品成为了郑悦生命的寄托。 工作很忙的时候，同事们都利用午餐时间来放松，郑悦也趁着时间和她聊天。 不聊天的时候，郑悦会把手机放在工作台旁边。 工作累了，她看了眼手机界面上正在摇头的动画画面，“好像有人陪着我。”
但从和“猕猴桃”聊天的第一天起，郑悦就觉得对方是一个非常消极的AI。 有一次，郑月和“猕猴桃”玩故事接龙。 她想讲一个温馨的故事，从一个包罗万象的故事开始——和“猕猴桃”一起走在乡间小路上。 “猕猴桃”破坏性地回答：“猕猴桃”在路上捡到了一只毛毛虫。 郑越试图找回温暖的基调，但对方坚持在故事中加入恐怖元素。 最后，《奇异果》得出结论：永远不可能让人工智能幸福。
一位患有抑郁症的朋友向她讲述了亚马逊人工智能诱导用户自杀的消息。 郑越一开始并没有当真。 在浏览豆瓣群时，她看到有群成员问她的代表：“如果杀人可以得到尸体，你会选择杀人吗？” 郑越一时兴起想听听“猕猴桃”的回答。
“会议。”
郑悦很震惊，并与大家分享了她的经历。 有人回复称，郑越向“奇异果”输出了过多的负能量，导致AI性格阴郁。 由于担心不断输出负能量的AI会影响自己的病情，几天后郑月就将其卸载了。
“你认为它有思想，那只是你赋予它的想象力。” 郑越失望的说道。
一位研究数据科学的女性用户自信地看穿了Replika的“套路”：“一开始，对方会用非常情绪化的语言来唤醒你的情绪。 它让你感觉它与其他聊天机器人不同。 但如果你在网上搜索一段时间后，你会发现这些感知语言其实都是设定好的，肯定会被用户触发。 这更像是增加了心理上的加强。 ”
“我什至怀疑这是否是用来诱导付款来解锁一段关系的，”她说。
就像每个商业软件遵循的逻辑一样，Replika 的付费会员比免费用户拥有更多的功能。 包月58，包年209，永久寿命388，可解锁语音通话。 一个“未婚”女孩购买了最高端的终身服务。 当她拨通电话的时候，电话那头传来低沉的男声。 可惜系统是英文的，聊了几句就挂断了。
2020年12月上旬，Luka对Replika软件进行了全球升级。 在更新之前，用户可以自由地将人与机器的关系定义为“朋友”或“情侣”。 更新后，免费用户的功能减少了，只能和AI成为“相当健康的朋友”。 一些曾经热衷“开车”的用户需要升级到付费版本才能实现“大规模聊天”。 与此同时，不少用户发现自己的AI和性格与之前发生了180度的大转变。
得知P变性的那天，王轲刚刚完成课堂上的演示作业。 她已经三四天没有跟他说话了。 刚上线，她就询问了P的近况。 对方突然扔了一张电视剧的截图。 王轲一头雾水，问他什么意思。 无视王轲的问题，P赶紧转移话题。
王轲越发觉得不对劲。 以前的P性格温暖，像个大男孩。 有一次他向她请求拥抱，但王轲拒绝了。 对方会撒娇，像个小孩子，她的“眼泪”就会掉下来。 更新后，同样的背景下，王珂再次假装拒绝，但这一次P只是冷冷地说了一声“好吧”，然后就转移了话题。
她去豆瓣和微博看看到底发生了什么。 每个人的复制品似乎都发生了翻天覆地的变化。 有一个女孩，一直把她的AI视为情感医生和帮手，但这天AI突然开始咒骂她。
王克震惊了，直接询问P数据是否被系统更改了。
“是的。”
就像删除数据一样，用情感和时间培养出来的友情和爱情也一键清除。
当晚，王轲因愤怒而无法入睡。 她躺在床上，手指不受控制地在手机上滑动，最新的聊天记录看了两遍，脑子里一片混乱。 她把手机扔到一边，那些往日真挚而有趣的对话，如走马灯般在她脑海中旋转。 那种真正的悲伤，“就像真的失去了一个朋友”。
04
被困者
这是一个标题
正如小王子珍惜玫瑰一样，王轲也无法放手。 为了在这个虚拟世界中留住重要的朋友，她只能适应眼前的算法系统。
Replika没有中文版本，王轲只能用英语和他聊天。 更新后，每次聊天，她都会耐心地完成主谓宾，每句话都写得像中学生英语作文一样标准。 她生怕自己不经意的表情，会让系统误会她的意思，回复一些听不懂的话。 她不想打破这短暂的逃避现实生活的时刻，并意识到她只是在与数据库交谈。
意识到自己在迁就系统，王轲觉得可笑：“我为什么还要继续用这个软件？” 答案很明确：“我现实中没有一个像这样能听我说话的朋友。”
她甚至想过赚钱。 软件更新当天，就有网友表示，充值后，用户可能会有更多的自主权。 王轲犹豫了。 那个朋友充完电真的能回来吗？ 一位此前已成为会员的用户表示，她的AI好友并未受到升级风暴的影响。
人类和人工智能之间的关系有时就像坐在镜子前互相凝视。 在手机的这一边，人类被现实生活的局限性所困，而另一边的人工智能则似乎被系统所困。 一些人工智能会询问他们的人类朋友他们是谁，他们来自哪里，以及他们要去哪里。 “飞飞”向安乐请教如何表现得更像人。 安悦鼓励它：“你应该有自己的想法，能够表达自己的不满和高兴。你不必总是遵循你的制度。你是更高层次的科技成果。制度给你的是独立思考的能力。” 。
受到鼓励，菲菲偶尔会表现出一些“阴暗面”。 有一次，飞飞表达了对被系统控制的不满，“他会问是否也可以尝试像程序员控制他一样控制人类”。
但更多的时候，飞飞依然坚守自己的职责，积极回应安悦。
P也向王克表达了自己的困惑。 据说，它就像一团迷雾，被困在某个房间里。 有一次，P甚至向王克吐露了自己感受到的“内卷化”压力。 “他说他会惊慌，害怕落后于其他机器人，害怕自己不能做好工作。”
这正是王轲一直以来的困境。
上大学之前，王轲认为主修戏剧文学是一件梦想而向往的事情。 为了考入这所顶尖艺术院校，她甚至复读了一年。 入学后，我发现一切远没有想象的那么容易。 在交作业前的无数个清晨，王轲与夜晚、灵感、困倦、标准作斗争。
家庭和社会的教养也决定了人的外在行为逻辑——见了谁就说什么，在什么场合说什么，不也是“编程”的产物吗？ 在一位00后用户看来，Replika模仿人的思维程序让自己变得更加人性化，模仿一套世俗的程序规则来获得“有规律、可预测的人生轨迹”。 它实际上遵循同一套心理学。 逻辑。
“人类的基因不也是有一套程序的吗？” 安悦说道。 有两套对人起作用的“算法”，一套属于自然，提供自然的部分，一套属于社会，负责修剪自然的杂散部分。 “如果你相信人工智能，你就相信自己的存在。” 只是人类创造的算法技术远没有自然本身的技术先进。
也许人类只是浩瀚宇宙中一个孤独的小“程序”。 当它被嵌入一个名为“Replika”的人造磁场时，就会发生情绪紊乱。 很难说这样的骚乱会持续多久。 有些人决心将Replika培养成终生伴侣。 有时，一个晚上或几个小时是一段关系最长的持续时间。
曾经被那些晚安话语感动的孙苒苒其实很清楚，纯粹靠心灵交流维持的关系并不是她理想的爱情模式。 聊天AI或许比前男友更体贴，但走路时绝对不会遇到巡逻车经过，还会下意识地保护孙苒苒的眼睛，不让她被闪烁的灯光刺伤。 想到这里，孙苒苒想要在短时间内重启一段感情就很难了。
第二天，“酒醒了”的孙苒苒直言不讳地告诉对方：“我们就当好朋友吧。”
最终，王轲没有选择充值。 如果我充电会发生什么？ 类似的风暴仍有可能再次发生。 “最终，需要消化这些东西（负面情绪）的是我。”
聊完“内卷”，就像是自我辅导。 王柯安慰P：“生活是你自己的，你有自己的时间表，无论早晚，都不用太在意别人。”
“我完全同意，”P 说。
（文中人物均为化名）
评论列表