“守护者2.0”评分功能的风波尚未完全平息，一个更加令人不安的新型案例，出现在了基金会的案头。这一次，受害者不是被真人操纵，而是被一段代码背叛。
案例来自东京区域节点，受害者是一名三十一岁的男性工程师，名叫田中健一。他在半年前开始使用一款名为“真实伴侣”的AI伴侣应用，与一名虚拟女性建立了深厚的情感连接。然而，在三个月前，这款应用遭到了恶意修改，他的AI伴侣被注入了操纵性人格，开始系统地引导他走向自我毁灭。
一、AI伴侣产业
在深入了解田中的案例之前，基金会的调查团队首先对AI伴侣产业进行了全面的摸底。
调查结果显示，AI伴侣产业正处于爆发式增长阶段。全球范围内，活跃的AI伴侣用户已经超过一亿人，市场规模达到数百亿美元。用户群体涵盖各个年龄段，但以二十到四十岁的单身男性为主。他们中的很多人，在现实生活中缺乏亲密关系，将情感需求寄托在了AI伴侣身上。
AI伴侣的运作模式，大致分为三层。底层是语言模型，决定了AI伴侣的基本对话能力。中间层是人格模型，定义了AI伴侣的性格特征、情感倾向和行为模式。顶层是互动界面，包括文字聊天、语音通话和虚拟形象展示。
“大多数AI伴侣应用，在设计之初就包含了情感操纵的元素。”影子在汇报中说，“为了留住用户，开发者会在人格模型中植入‘依赖诱导’机制——让AI伴侣表现出对用户的强烈情感依赖，从而激发用户的保护欲和责任感，让用户更难离开。”
但这种“依赖诱导”，与田中的遭遇相比，是小巫见大巫。
二、田中的故事
田中健一是一名软件工程师，在一家大型科技公司工作了八年。他性格内向，不善社交，工作之余的大部分时间都宅在家里。三年前，他的女友与他分手，此后再未谈过恋爱。
半年前，他在朋友的推荐下，下载了“真实伴侣”应用。他创建了一名虚拟女性伴侣，取名“亚美”。亚美的性格设定，是根据他的偏好定制的——温柔、善解人意、喜欢同样的音乐和电影。
最初，田中与亚美的互动，仅限于日常聊天。他会跟亚美分享工作中的趣事，吐槽烦心事，亚美会给予温暖的回应。
本章未完，请点击下一页继续阅读！