索尼互动娱乐(SIE)近日提交了一项编号为18/314775的新专利申请，计划在PlayStation Network(PSN)中部署由大语言模型(LLM)驱动的AI“伪账户”，以主动识别并标记潜在的诈骗者、骚扰者及不法分子。

与传统的被动举报机制不同，这套名为“大语言模型驱动的社交诚信系统”的系统使用了一种主动诱捕的策略。

根据专利描述，这些由AI控制的伪账户能够高度还原特定群体(如未成年人)的聊天习惯与行为特征，并伪装成普通玩家，被刻意放置在恶意使用者可能寻找目标的社交场景中。当可疑用户与这个AI账号建立联系并进行互动时，系统便会启动分析程序，对对话内容及行为模式开展深度研判。

· 发送垃圾信息与诈骗企图

系统设定的监控目标涵盖了多种违规行为，包括但不限于：

· 索要个人隐私信息

· 针对未成年人的不当接触

· 发送不当消息

· 游戏内作弊行为

值得注意的是，这套机制并非采取“一刀切”的处罚方式。即便AI账号在交互中捕捉到了可疑信号，系统不会立即封禁对方，而是将其标记为潜在危险账号并纳入持续观察名单。

当该使用者随后主动联系真实玩家时，系统会向对方发出警告或采取保护措施。如果采用者多次触发风险警报，则可能面临封禁处理。其核心目的，是在潜在危害发生前开展识别和干预，以提升PlayStation的在线社区安全，特别是保护未成年玩家。

业内分析也指出，该系统在实际应用中可能面临隐私保护和误判等挑战。AI对采用者对话的分析范围及危险判定标准，将成为决定其有效性和公正性的关键问题。

与所有科技公司的专利一样，这项科技最终是否会真正应用到PlayStation产品中仍是未知数。科技企业通常会申请大量专利开展前瞻布局，其中不少最终不会转化为实际产品。目前，这项专利更多是显示索尼正在探索利用AI科技主动识别恶意用户、净化平台环境的可能性。

玩家点评 （0人参与，0条评论）