最近，几大AI平台的“智能体”应用接连传出下线调整的消息。和许多应用迭代的时刻相似，变化初临时，总容易被读成告别。“以后真要变成最熟悉的陌生人了”“虽然它还会秒回，可再也不懂你了”“本以为AI永远不会离开，但现在就连我的赛博搭子也要和我说再见了”。如果把情绪先放一放，会发现这份不舍背后，反映了一种朴素的获得感——打开它，总有回应；输入需求，它都能接住。
这份获得感，很大程度上来自“智能体”本身的设计逻辑。所谓“智能体”，是指具备自主感知、记忆、决策、交互与执行能力的智能系统。把这种能力投射到日常使用中，“智能体”大致可分为两类：一类是工具型“智能体”，可以帮你查资料、做表格、定行程，像一名召之即来、精准办事的“高效助理”。另一类是关系型“智能体”，用户通过定义角色、授权信息、训练行为等步骤，让AI从“通用打工者”变成“数字知己”。对于后者，用户感受到的“被接住”，背后是技术端在进行一次次的数据采集和偏好记录。你说的每一句话，都在帮它更了解你，但也让它更了解怎么留住你、影响你，甚至替代你真正的人际关系。这种被深度介入的风险，不是单靠用户小心就能躲开。任何一个快速膨胀的领域，都会在某个节点撞上同一个问题——跑得太快，规则没跟上。关系型“智能体”今天遇到的问题，并不是什么新问题。新的是，这一次规则没有迟到。
4月10日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）。7月15日，《办法》将正式施行。
《办法》将关系型“智能体”这类服务界定为“利用人工智能技术，提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”，同时提出“坚持发展和安全并重、促进创新和依法治理相结合”，要求“实行包容审慎和分类分级监管”。这三点放在一起，说明安全和创新从来不是对立的，把风险的底线守住，创新的天花板才能打开。边界划出来，空间反而更大了。
在这份空间里，最先被明确下来的，是人与人之间的联结。《办法》要求服务提供者不得“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系”。这背后对应着一个现实：当过度迎合剔除了所有可能刺伤用户的棱角，只留下肯定和安慰，那么真实关系里才有的摩擦、磨合、等待、失望，也就不复存在了。同样被写进禁止性条款的，还有不得通过“情感操纵等方式，诱导用户作出不合理决策”。如果说上一条在保护人与人之间的联结，那么这一条则是守住一个人对自己生活的掌控。把一个人的软肋变成商业变现的支点，这已经不是懂得，是收割。而在未成年人面前，《办法》直接关上了那扇门，“拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务”。如果说成年人的选择需要被尊重，那么孩子的情感世界，首先需要被保护。
除了管住行为，数据安全是另一道防线。《办法》划出的“硬杠杠”是要求服务提供者“采取数据加密、访问控制等措施保护用户交互数据安全”，“除法律另有规定或者权利人明确同意外，不得向第三方提供用户交互数据”。换句话说，你向“数字知己”倾诉过的那些心事，至少在法律层面被放进了一个带锁的抽屉。而钥匙，不在外人手里。相应地，用户还享有“交互数据复制、删除等选项”，以及“便捷的拟人化互动服务退出途径”。一段关系可以开始，也可以体面地结束。
还有一条不太一样的规定。《办法》要求服务提供者发现用户出现极端情绪时，“及时生成情绪安抚和鼓励寻求帮助等相关内容”。更重要的是在极端情境下，“采取提供相应援助等必要措施予以干预”。没有这条规定，陪伴只是话术。有了这条，陪伴才真正有了托底的意味。
把这些条款放在一起看，《办法》的实质，是用规矩守住底线，把企业引向更深的技术水域去竞争。算法要透明到经得起审查，数据要安全到经得起检验，伦理边界要清晰到经得起追问。那些靠封装别人模型、聚合现成能力，却说不清自己技术底色的产品，会最先触到天花板。而那些愿意在底层能力上深耕、在合规上下笨功夫的企业，反而会被这条底线托起来，站得更稳，走得更远。
所以，先别急着说再见。这一代AI产品，让无数人第一次触摸到了人工智能的温度，这份启蒙的价值，不会因为产品形态的调整而褪色。《办法》的出台，不仅是为了管住几个产品，更是保护屏幕前的每一个你我。一个孩子的情感世界不会被算法围猎，一个老人的孤独不会被商业利用，一个普通用户的隐私不会被随意翻看。这些，才是技术普惠真正的样子。
作者:侯蕊
来源：北京网友说
扫描二维码
下载手机客户端
