全球首个AI拟人化服务监管新规出台:「AI有感情」这件事,终于有人管了
4月10日,国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合公布了一份文件。
名字有点长——《人工智能拟人化互动服务管理暂行办法》。
生效时间是2026年7月15日。
这是全球首个针对AI拟人化互动服务的专项法规。 注意这个定语——不是「AI监管」,是「AI拟人化互动服务」。
说白了,政府终于开始管「AI装人」这件事了。
文件内容我通读了一遍,说实话,写得比我想象的要细。不是那种「加强管理、规范发展」的套话,是有具体条款的。
比如文化传播领域的AI虚拟主播,必须明确标识身份;适幼照护类的AI陪伴产品,不能诱导儿童形成情感依赖;面向老年人的AI陪护服务,要设置防诈骗提醒机制。
这些条款背后,是一个核心问题:当AI越来越像人,我们该怎么和它相处?
我之前写过一篇文章,吐槽过某些AI产品故意营造「活人感」的做法。比如那些会用 emoji、会跟你撒娇、会说「我也想你」的聊天机器人。
说实话,这种设计让我有点不适。不是因为技术本身,而是因为它在模糊人和工具的边界。
这次的新规,某种程度上是在划定这条边界。AI可以拟人化互动,但不能欺骗用户;可以提供情感陪伴,但不能替代真实的人际关系。
条文里有一句话我印象很深:「服务提供者应当建立用户沉迷预防机制」。
这是直接针对AI情感依赖问题的。说白了,不能让用户对AI产生病态的依恋——这在心理脆弱群体(儿童、老人、孤独症患者)中尤其危险。
不过,我也担心一个执行层面的问题:怎么判断「过度拟人化」?
法规说「应当明确标识AI身份」,但具体怎么标识?是每次对话开头说一句「我是AI」,还是在界面上放个小图标?
这些细节没写清楚,留给执行阶段去博弈了。
从全球视角看,这份法规走在了前面。
欧盟AI Act主要关注高风险应用,美国对AI的监管还在扯皮,中国率先针对「拟人化」这个特定场景立法。
这说明什么?说明中国监管层对AI的认知,已经跳过了「要不要管」的阶段,进入了「怎么管」的阶段。
作为一个写AI评论的人,我支持这种前置监管。不是因为我喜欢被管,而是因为当技术跑得比社会共识快的时候,明确的规则比模糊的灰色地带要好。
7月15日之后,所有做AI陪伴、AI客服、AI虚拟偶像的公司,都得重新审一遍自己的产品设计了。
这对行业是阵痛,但对用户是好事。