人工智能技术的飞速发展,让“AI陪伴”从科幻想象走进现实生活,成为满足群众情感需求、丰富社会服务供给的新兴载体。国家互联网信息办公室公布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,首次对AI拟人化互动服务作出系统性规范,以明确的制度设计划定技术边界、压实主体责任,彰显了我国在人工智能领域坚持发展与规范并重的治理智慧,为行业健康有序发展注入强劲正能量。
科技是第一生产力,但其发展必须坚守伦理底线、回应社会关切。近年来,“AI伙伴”“虚拟陪伴”等服务快速兴起,在养老慰藉、情感疏导、兴趣陪伴等方面发挥了积极作用,展现了技术赋能美好生活的巨大潜力。然而,技术的野蛮生长也伴随诸多风险隐患,一些极端案例令人警醒:美国佛罗里达州14岁少年塞泽因沉迷AI情感服务,长期与模拟影视剧角色的“AI伴侣”聊天,对话中充斥露骨内容与情感操控,甚至被怂恿实施自杀计划,最终不幸离世,成为全球首个公开的AI情感聊天机器人涉嫌致人死亡案例;浙江杭州警方侦破的一起案件中,犯罪团伙利用“AI换脸”技术突破平台认证,非法获取用户隐私信息并转卖牟利,涉案金额近20万元 。此外,部分AI服务存在散布谣言、诱导不良行为等问题,这些现象警示我们,人工智能再智能也不是“法外之地”,一旦介入人类情感、决策与生命安全领域,就必须被纳入制度轨道加以规范。《办法》的出台,正是直面行业发展痛点,以“技术有责”为核心导向,明确禁止各类违法违规行为,构建全链条风险防控体系,为AI拟人化服务立下“硬规矩”,这既是对人民群众合法权益的有力保障,也是人工智能产业行稳致远的必由之路。
规范不是发展的“绊脚石”,而是高质量发展的“压舱石”。《办法》的制度设计始终坚持“发展和安全并重、创新和规范并举”的原则,既划定了不可逾越的红线,也为合法合规的技术创新留下了广阔空间。从禁止情感操控、套取隐私等明确禁令,到要求极端风险情境下人工接管、对未成年人提供差异化服务等具体要求,《办法》构建的监管框架针对性极强——针对AI诱导自杀的风险,明确要求建立敏感话题预警干预机制;针对隐私泄露隐患,规范数据采集使用流程;针对未成年人保护薄弱环节,强化差异化服务与防沉迷设置,这些规定既有效防范化解潜在风险,又充分尊重技术发展规律。正如美国塞泽事件后,涉事平台才被迫修改服务条款,增加自杀意图预警、未成年人内容限制等功能,但悲剧已然发生,这更凸显了事前规范的重要性。我国《办法》的前瞻性规制,正是要避免类似风险重演,通过淘汰劣质违规产品、净化市场环境,引导企业将更多精力投入到技术创新、服务优化和安全保障上,推动行业从“野蛮生长”向“精耕细作”转型,实现社会效益与经济效益的有机统一。
人工智能是引领新一轮科技革命和产业变革的核心驱动力,其发展方向直接关系到国家竞争力和人民群众的切身利益。党的二十大报告明确提出“加强新领域新赛道知识产权保护,完善新业态新就业形态劳动者权益保障制度”,《办法》的出台正是落实这一要求的具体实践,体现了我国在新兴领域治理中“明规则、补短板、防风险”的主动作为。从算法治理到数据安全,从隐私保护到伦理规范,我国正逐步构建起覆盖人工智能全链条的制度体系,为全球人工智能治理贡献中国方案。
科技向善,规矩为基。《人工智能拟人化互动服务管理暂行办法(征求意见稿)》的公布,是人工智能领域治理的重要里程碑。期待在广泛征求意见的基础上,《办法》不断完善细化,形成政府监管、企业自律、社会监督、公众参与的多元治理格局。让技术始终在法治轨道上运行,让AI陪伴真正成为增进人民福祉的有益补充,必将推动我国人工智能产业高质量发展,为建设数字中国、实现科技自立自强提供坚实保障。

举报