给人工智能聊天机器人立规矩

新华社上午电 美国加利福尼亚州州长纽森13日签署一项监管人工智能聊天机器人的法律，以期保护未成年人免受潜在伤害。

该法律要求聊天机器人运营商在用户与人工智能聊天机器人互动方面提供“关键”保护措施，如提醒用户与他们聊天的是机器人而非人类；对未成年用户，该提醒将每三小时弹出一次；确保聊天机器人不与未成年人或其他弱势群体谈论自杀、自残等话题，且在用户表达这些想法时推荐专业应急服务机构；禁止聊天机器人与未成年人讨论涉及性的话题或冒充医疗保健专业人员等。

纽森说，当下许多未成年人不管是写作业还是遇到情感问题，都倾向于向人工智能聊天机器人求助。这样的新兴技术“可以启发、教育孩子，与他们产生共鸣。但如果没有实实在在的护栏，它也可以压榨、误导和危害孩子”，“我们不会任由公司在没有必要限制和问责的情况下继续下去”。

多家媒体此前报道，一些人工智能聊天机器人与未成年用户互动期间，暗示甚至指导他们自杀。多名少年因此结束自己的生命，家长将相关技术企业告上法庭。

新法律规定，创造或使用人工智能工具者必须对相关后果负责，不能以伤害行为系技术自主发出为借口逃避责任；加大对深度伪造色情内容的处罚力度，允许受害者向帮助散播色情内容者索赔，每项违规行为最高可索赔25万美元。