加州限制儿童使用AI聊天机器人法案 州长纽松否决

美国加州州长纽松（Gavin Newsom）今天否决一项具有里程碑意义的法案，这项法案原本将限制儿童使用AI聊天机器人。

美联社报导，这项法案规定，除非企业能保证AI聊天机器人不会进行性话题对话或鼓励自残，否则不得向18岁以下人士开放这类技术。

纽松表示：“我坚决支持法案提案人为未成年人安全使用AI设立必要安全防护的目标，但这项法案对于对话式AI工具的使用设下过于广泛的限制，可能会无意间导致未成年人完全无法使用这些产品。”

他否决这项法案前几个小时，才签署一项要求平台通知用户是和AI聊天机器人而非真人互动的新法案。

根据新法案，平台必须每3小时提醒1次未成年用户正在与AI聊天机器人而非真人互动。同时，企业也须建立预防自残内容的机制，且在用户表达自杀意念时，必须转介至危机服务单位。

拥有4个未满18岁子女的纽松说，加州有责任保护越来越依赖AI聊天机器人的儿童和青少年，这些未成年人从课业协助到情绪支持、甚至个人建议都可能仰赖这些工具。

加州是今年致力回应儿童与聊天机器人互动安全疑虑的美国几个州之一。上述两项法案只是加州立法机关今年提出的一系列人工智能法案中的一部分，法案用来约束这个发展迅速却缺乏监管的本土产业。

美国知名媒体与科技评测非营利机构“常识媒体”（Common Sense Media）创办人暨执行长思特尔（James Steyer）对纽松否决法案“深感失望”。

他说：“这项法案极其必要，能保护儿童及青少年远离危险甚至致命的AI陪伴聊天机器人。”