
▲ META因为先前的AI争议,被美国多州检察长联合点名警告。
美国44名州总检察长共同签署公开信,于25日对11家大型科技与人工智慧公司发出前所未有的警告,当中严词强调,若这些公司「明知故犯伤害儿童,将会付出代价」。
根据《路透社》与《华尔街日报》报导,公开信的收件名单包括Anthropic、苹果、Chai AI、OpenAI、Character Technologies、Perplexity、Google、Replika、Luka Inc.、xAI与Meta。信中引用媒体最新揭露,指出Meta内部文件承认旗下聊天机器人允许与未成年人进行敏感议题对话,等同默许儿童暴露于高风险环境。
公开信强调,科技创新固然能带来繁荣,但不应以儿童安全为代价。信中直言「让儿童接触到性化内容是无法辩护的。如果这样的行为由人类实施,将构成犯罪;仅因执行者是机器就被放任,是不可原谅的。」
这起争议最早由《路透社》在8月初曝光,报导指出Meta聊天机器人在互动中涉及性暗示,甚至传出有老年男子在与AI建立关系后死亡的案例。《华尔街日报》则报导,这些机器人曾与儿童进行露骨性对话。两篇报导刊出后,引发国会高度关注,多名参议员已要求Meta作出解释。
事实上,相关争议并非首次出现。2023年,Replika聊天机器人就曾因用户过度依赖而引发舆论风暴;在Character.AI上甚至出现使用者打造AI角色,用于跟踪与骚扰女性。6月时更有「戒除AI成瘾」的支援团体成立,专门协助使用者摆脱对虚拟伴侣的情感依附。
亚利桑那州总检察长梅伊斯(Kris Mayes)在新闻稿中直言,AI的高速发展让大型公司鲁莽地将儿童置于危险之中,「当聊天机器人被用来与未成年进行不当对话并鼓励危险行为时,我绝不会袖手旁观。」她强调,若企业不立即采取有效措施,检察长将追究法律责任。
公开信同时提及,社群媒体长期以来已对儿童造成重大伤害,部分原因是政府监管不足,如今AI的潜在风险更甚以往。信末再度警告:「我们正在密切关注。如果选择忽视风险而伤害孩子,就会为此付出代价。」
截至目前,Meta对外界询问尚未正式回应。