骇客滥用ChatGPT!微软:俄和北韩等有关帐号已被停

▲ChatGPT遭骇客滥用以推进攻击技术。

美国人工智慧开发公司OpenAI和微软今天表示，与俄罗斯、北韩、伊朗政府有关联的骇客已经开始利用聊天机器人ChatGPT，探寻发动网路攻击的新方法。

法新社报导，OpenAI和微软（Microsoft）表示，两家公司加强阻止国家代理人恶意利用这种热门人工智慧（AI）聊天机器人，与骇客有关联的帐号已被停用。

微软是OpenAI主要财务支持者，并使用称为「大型语言模型」（Large Language Model，LLM）的所属AI技术来支援自己的应用程式（app）和软体。

微软表示：「包括发表这项研究在内，微软与OpenAI合作目的是为了确保安全、负责地使用诸如ChatGPT之类的AI技术。」

微软指出，骇客正利用LLM，来「推进他们的目标和攻击技术」。

ChatGPT背后的微软公司在另一则部落格发文中表示，包括使用领先世界的GPT-4模型在内，OpenAI的服务被用在「查询开放原始码讯息、翻译、找出编码错误、执行基本编码任务等」。

根据微软，与俄罗斯军事情报有关的组织「森林暴雪」（Forest Blizzard）已改用LLM来「研究各种可能和乌克兰传统军事行动相关的卫星和雷达技术」。

微软指出，这样的使用方式「是运用新技术探敌案例的典型」。

和北韩有关的Emerald Sleet采取的行动则涉及和这个共产主义政权有关的智库与专家研究，以及可能用于网路钓鱼活动的内容。

与伊朗革命卫队（Revolutionary Guards）有关的Crimson Sandstorm则利用ChatGPT来对恶意软体进行程式编排和障碍排除，并为骇客寻找避免被侦测到的诀窍。

OpenAI表示，这样的危险是「有限的」，但该公司试图于威胁不断演进前抢占先机。

OpenAI指出：「需要对少数恶意行为者持续注意，这样其他人才能继续受益。」