阻止AI毁灭人类 微软谷歌等公司成立“自治组织”
文章来源: 36氪 于
- 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
当监管的目光开始频频投向 AI,科技巨头们正在用自愿倡议的方式占据主动权。
美国时间 7 月 26 日,OpenAI、微软、谷歌和 Anthropic 等四家 AI 领域巨头宣布成立行业组织 "
前沿模型论坛 "(Frontier Model Forum),目的是 " 确保前沿 AI 开发的安全和负责任 "。
7 月初,OpenAI 曾就 " 前沿 AI 监管 " 发文,将 " 前沿 AI"
模型定义为:具有造成严重公共安全风险能力的高性能基础模型。
来源:OpenAI 推特
声明指出,论坛的核心目标包括如下四点:
推动人工智能安全研究,促进前沿模型负责任的发展,最大限度降低风险,实现对 AI 能力与安全的独立、标准化评估。
确定负责任前沿模型开发和部署的最佳做法,向公众普及 AI 技术的性质、能力、限制与影响。
与政策制定者、学者、民间社会和公司合作,并分享有关 AI 信任和安全风险的知识。
针对解决当前社会最大挑战,如气候变化减缓和适应、早期癌症检测和预防,以及网络威胁应对,支持开发相关应用。
这些目标与四家公司上周五在白宫作出的自愿承诺基本一致,当时共同作出承诺的公司还有 Meta、亚马逊和
Inflection。
" 开发人工智能技术的公司有责任确保其安全、可靠,并处于人类控制之下。" 微软总裁布拉德 · 史密斯在声明中强调。
论坛的成立体现了行业巨头在 AI
安全方面的积极态度,但这些公司也希望借此换取更大的主动空间——用主动合规避免被动监管,甚至在一定程度上参与规则的制定。
四家公司发布的声明中表示," 前沿模型论坛 " 希望支持和推动现有政府和多边倡议在人工智能方面的工作,包括七国集团(G7)广岛
AI 进程,经合组织(OCED)关于 AI 风险、标准与社会影响的工作,以及美欧贸易和技术理事会(TTC)的相关工作。
在接下来的数月内,该论坛将首先建立起一个顾问委员会,以帮助指导论坛的战略和优先事项。声明称,该委员会将 " 代表不同的背景和观点
"。在未来几周内,还将与民间社会和各国政府,就论坛的设计与合作方式展开磋商。
未来一年,前沿模型论坛将重点关注确定最佳做法、推动 AI 安全研究、促进企业与政府间信息共享等三个关键领域,并欢迎其他前沿 AI
模型开发者加入论坛。
-->
`,
"script":[{"type":"text/javascript","src":"//widgets.outbrain.com/outbrain.js","async":"async"}]
}
, "gg_rightside": {
"html":`
`,
"script":[{"type":"text/javascript","src":"//widgets.outbrain.com/outbrain.js","async":"async"}]
}
, "gg_duturandom": {
"html":`
`,
"script":[]
}
, "gg_square": {
"html":`
`,
"script":[]
}
, "gg_topbanner": {
"html":`
`,
"script":[]
}
, "gg_middlesquare": {
"html":`
`,
"script":[]
}
, "gg_dutu": {
"html":`
`,
"script":[]
}
, "gg_botline": {
"html":``,
"script":[]
}
, "gg_dututop": {
"html":`
`,
"script":[]
}
, "gg_shipintop": {
"html":`
`,
"script":[]
}
, "gg_inContent": {
"html":`
`,
"script":[]
}
, "gg_shipinrandom": {
"html":``,
"script":[]
}
, "gg_sideSticky": {
"html":`
`,
"script":[]
}
, "gg_bottombanner": {
"html":`
`,
"script":[{"type":"text/javascript","src":"//widgets.outbrain.com/outbrain.js","async":"async"}]
}
, "gg_marquee": {
"html":`
`,
"script":[]
}
}
const adEnv={
"gg_header": {
"html":``,
"script":[{"type":"text/javascript","exec":` var googletag = googletag || {}; googletag.cmd = googletag.cmd || []; var pbjs = pbjs || {}; pbjs.que = pbjs.que || []; `},{"type":"text/javascript","src":"https://adncdnend.azureedge.net/adn-hb/adn.wnx2.js","async":""},{"type":"text/javascript","src":"https://adncdnend.azureedge.net/adn-video/WenxuecityPlayer.js","async":"async"}]
}
}
const wxcEnv = {
"base":{
"exe":[],
"src":[
{"src": "/news/js/recommendednews.js","defer":"true"},
{"src":"/js/wxcFunc.js","defer":"true"}
]
},
"func":{
"exe":[
//展示评论
'function showMoreComments(){let n = 2;for(let i=0;i
2){dom.hide();}}$("#showallcomment").show();$("#showlesscomment").hide();};',
],
"src":[
//图片,搜索,QR code
{"src": "/news/js/view.js?v=05132024"},
//计数器
{"src":"//count.wenxuecity.com/service/count/script/do.php?type=news&id=12436759&n=0&out=jsval","defer":"true"},
]
}
}
function wxcCode(){
wxcEnv.base.exe.forEach(x=>{
let tag = buildAdcode(x);
document.head.append(tag);
})
wxcEnv.base.src.forEach(src => {
let tag = buildSrc(src)
document.head.append(tag);
});
wxcEnv.func.exe.forEach(x=>{
let tag = buildAdcode(x);
document.body.append(tag);
})
wxcEnv.func.src.forEach(src => {
let tag = buildSrc(src)
document.body.append(tag);
});
}
function adcode(){
let adkey = Object.keys(ads);
adkey.forEach(x=>{
let code = ads[x].html;
let div = document.getElementById(x);
if(div)div.innerHTML = code;
ads[x].script.forEach(s=>{
if(Object.keys(s).indexOf('src')===-1){
let tag = buildAdcode(s.exec);
document.body.append(tag);
}else{
let tag = buildSrc(s);
document.body.append(tag);
}
})
})
}
function baseCode(){
let baseKeys = Object.keys(adEnv);
baseKeys.forEach(x=>{
adEnv[x].script.forEach(s=>{
if(Object.keys(s).indexOf('src')===-1){
let tag = buildAdcode(s.exec);
document.head.append(tag);
}else{
let tag = buildSrc(s);
document.head.append(tag);
}
})
})
}
function buildAdcode(script){
let tag = document.createElement('script');
tag.innerHTML = script;
return tag;
}
function buildSrc(obj){
let keys = Object.keys(obj);
let tag = document.createElement("script");
keys.forEach(key=>{
tag.setAttribute(key, obj[key]);
})
return tag ;
}