Google Photos混乱了:将黑人标记为大猩猩
文章来源: 凤凰科技 于
- 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
黑人程序员艾尔萨尼表示Google Photos将他和朋友的照片标记为大猩猩
凤凰科技讯 北京时间7月2日消息,据《华尔街日报》网络版消息,谷歌在人工智能方面一直处于领导地位,但本周其图片应用Google
Photos的一处重大失误显示出,谷歌的人工智能技术还有很长的路要走。
据一位名叫杰克·艾尔萨尼(Jacky Alcine)的程序员在Twitter上透露,Google
Photos将两位黑人标记成了“大猩猩”。
“Google Photos你完全搞错啦,我的朋友不是大猩猩”,他在Twitter上写道。
谷歌随后向艾尔萨尼表示了抱歉,并表示正调整算法以修复该漏洞。
“我们很震惊,对于此事我们表示由衷的道歉”,谷歌一位发言人表示。“很明显,对于图片自动标记功能我们还有很多工作要做,未来我们会努力阻止此类事件再次发生。”
谷歌数周前刚刚推出Google
Photos。当用户在该应用搜索图片时,谷歌会利用机器学习技术将照片分类,从而实现自动为图片添加标签等功能。当谷歌移除大猩猩类别后,该类别将不会再出现。
“我们虽然完成了很多,但还有很多工作仍待完成,不管怎样我们都会非常努力的”,谷歌社交主管约纳坦·尊阁(Yonatan Zunge)在Twitter上回复艾尔萨尼时说道。谷歌正努力提高肤色识别功能,将会更加注意对照片中人物的标签,他补充说。
这段小插曲显示出了人工智能和机器学习的不足之处,尤其是这些技术被运用于消费者身上时。未来谷歌仍有可能发布存在潜在缺陷的软件,之后再更新修复。虽然这种模式可以更快地向消费者推出产品,但如果漏洞比较严重的话,可能会使招致用户不满。
谷歌今年年初推出了YouTube儿童版应用,意图通过自动过滤、用户反馈可人工排查的方式将成人内容排除在外。但该系统疏漏了一些不适当的内容在该儿童版应用上,引起了用户的抱怨。谷歌发言人当时声称,要实现“100%的精确度是几乎是不可能的”。
当推出Google Photos时,谷歌承认该应用并不完美。但“大猩猩”标签事件让谷歌算法系统的缺点暴露的更加明显。
“我们需要从根本上改变机器学习系统,为其加入更多语境以使其能够理解文化敏感性”,人工智能初创公司Sentient
Technologies的首席科学家巴巴克·浩德杰特(Babak Hodjat)表示。
他表示,机器学习系统不明白黑猩猩和大猩猩的区别并没多大问题,但如果将人标记为大猩猩则会显得非常无礼。
谷歌的系统可能并没有“浏览”足够的大猩猩图片以使其明白人和大猩猩的区别——更不会明白这种错误对人类意味着什么,他说。
“人类对于文化方面的差异很敏感”,浩德杰特说。“机器做不到这一点,它们没法理解这种类型的语境”。
-->
`,
"script":[]
}
, "gg_rightside": {
"html":`
`,
"script":[{"exec":`(function(w,q){w[q]=w[q]||[];w[q].push(["_mgc.load"])})(window,"_mgq");`}]
}
, "gg_duturandom": {
"html":`
`,
"script":[]
}
, "gg_square": {
"html":`
`,
"script":[]
}
, "gg_topbanner": {
"html":`
`,
"script":[]
}
, "gg_middlesquare": {
"html":`
`,
"script":[]
}
, "gg_dutu": {
"html":`
`,
"script":[]
}
, "gg_botline": {
"html":``,
"script":[]
}
, "gg_dututop": {
"html":`
`,
"script":[]
}
, "gg_shipintop": {
"html":`
`,
"script":[]
}
, "gg_inContent": {
"html":`
`,
"script":[{"exec":`(function(w,q){w[q]=w[q]||[];w[q].push(["_mgc.load"])})(window,"_mgq");`}]
}
, "gg_shipinrandom": {
"html":``,
"script":[]
}
, "gg_sideSticky": {
"html":`
`,
"script":[]
}
, "gg_bottombanner": {
"html":`
`,
"script":[{"exec":`(function(w,q){w[q]=w[q]||[];w[q].push(["_mgc.load"])})(window,"_mgq");`}]
}
, "gg_marquee": {
"html":`
`,
"script":[]
}
}
const adEnv={
"gg_header": {
"html":``,
"script":[{"exec":`(function(){/*
Copyright The Closure Library Authors.
SPDX-License-Identifier: Apache-2.0
*/
'use strict';var g=function(a){var b=0;return function(){return b
=b||null!=a.a&&0!=a.a.offsetHeight&&0!=a.a.offsetWidth||(fa(a),D(a),l.setTimeout(function(){return E(a,b-1)},50))},fa=function(a){var b=a.c;var c="undefined"!=typeof Symbol&&Symbol.iterator&&b[Symbol.iterator];b=c?c.call(b):{next:g(b)};for(c=b.next();!c.done;c=b.next())(c=c.value)&&c.parentNode&&c.parentNode.removeChild(c);a.c=[];(b=a.a)&&b.parentNode&&b.parentNode.removeChild(b);a.a=null};var ia=function(a,b,c,d,e){var f=ha(c),k=function(n){n.appendChild(f);l.setTimeout(function(){f?(0!==f.offsetHeight&&0!==f.offsetWidth?b():a(),f.parentNode&&f.parentNode.removeChild(f)):a()},d)},h=function(n){document.body?k(document.body):0e;e++){var f=c.concat(d[e].split(""));K[e]=f;for(var k=0;k>2;n=(n&
3)<<4|t>>4;t=(t&15)<<2|h>>6;h&=63;f||(h=64,e||(t=64));c.push(b[k],b[n],b[t]||"",b[h]||"")}return c.join("")};try{return JSON.stringify(this.a&&this.a,S)}finally{Uint8Array.prototype.toJSON=a}}:function(){return JSON.stringify(this.a&&this.a,S)};var S=function(a,b){return"number"!==typeof b||!isNaN(b)&&Infinity!==b&&-Infinity!==b?b:String(b)};M.prototype.toString=function(){return this.a.toString()};var T=function(a){O(this,a)};u(T,M);var U=function(a){O(this,a)};u(U,M);var ja=function(a,b){this.c=new B(a);var c=R(b,T,5);c=new y(w,Q(c,4)||"");this.b=new ea(a,c,Q(b,4));this.a=b},ka=function(a,b,c,d){b=new T(b?JSON.parse(b):null);b=new y(w,Q(b,4)||"");C(a.c,b,3,!1,c,function(){ia(function(){F(a.b);d(!1)},function(){d(!0)},Q(a.a,2),Q(a.a,3),Q(a.a,1))})};var la=function(a,b){V(a,"internal_api_load_with_sb",function(c,d,e){ka(b,c,d,e)});V(a,"internal_api_sb",function(){F(b.b)})},V=function(a,b,c){a=l.btoa(a+b);v(a,c)},W=function(a,b,c){for(var d=[],e=2;ec?0:c}else c=-1;0!=c&&(W(a.b,"internal_api_sb"),Z(a,Q(a.a,6)))},function(c){Z(a,c?Q(a.a,4):Q(a.a,5))})},Z=function(a,b){a.c||(a.c=!0,a=new l.XMLHttpRequest,a.open("GET",b,!0),a.send())};(function(a,b){l[a]=function(c){for(var d=[],e=0;e2){dom.hide();}}$("#showallcomment").show();$("#showlesscomment").hide();};',
],
"src":[
{"src":"//count.wenxuecity.com/service/count/script/do.php?type=news&id=4386636&n=0&out=jsval"},
{"src": "/news/js/view.js"},
{"src":"/members/js/md5.js"}
]
}
}