备注请放最后面 违者新闻文章删除
1.媒体来源:
TechNews
2.记者署名:
December 7, 2020 by 雷锋网
Tagged: AI, AI 伦理, Google, Timnit Gebru, 性别偏见, 种族偏见AI 人工智能, Google, 人力资源
3.完整新闻标题:
海外 AI 圈闹翻天了!Google 黑人女性 AI 伦理研究员“被离职”引发轩然大波
4.完整新闻内文:
http://i.imgur.com/oYsgAbA.jpg
Google 惹上麻烦了。
12 月 6 日,Google “伦理人工智能团队”(Ethical AI Team)的技术联合负责人 Timnit Gebru 在个人 Twitter 推文称:“我突然被 Google 人工智能负责人 Jeff Dean 开除,个人公司帐户也被公司关闭。”
她表示,解雇原因是她寄信给 Google Brain 同事,内容涉及 AI 伦理,批评 Google 不负责任的多样性、公平性和包容性 AI 运作。她的上司 Jeff Dean 对此火速处理,只用一封信就开除她。
此事立刻引起网友热议,众多 Google 员工和学术界科学家都纷纷站台支持 Timnit Gebru。包括由 Google 现任及前员工联合创立的“ Google Walkout For Real Change”组织,已在 Blog 发起连署运动,以示对 Timnit Gebru 的支持:
http://i.imgur.com/MljfOzC.jpg
截至发稿,已有 1,200 多名 Google 员工和 1,500 多名学术界签署请愿书,要求复职 Gebru。
歧视女性人权?Jeff Dean 表示不背锅
先来认识一下事件主人公。
Timnit Gebru 是 Google 顶尖人工智能研究人员,致力于解决人工智能算法的偏见问题,同时还从事数据挖掘领域工作。
http://i.imgur.com/JwzgOkS.jpg
(Source:TechCrunch, CC BY 2.0, via Wikimedia Commons)
同时她也是著名的技术多样性倡导者,并联合创立名为“Black in AI ”的黑人研究人员社群。 她一直直言批评科技公司对待黑人员工的方式。甚至她曾与 LeCun 发生争执,在 AI 圈小有名气。
美国时间 12 月 3 日晚上,Google Ethical AI 团队联合负责人 Timnit Gebru 发推表示被 Google AI 负责人 Jeff Dean 火速开除。
到底是因为什么 Timnit Gebru 被开除?
根据 Reddit 爆出的 Gebru 与 Dean 信件,事件起因是 Gebru 想发表论文,但被 Google 内部否决、要求撤稿,Gebru 尝试沟通无果,控诉 Google 不尊重边缘族群的人权。
http://i.imgur.com/NLWKqwB.jpg
(Source:Reddit)
邮件谈到,Gebru 近日在写之前由 Katherine 和 Daphne 撰写的论文。
她们写论文时,发现一个令人失望的现象:Google 过去一年解雇约 14% 女性员工。Gebru 进一步了解,解雇 14% 女性同时,Samy 又增聘 39% 能力不太出色的员工。
基于数据悬殊,Gebru 建议 Google 女性:停止手边的工作,因为她们的工作并不为人重视。
同时近期关于黑人的调查,Gebru 也发现群体间弥漫的愤怒情绪,但只能如往常保持沉默。所以在 Gebru 看来,她的论文被否定也是原因一部分。
信件结尾,Gebru 呼吁 Google 女性群体向领导层反应,并思考如何施加外部压力,如写信给 Congressional Black Caucus 等组织。
http://i.imgur.com/pXM6g5X.jpg
Jeff Dean 很快回应:并没有歧视女性的原因。
不合格的原因是这篇论文忽略太多相关研究,如论文讨论大模型对环境的影响,却忽略其他研究显示的大模型更优秀的性能。论文挑起语言模型偏见性的忧虑,却没有考虑近期减轻环境负担的研究。
http://i.imgur.com/qlJAekj.jpg
Jeff Dean 信件表示,并没有执意开除 Gebru,只是尊重她本人的决定。
Jeff Dean 提到,对 Gebru 的论文提出意见后,Gebru 也有回信,内容是让她提交一些资讯,包括论文评审内容、每个人的身分及其他确切回馈。Gebru 表示如果不满足她的要求,她就会离开 Google 并停止相关工作。我们接受并尊重她的决定。
尽管如此,网友对此回应似乎依旧不相信。
一个重要原因是 Gebru 女性黑人的特殊身分。
2016 年 AI Now Institute 的报告发现,Google AI 研究人员有 10% 是女性。Google 的 2020 年多元化报告显示,约有三分之一 Google 员工为女性,3.7% 为非裔美国人,5.9% 为拉丁裔,0.8% 为美洲印第安人。
Google 员工和科学家发起声援 Gebru 活动
以上众多因素影响下,吃瓜群众似乎不在乎孰对孰错的问题,转而关注更多人权及种族主义等更严重的问题。
事件持续发酵后,引起 Google 员工和科学家高度重视,不少科学家纷纷转发新闻并表态支持 Gebru。
包括由 Google 现任及前员工联合创立的“ Google Walkout For Real Change”组织,在 Blog 发起了连署运动,以示对 Timnit Gebru 的支持。
http://i.imgur.com/HCFmNQu.jpg
(Source:Google Walkout For Real Change)
不仅如此,此组织还向 Google 高层提出以下要求:
‧要求 Jeff Dean 和 Megan Kacholia 以及其他参与审阅论文的人员解释拒绝发表的原因。
‧要求更多公众参与,需要社会问责,确保未来 Google 的研究还值得信任。
‧要求 Google 承诺诚信研究和学术自由,支持促进实施 Google 人工智能原则的研究。
截至发稿,有 1,200 多名 Google 员工和 1,500 多名学术界人士向 Google 发起挑战。
从 2018 年至今,此组织已在 Google 内部进行多次大规模的抗议活动,并取得很多场胜利,包括迫使 Google 放弃中国特供版搜寻引擎,即“Dragonfly 专案”;对 Android 之父性骚扰事件处理结果不满,举行大罢工等等。
另外 2 日美国国家劳资关系委员会(National Labor Relations Board)指控 Google,称 Google 监视员工,阻止员工分享对工作的不满,甚至报复员工。这也同样引起此组织的关注。
问题来了,这次 Google 会妥协吗?
‧AI Ethicists Are Outraged After Google Fired a Respected Black Researcher
‧Backlash against Google grows over firing of prominent Black A.I. researcher
https://fortune.com/2020/12/04/google-timnit-gebru-backlash-firing/
‧曾大战 LeCun 的 Google 女性科学家,被 Jeff Dean 开除了
‧Google AI ethicist says she was fired for an email, 1,400 Googlers sign letter supporting her
‧The withering email that got an ethical AI researcher fired at Google
(本文由 雷锋网 授权转载;首图来源:shutterstock)
5.完整新闻连结 (或短网址):
https://technews.tw/2020/12/07/timnit-gebru-was-fired-by-google/
6.备注:
*转载文章,支语注意
*无敌星星大战科技公司