Google员工又“造反”了:AI伦理委员会,凭什么混进了反LGBT的人?

2019 年 4 月 2 日 量子位
郭一璞 发自 凹非寺 
量子位 报道 | 公众号 QbitAI

Google的员工,又开始抗议自己公司了。

一千余名谷歌员工,联合188名学界、科技界等社会各界人士,写了一封联名信,发起了一场浩浩荡荡的反对“LGBT恐惧症”运动

签名的人数,还在不断增长中。

究其起因,则是上周Google推出的先进技术外部咨询委员会(Advanced Technology External Advisory Council, ATEAC),一个非Google员工组成的AI伦理委员会,帮助Google面对AI发展中面临的公平性等问题。

在这个影响Google AI发展的委员会成员名单中,员工们发现了他们认为不应该出现的人:

Kay Coles James,美国传统基金会(the Heritage Foundation)主席,一个反LGBT、反移民的人。

要知道,Google的不少员工都是从各国来的移民,而LGBT平权早已成为主流的政治正确。

这种反差类似于,一个反对996的作战计划讨论组里,混进来一个996公司的老板。

那么一个旨在帮助Google AI负责任发展的机构,为什么出现了一个偏见这么大的人?

而在这场联署运动之外,Dyan Gibbens,一家曾经为美国空军提供无人机AI成像服务的公司CEO,竟然也进入了这个委员会。

要知道,不将AI应用于武器Google AI七原则中的重要一条啊,而这宝贵的七原则,可是去年员工们付出数十名员工离职、3000人联名上书、持续一整个春天抗议的代价才争取到的。

外部AI伦理委员会,出生即夭折

ATEAC,这个讨论AI伦理的外部委员会是上周刚刚成立的。

3月26日,Google全球事务高级副总裁Kent Walker在Google博客中发文宣布,为了贯彻落实Google AI七原则,完善相关的内部治理结构和流程,成立ATEAC委员会。

委员会将会聚焦于Google内部涉及七原则的复杂事物,比如人脸识别,比如机器学习的公平性,为相关工作提供多样化的观点。

委员会设置8名成员,分别是:

Alessandro Acquisti,经济学家,隐私问题研究者,CMU信息技术与公共政策教授。

Bubacarr Bah,应用和计算数学专家,南非斯泰伦博斯大学数学科学系助理教授。

吴德恺,NLP、音乐技术和机器学习专家,港科大计算机科学与工程教授,伯克利国际计算机科学研究所杰出研究者。

Dyan Gibbens,工业工程和无人系统专家,Trumbull Unmanned公司CEO。

Joanna Bryson,心理学和AI伦理学专家,巴斯大学计算机系副教授,多家AI公司的顾问。

Kay Coles James,美国传统基金会主席,曾在美国各级政府担任公共政策专家。

Luciano Floridi,哲学家,数字伦理专家,牛津大学哲学和信息伦理教授,指导牛津互联网研究所的数字伦理实验室,艾伦图灵研究院数字伦理小组主席。

William Joseph Burns,外交政策专家,美国前副国务卿,卡内基国际和平基金会主席。

上面8位组成的首届委员会的任期是2019年,他们将会从4月开始,举行四次会议。

但是,这8个人里,有两个人遭到强烈反对,一个人直接退出,还有一个人看到名单就失望了。

首个退出者

还没等到第一次会议召开,名单公布没几天,就有人不干了:

上述名单中的头一位,Alessandro Acquisti在Twitter上公开表示退出ATEAC委员会,认为讨论AI伦理这种重大事项,这个机构不合适。

触犯众怒者

而另一边,Google员工们集结起来,反对委员会名单上的第六个人,Kay Coles James。

Google员工们认为,这个人反LGBTQ,反移民,这违背了Google的价值观。

她曾经在Twitter上公开说,数千名危险的犯罪、毒品走私犯和性奴贩子从边境进入。

还公开反对几部性别平权法案。

员工们说,有人认为把这个反LGBTQ、反移民的人放进委员会是为了思想的多样性,这纯粹是偷换概念,让这么一个人加入委员会,就是暗示Google在做决策的时候会考虑她的这种不正确的观点。

并且,让这样一个人加入ATEAC委员会,严重破坏了Google在AI道德和公平方面的立场。

AI对社会可能造成的伤害不是随机的,而是和我们历史上经历的那些歧视与不公如出一辙:

AI可能无法识别跨性别者,可能无法识别女性的声音,可能无法识别有色人种女性,AI可能被用于加强警方的监视,监控移民,制造自动化的武器。

社会的最边缘人群,面临着最大的风险。

因此,Kay Coles James,这个人的观点不仅违背了Google的价值观,并且,还违背了AI发展的理念:

AI应用中,正义应当是凌驾于利润之上的。

因此,ATEAC应当将弱势群体置于决策中心。如果委员会中没有挺LGBTQ的人,那就应当把这个反LGBTQ的人踢出去。

涉及军方者

而在这场联署运动之外,还有人反对名单上的第四个人,Dyan Gibbens,Trumbull Unmanned公司CEO。

这家公司的业务和无人机相关,主要客户是能源企业和政府,帮能源企业部署基于无人机的测控、工程、物流解决方案,参与了很多政府和国防项目,包括为美国空军提供无人机AI成像服务。

因此,不少AI专家也认为Google应该把这个做AI军事项目的人踢出群聊。

冷嘲热讽者

名单上的第五个人,Joanna Bryson,看到这份成员名单之后就呵呵了。

在转发了这条消息之后,有AI研究者在她的Twitter下面留言:你知道你要在这个委员会里跟反LGBT、反移民的人打交道么?

Joanna很淡定的说:信不信吧,这名单里有比那位更糟糕的人。

并且,她还透露这个为这个委员会工作是无偿的,并且自己只承诺工作一年。

不知道,她说的“更糟糕的人”是指的谁呢?

传送门

Google员工们的联署信
https://medium.com/@against.transphobia/googlers-against-transphobia-and-hate-b1b0a5dbf76

Google博客:成立先进技术外部咨询委员会(ATEAC)
https://www.blog.google/technology/ai/external-advisory-council-help-advance-responsible-development-ai/


量子位AI+系列沙龙--智慧城市

加入社群

量子位AI社群开始招募啦,量子位社群分:AI讨论群、AI+行业群、AI技术群;


欢迎对AI感兴趣的同学,在量子位公众号(QbitAI)对话界面回复关键字“微信群”,获取入群方式。(技术群与AI+行业群需经过审核,审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点这里吧 !

登录查看更多
1

相关内容

一家美国的跨国科技企业,致力于互联网搜索、云计算、广告技术等领域,由当时在斯坦福大学攻读理学博士的拉里·佩奇和谢尔盖·布林共同创建。创始之初,Google 官方的公司使命为「整合全球范围的信息,使人人皆可访问并从中受益」。 Google 开发并提供了大量基于互联网的产品与服务,其主要利润来自于 AdWords 等广告服务。

2004 年 8 月 19 日, 公司以「GOOG」为代码正式登陆纳斯达克交易所。
【微众银行】联邦学习白皮书_v2.0,48页pdf,
专知会员服务
163+阅读 · 2020年4月26日
德勤:2020技术趋势报告,120页pdf
专知会员服务
186+阅读 · 2020年3月31日
IBM《人工智能白皮书》(2019版),12页PDF,IBM编
专知会员服务
19+阅读 · 2019年11月8日
斯坦福&谷歌Jeff Dean最新Nature论文:医疗深度学习技术指南
消失的千人计划
新智元
24+阅读 · 2019年4月27日
百余位院士入选!中国科协公示一份重要名单
材料科学与工程
11+阅读 · 2018年12月21日
吴恩达:我的AI商业化方法论
量子位
4+阅读 · 2018年9月6日
为什么欧盟呼吁共建 AI 伦理准则?
AI科技评论
3+阅读 · 2018年3月14日
京东与斯坦福达成战略合作 携手推进AI研究
京东大数据
3+阅读 · 2017年11月28日
AI都干过什么让人细思极恐的事?
全球创新论坛
4+阅读 · 2017年9月15日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
43+阅读 · 2020年2月27日
One-Shot Federated Learning
Arxiv
9+阅读 · 2019年3月5日
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
4+阅读 · 2018年10月31日
Arxiv
23+阅读 · 2018年10月1日
Arxiv
6+阅读 · 2018年4月23日
VIP会员
相关资讯
消失的千人计划
新智元
24+阅读 · 2019年4月27日
百余位院士入选!中国科协公示一份重要名单
材料科学与工程
11+阅读 · 2018年12月21日
吴恩达:我的AI商业化方法论
量子位
4+阅读 · 2018年9月6日
为什么欧盟呼吁共建 AI 伦理准则?
AI科技评论
3+阅读 · 2018年3月14日
京东与斯坦福达成战略合作 携手推进AI研究
京东大数据
3+阅读 · 2017年11月28日
AI都干过什么让人细思极恐的事?
全球创新论坛
4+阅读 · 2017年9月15日
相关论文
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
43+阅读 · 2020年2月27日
One-Shot Federated Learning
Arxiv
9+阅读 · 2019年3月5日
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
4+阅读 · 2018年10月31日
Arxiv
23+阅读 · 2018年10月1日
Arxiv
6+阅读 · 2018年4月23日
Top
微信扫码咨询专知VIP会员