2019年硅谷在纠结:美国防部积极抛出合作的橄榄枝 跟谷歌Say No?跟微软Say Yes?

2018-12-27 18:36:48 微软资讯
硅谷科技公司2019年会面对一个严肃的问题——跟不跟政府合作开发军事型应用?目前,美国科技界两大巨头给出了截然不同的答案,谷歌之前因员工抗议退出了美国国防部的AI军事计划“Project Maven”,而微软10月发文表示会继续跟美国政府特别是国防部合作。然而,其他科技公司还没有明显站队的时候,据报道,美国国防部正在推出一项新项目,向硅谷的人工智能研究人才积极抛出橄榄枝。
 

 

跟不跟政府合作归根结底是科技公司或科技公司的员工跟美国联邦机构之间存在的技术道德分歧,而这也是2018年最引人注目的联邦IT头条。
 

核心问题是当政府要求时,公司何时以及如何拒绝对于某些领导或员工在某种程度上技术不道德的事情?AI驱动的“武器”硅谷科学家应不应该支持研究?这个问题只能留待2019年甚至是以后来回答。
 

这个问题的最初要从今年谷歌因员工抗议而退出五角大楼的人工智能项目Project Maven说起。
 

Say No的谷歌



 

去年年底,小部分谷歌高管悄悄地跟Project Maven签约。当时,谷歌公司负责人工智能的首席科学家李飞飞警告她的同事,如果他们参与Maven的事情被大众知道,绝对会成为媒体头条。
 

根据电子邮件截图所示,她写道:“我不知道如果媒体开始报道谷歌秘密制造人工智能武器或用人工智能技术为国防事业制造武器,在之后会发生什么。”
 

她后来离开了谷歌,而她的老板Diane Greene同样离开了谷歌。
 

据报道,今年春季“成千上万”的谷歌员工签署了一封内部信函,表达对Project Maven可能实现的致命力量的担忧。
 

信中写道:“我们相信谷歌不应该参与战争。”员工们表示,军事研究跟公司承诺“做正确的事情”的理念发生冲突。在此之后,今年5月份,大约有12名员工因此事而辞职。
 

今年6月,谷歌向旗下员工表示不会续签2019年到期的Project Maven合同。然后公司进一步推出了一套“AI原则”,一份人工智能技术宣言,展示了这项技术能够做到和不会做到的开发。
 

同时对于Project Maven造成的抗议事件,谷歌表示,它不会开发人工智能来制造“武器”或开发“导致或可能造成整体伤害的技术”。
 

没过多久,谷歌就实践了这些原则。10月份,该公司宣布不会竞购联合企业防御基础设施(JEDI)合同,即国防部的100亿美元云合同。
 

谷歌发言人当时在一份声明中说:“我们不会就JEDI合同进行竞标,因为我们无法保证它会符合我们的AI原则。”
 

谷歌不孤单,还有其他公司的员工也同样担心服务有争议的政府机构。亚马逊的员工抗议公司将面部识别软件Rekognition出售给执法机构;微软和德勤的员工抗议移民和海关执法局的工作。
 

Say Yes的微软



 

然而,科技界至少有一家公司,而且还是技术巨头表示希望继续跟政府合作,同时也在重视员工对AI道德问题的关注。
 

在10月的一篇博客文章中,微软总裁布拉德·史密斯(Brad Smith)宣布公司打算继续与政府合作,特别是跟国防部合作。
 

史密斯写道:“我们相信美国的强大防御能力,我们希望捍卫美国的人能够获得这个国家最好的技术。我们希望这个国家的人们,特别是服务这个国家的人们知道,微软在背后支持着。”
 

史密斯认为,实际上,微软等公司的参与有助于保持代理商在使用面部识别等技术时的诚实和道德。但他也承认并非所有员工都会同意这种逻辑,但这也没关系。
 

史密斯写道:“我们理解一些员工可能有不同的看法。我们不会要求或期望在微软工作的每个人都支持公司所采取的每一个举措。一如既往,如果我们的员工想要在不同的项目或团队中工作,无论出于什么原因,我们希望他们知道公司很支持人才流动。”

积极的国防部



 

2018年的这些事是否揭露了硅谷科技公司文化跟美国政府文化之间不可调和的差异?这是否是公司需要面对的另一项挑战?而美国政府当然不会认为两者之间有什么分歧,表现的相当积极。
 

美国人工智能的顶级工程师大多在硅谷工作,而不是在主要的国防承包商。五角大楼现在面临的挑战是弄清楚怎么说服专注良性应用(比如自动驾驶汽车和跟人交互的工具)的人工智能工程师为军事应用建立人工智能。
 

国防创新部门(DIU,前身为DIUx)是国防部在硅谷设立的创新采购部门,它对美国媒体FedScoop表示,加州和军方的科技公司之间的关系一如既往和谐。该组织的海军负责人Sean Heritage上尉在接受采访时表示,机构获得了硅谷社区“非常非常积极”的欢迎。

他说,“愿意与我们做生意”的公司数量都在增加,而DIU商业解决方案也在增加。
 

同样,美国国防高级研究计划局(DARPA)表示,谷歌退出Project Maven的决定“没有妨碍”大型人工智能研究项目AI Next。机构的国防科学主管Valerie Browning表示,DARPA已经看到了业界“非常好且坚实的回应”。

Project Maven主要会利用人工智能来识别军用无人机镜头拍摄的物体。
 

据报道,在谷歌退出Project Maven之后不久,五角大楼在一份备忘录中写道:“我们已经毫无准备地参赛。......如果我们不能赢得关键技术支持者的认可,我们就不能有效地与对手竞争。”
 

今年夏天,五角大楼新组建了一支团队来开启一个人工智能项目,这个团队是由Lt. General Jack Shanahan中将领导的联合人工智能中心(the Joint Artificial Intelligence Center),而这位中将曾担任过Project Maven的负责人。

这个中心的第一个重大项目是开发一个人工智能系统,帮助搜救队员在灾难发生后找到幸存者。
 

五角大楼还下令由国防创新委员会(Defense Innovation Board)审查其人工智能道德,该委员会在2016年成立,由技术主管、教授和研究人员组成。
 

董事会成员包括前谷歌执行主席Eric Sc​​hmidt、领英的联合创始人Reid Hoffman、谷歌高管Milo Medin、Facebook高管Marne Levine和著名天文学家Neil deGrasse Tyson。
 

面对积极的政府,其他硅谷科技公司或者科学家在2019年的问题就很清晰了:跟谷歌还是跟微软?这个答案值得关注。

相关阅读

查看更多