作为拥有先进技术的科技巨头，谷歌这样的公司难免会与军事方案发生联络。在有进犯隐私、违犯伦理的风险下，能否应该接下巨额合同？最近，听闻公司正在参与美国国防部「Project Maven」AI 军事方案，很多谷歌员工发起了抵抗，他们上书 CEO Sundar Pichai 的地下信如今曾经取得了数千人的联名签署。

　　五角大楼项目「Project Maven」次要使用深度学习计算机视觉技术，旨在协助国防部门从图像和视频中提取值得留意的对象。该项目是在 2017 年 4 月由时任副国防部长 Bob Work 在一份备忘录中初次披露的。目前，美国曾经成立了一个算法和平混合义务团队（Algorithmic Warfare Cross-Functional Team），由国防情报局副部长监视。

　　数千名谷歌员工签署了一封致 CEO Sundar Pichai 的信函，抗议谷歌参与一个旨在进步无人机打击才能的项目。（图源：Michael Short/Bloomberg）

　　近日，数千名谷歌员工（包括数十名初级工程师）签署了一份联名信函，抗议该公司参与五角大楼的一个项目，该项目应用人工智能解读视频图像，旨在进步无人机打击的精准度。

　　该信函在谷歌外部迅速传播开来，已有超越 3100 人签名，反映了硅谷与联邦政府之间的文明抵触。随着人工智能前沿技术越来越多地用于军事范畴，这种抵触能够会愈演愈烈。

　　信是写给谷歌 CEO Sundar Pichai 的。信中写道：「我们以为谷歌不应卷入和平。」信中要求谷歌撤出五角大楼的试点项目 Project Maven，并宣布永远不会「开展和平技术」。

　　当然，这种理想主义的想法并不是一切谷歌员工都认同的，但关于一家以「不作恶」（信中也有援用）为座右铭的公司来说，提出这种想法是很正常的。但这显然与华盛顿庞大的国防工业不同，当然也与五角大楼不同。现任美国国防部长 Jim Mattis 常常说，五角大楼的中心目的是进步美国军队的「杀伤力」。

　　从晚期开端，谷歌就鼓舞员工就触及公司的成绩宣布意见。该公司提供了外部留言板和社交网络，员工可以在这些平台上就公司的产品和政策向管理层或同事提出意见。最近，围绕谷歌努力打造一支愈加多元化的员工队伍的剧烈争辩日益地下化。

　　谷歌员工已就一系列成绩收回了抗议请愿书，包括该公司落后于 Facebook 的社交网站 Google Plus 以及谷歌对保守政治举动会议（CPAC）的资助。

　　在最近的一次公司会议上，员工就谷歌参与 Project Maven 提出质疑。事先，谷歌云根底设备业务主管 Diane Greene 为这一项目辩护，并试图安抚相关员工。公司发言人表示，抗议信上的大少数签名是在公司对此状况停止解释之前搜集的。

　　该公司随后将 Project Maven 的任务描绘为「非攻击性的」，虽然五角大楼的视频剖析通常用于反暴动和反恐举动，国防部也曾发文表示该项目用于支持这些举动。谷歌和五角大楼都表示，谷歌的产品不会发明出无需人类操作者就能开战的自主武器零碎，自主武器零碎在人工智能使用中也有很大争议。

　　对无人机视频做进一步剖析，可以挑选出人类目的并施行袭击，换个角度来说，这也有助于更好地分辨出平民，以增加无辜者被不测杀害的风险。

　　谷歌周二发布的一项声明并未直接提及这份致 CEO Sundar Pichai 的信函，声明中提到：「任何机器学习的军事化使用都会招致人们的合理担忧，这是自然的。我们正在公司外部积极鼓舞对该重要议题停止充沛讨论。」谷歌称这种交流「十分重要，也十分无益」，而熟知函件内容的多名谷歌员工仅在匿名条件下发声，并表示这是由于担忧被报复。

　　该声明称谷歌在 Project Maven 中所参与的局部「仅限于非攻击性的目的」，虽然官方回绝提供相关的合同内容。美国国防部称由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商，它不能提供谷歌合同或合同内容。ECS Federal 尚未回应该讯问。

　　谷歌称五角大楼在运用基于未分类数据且「对任何谷歌云客户开放的开源目的辨认软件」。谷歌表示，「这项技术用于标志图像，以协助人工审查，其目的是把人们从高度单调的任务中束缚出来。」

　　谷歌局部高管和五角大楼有亲密联络。该公司前执行董事长 Eric Schmidt（目前仍是谷歌母公司 Alphabet 的执行董事会成员）为五角大楼参谋团 Defence Innovation Board 的成员，该参谋团还包括谷歌副总裁 Milo Medin。

　　在 11 月份的一个采访中，Mr. Schmidt 供认「技术社区普遍担忧军工行业会运用他们的效果去错误地损伤人类」。他说他将在董事会中「至多起到交流作用」，并且建议军方「运用这些技术来协助维护国度平安」。

　　谷歌这一小局部对军事合同感到不安的员工（超越 70000 名）也许并不能对公司的开展形成大的障碍。但在人工智能研讨范畴中，谷歌正忙于和其它技术公司剧烈「抢人」，因而假如某些候选者被谷歌的辩白所推延，这将会形成人事聘用上的费事。

　　谷歌在外部异议中为国防合同辩护，但与此同时它的竞争对手并不羞于宣传本人的国防项目。亚马逊向国防部鼎力宣传其图像辨认研讨效果，而微软则表示他们的云技术曾经与美国政府签署合同，为军事和国防机构处置秘密信息。

　　以后的争论由 Gizmodo 初次报道，次要集中在 Project Maven。该试点项目于去年开端，旨在找到减速军方使用最新 AI 技术的方式。五角大楼发言人表示，估计该项目第一年破费不到 7000 万美元。但谷歌地下信的签名者明白希望阻止谷歌参与更大规模的五角大楼合同（人工智能国防使用不时开展）。

　　外界普遍以为，目前谷歌正与其他科技巨头（如亚马逊和微软）竞争一份为期多年、价值数十亿美元的国防部云效劳合同。国防部首席管理官 John Gibson 在三月份的一次讲话中提到：「结合企业国防根底设备云（Joint Enterprise Defense Infrastructure Cloud）」推销方案的局部目的是「提升杀伤力和做好预备」，这凸显了将软件、云效劳等相关效劳与实践商业和平之间分开的难度。

　　谷歌员工写给 Pichai 的地下信曾经在谷歌外部通讯零碎中传达了数周，信中以为，参与军事项目能够会疏远用户，甚至影响将来的人才引进。

　　「这一方案将不可挽回地损害谷歌的品牌和人才吸引力，」信中提到，「由于人们越来越担忧人工智能的成见与武器化，谷歌争取用户信任的路途曾经越来越难走了。」在将来，谷歌或许会被视为参加雷神、通用动力以及 Palantir 这样的国防承包商行列。

　　「其他大型科技公司如微软和亚马逊也参与了这一项目，但这并不会让谷歌承当的风险变小。」信中说，「谷歌拥有共同的历史，它的座右铭是『不作恶』（Don't Be Evil），谷歌直接触及数十亿用户的生活，这让它异乎寻常。」

　　和其它新贵最终成为了弱小的硅谷巨人一样，谷歌也正自愿面对早年引导公司的理念。Facebook 开端时的使命是衔接世界上一切的人，但是最远因为虚伪音讯渠道和被俄罗斯用来影响 2016 年的选举而遭到鞭挞，此外，它异样还被指控在美国选民中传达异议。

　　思索到谷歌的历史和五角大楼目前在军事方面对 AI 的激烈需求，前五角大楼的官员和「Army of None」的作者 Paul Scharre 表示，这在谷歌外部是不可防止的。

　　华盛顿新国度平安中心的初级成员 Scharre 说：「技术开发者之间存在着激烈的自在主义肉体，并且对政府运用技术会感到担忧。目前，人工智能忽然且疾速地从实验室走出来，迈进了理想生活，这尤其加剧他们的担忧。」

　　地下信原文：

　　亲爱的 Sundar：

　　我们以为谷歌不应卷入和平。因而，我们恳求公司撤销 Project Maven，同时起草、发布并执行一项明白的决策：谷歌及其合约商永不开展和平科技。

　　谷歌目前正在施行 Project Maven，这是一个定制的 AI 监控引擎，它运用美国政府获取的「广域运动图像（Wide Area Motion Imagery）」来检测汽车和其他物体并追踪其运动，检测和追踪后果提交给国防部。

　　最近，谷歌员工在公司外部表示了对 Maven 的担忧。Diane Greene 在回应中保证该技术不会「在无人机上运转」，也「不会被用于武器开发」。虽然这扫除了极小局部的直接使用，但该技术是为军事用处而开发，一旦交付，就会随便被用于这些义务的辅佐任务。

　　这一方案将对谷歌的品牌及人才吸引力形成不可挽回的损伤。随着对 AI 成见化和武器化的恐惧日益加剧，谷歌谷歌争取用户信任的路途曾经越来越难走了。而签署这份协议，谷歌将参加 Palantir、雷神、通用动力等公司的行列。其他大型科技公司如微软和亚马逊也参与了这一项目，但这并不会让谷歌承当的风险变小。谷歌拥有共同的历史，它的座右铭是『不作恶』，谷歌直接触及数十亿用户的生活，这让它异乎寻常。

　　我们不能把技术的品德责任外包给第三方。谷歌鼓吹的价值观明晰地标明：每一个用户都在给予我们信任，永远不要孤负这一点。这个合同使谷歌的声誉遭到要挟，而且与我们的中心价值观相悖。开展一项技术协助美国政府停止军事监控，而且该技术能够形成致命后果，这是不可承受的。

　　思索到谷歌的品德伦理责任，以及这对谷歌声誉的潜在危害，我们恳求你：

　　1. 立刻取消这一项目。

　　2. 起草、发布并执行一项明白的战略，声明谷歌及其合约商永远不会介入军事技术。

来源：飞机E族，原载地址：http://www.feijizu.com/news/20180406/6871.html欢迎分享本文！