向员工妥协、停止与国防部续约,这是一个只会发生在 Google 的故事

向员工妥协、停止与国防部续约,这是一个只会发生在 Google 的故事

五角大楼的一纸合同,引发了 Google 内部长达三个月的抗议运动。最终,「Don't be evil」胜利了。

在 Google Cloud 内部,员工们把每周一次的例会称为「天气预报」(Weather Report)。外界对此知之甚少,直到这周五,这个特别的名字才随着一条新闻传遍了硅谷乃至整个美国互联网圈。

在周五的例会上,兼任 Google Cloud 首席执行官和 Google 董事会成员的黛安·格林(Diane Greene)宣布,Google 将在这次合约到期后结束与美国国防部的合作的 Project Maven(直译:专家计划)。

像胜利的号角般,消息在 Google 内部不胫而走,很快传到了媒体耳中,一篇篇头条报道的刊出,标志着这场发生在技术团队与管理团队之间旷日持久的「战斗」终于以前者的胜利收场。

回过头来,审视 Google 这三个月的外争内斗,你会发现这注定只会是一个发生在 Google 的故事,一个注定会载入公司历史的故事。其结局,则是这家创办整整二十年的传奇互联网巨头再一次地,在政治压力、商业利益以及技术理想间选择后者的最佳证明。

秘密合同

故事要从三月初的一则报道说起。

今年三月六日,据首先接到内部员工爆料的 Gizmodo 报道,Google 已经与美国国防部(五角大楼)达成合作,帮助后者开发应用于无人机的人工智能系统,项目代号 Project Maven。

第二天,The Intercept 发出跟进报道,称五角大楼与 Google 在签约时秘密通过一家名为 ECS Federal 的中间公司,因而这项合作没有被外界发现。同时因为 Google 内部对员工的保密要求,这起合作事件在最初只通过内网邮件的形式在公司内部传播。等到 Gizmodo 等媒体接到爆料公开报道时,相关话题已经在 Google 炸开锅般地讨论了近一个礼拜。

在内部的讨论中,许多 Google 员工愤怒地表达了对 Project Maven 的强烈不满。他们中有人认为 Google 在为五角大楼开放资源,助纣为虐般地帮助后者打造无人机监控技术;还有一部分人质疑 Google 如此使用机器学习技术是否符合道德标准,他们认为五角大楼会将这一技术用于杀伤性武器,进而带来技术乐观派们从未想要造成的伤害。

2017 年是全球各国政府清醒认识到人工智能重要性并采取行动的一年。中国政府已经出台了多项扶持人工智能的政策,普京也公开发表了诸如「人工智能领域的领先者将会称霸世界」以及「未来战争将由无人机完成」等颇为耸人听闻的观点。

在这样的背景下,2017 年四月,迟迟没有在人工智能领域大笔投入的美国国防部决定启动 Project Maven,联合拥有世界上最多人工智能高端人才的美国名校和互联网巨头,加速打造供军方无人机使用的前沿计算机视觉系统。Project Maven 又被称为「算法战争跨部门团队(AWCFT)」,它的目的是「加速机器学习和大数据与国防部应用的融合」。

虽然五角大楼从未对外透露与任何具体公司的合作,但对外界而言,找到可疑目标并不是一件难事。Project Maven 有着一个名为「美国国防创新委员会」的顾问小组,最初由前美国防部长 Ash Carter 创办,旨在桥接五角大楼和硅谷产业界之间的技术鸿沟。委员会成员大多是美国计算机和互联网巨头的高管,其主席正是现任 Google 母公司 Alphabet 董事会成员的埃瑞克·施密特。据媒体爆料称,包括施密特在内的多个顾问团队成员所在的公司都有着直接向五角大楼提供帮助的能力。

对此,被推上风口浪尖的施密特表示,他之所以担任这一角色就是为了保证军方在使用技术时是出于保护国家安全的目的,他认为「至少应该允许这样(军方和硅谷之间)的对话存在」。施密特还强调,国防部并没有将 Google 的技术用于战斗用途。

可显然,施密特的解释并不能让员工们满意,Google 充满技术理想的员工们很快掀起了新一轮的抗议浪潮。

四千人联名请愿

四月初,超过 3100 名 Google 员工联名上书公司 CEO 桑达尔·皮查伊(Sundar Pichai),表达对 Project Maven 的抗议。

Google 员工联名致桑达尔·皮查伊的信;图 | 纽约时报

「我们认为 Google 不应该做战争的生意,」员工们在信中说道,他们要求 Google 设立一项新规定:Google 和其合约公司永远不能参与战争技术的工程。在员工们看来,Project Maven 这样的计划不仅会损害公司的名誉,还会为 Google 日后招聘人才带来不利影响。「Google 独特的历史,它『不作恶』的座右铭,还有它直接触达数以亿计用户的能力,这些都是它与众不同的原因。」

「Google 的价值观已经说得非常清楚:我们的每一个用户都信任着我们。永远不要打破这份信任,永远不要。」员工们在信中强调说。

这份请愿书在 Google 内部流传数周,最终收获了约 4000 份签名,其中不乏一些高级别的工程师。

请愿书曝光之后,Google 发表声明回应称,「机器学习的任何军事用途都会很自然地引起一些合理的担忧」,但 Google 正在公司内部积极地推动关于这一重要话题的全面讨论。虽然 Google 表示这样的交流「非常重要且有益」,但《纽约时报》接触到的爆料者们仍然因为害怕报复而不敢公开曝光身份。

在回应中,Google 再次强调了提供给五角大楼的技术不过是任何 Google Cloud 用户都可以使用的开源物体识别软件(TensorFlow API),「这项技术被用于标记人类审核的图片,目的是拯救生命,以及为从事枯燥乏味工作的人们节约时间」。

就在 Google 手忙脚乱安抚员工情绪的时候,它的竞争对手们却「大摇大摆地」与五角大楼展开合作:亚马逊吹捧着自己与国防部合作的图片识别工作,微软则拿下了军方处理机密数据的云服务订单。

在云服务的商业化上,Google Cloud 已经落后于先行的亚马逊 AWS 和微软 Azure,因此作为 Google Cloud 的负责人,上任以来未有明显建树的黛安·格林更是希望能够借助这次与国防部的合作,拿下日后更多的订单。

更讽刺的是,有媒体发现,在四月底前后,Google 删掉了其沿用十八年的座右铭「Don't be evil」在公司行为守则开头中的三处强调。仅在准则的结尾,还留有未被删掉的一句:「记住,don't be evil,如果你看到了一些你认为不正确的事情,大声说出来!」

辞职风波

事件发展到五月中旬,Google 的员工声嘶力竭地抗议了近三个月,包括格林、皮查伊甚至公司创始人谢尔盖·布林在内的多位高管却没有做出积极的回应,甚至因为害怕被员工知道后引起更大规模的抗议活动,Google 管理层还在「偷偷摸摸地」竞标国防部另一个云服务项目。

十多名对管理层感到绝望的员工走投无路,决定上交辞职信,主动离开公司,「在过去的几个月里,我对这些回应,以及他们对待人们的担心、倾听人们顾虑的方式,越来越失望了。」

「从某一刻起,我突然发现我没有足够的信念推荐别人加入 Google 了。我想清楚了,如果我不能推荐别人加入这里,那么为什么我还要留在这儿呢?」一位离职的员工说道。「我尝试提醒自己,这是 Google 的决定,不是我的。我没必要对他们做的每件事都担负起个人的责任。如果我能够让事件升级,那我觉得这就是我的责任。」另一位员工说。

在 Google 创立以来的二十年间,这家一向以工作环境舒适、文化自由的公司从未经历过今天这样的严峻情况。这起 Google 历史上最大的辞职风波,真正给管理层们敲响了警钟,直接促成了最终 Google 作出向抗议员工们妥协的决定。

在六月一日的「天气预报」例会上,黛安·格林宣布,公司将在 2019 年与五角大楼的合约到期后,终止 Project Maven 的合作。

「我们一直有说,这只是个为期 18 个月的合同,所以在 2019 年的三月,它就会结束。」格林在会上说道,「并且我们将不再续约。」

至此,Google 内部长达三个月的抗议活动告一段落,它最终以管理层向员工的想法妥协收场。

但直到格林对外宣布的两天前,《纽约时报》发布了一份内部邮件的爆料文章,我们才看到 Google「服软」背后的真正原因。

撕裂的 Google

并非所有员工都完全反对 Google 与五角大楼的合作。有些人认为 Google 的竞争对手,微软和亚马逊正在从与国防军事的合作中赚得盆满钵满,而在这两家公司内部,却鲜有抗议者阻碍公司追求更多的利益。

四月二日,美国政府对 Project Maven 追加了 1 亿美元的投资,同时国防部还发出价值 100 亿美元的云服务竞标项目,在销售和管理层眼中,这显然是块不容错过的大蛋糕。

在一次全公司的例会上,格林解释说 Google Cloud 与五角大楼的合约并没有用于致命用途,并且这只是个价值 900 万美元的小合同,可管理层的目的也非常明显,他们希望通过这笔为期 18 个月的小合同撬动日后更多更大的生意。

Google 联合创始人谢尔盖·布林也出面回应了一系列有关 Project Maven 的问题,他表示自己与另一位创始人拉里·佩奇以及桑达尔·皮查伊进行了严肃的讨论,他认为 Google 这样的国际性公司参与到这样的合同中对和平来说反而是一件好事——相比一些民族主义的公司而言。

在布林出面的同一个会议上,CEO 皮查伊表示 Google 将会出台一套「能够经得起时间考验」的规定,规范 Google 在日后与国防和情报部门外包生意中避免伦理雷区。可以看出在当时,无论是身居 Alphabet 总裁的布林还是 Google CEO 皮查伊,他们都没有打算彻底放下国防部的这块肥肉。

在曝光的诸多邮件中,李飞飞是一个关键的名字。这位华裔 Google Cloud 首席科学家不论在学界还是产业界都有着举足轻重的地位。在 Google Cloud,她身居管理层却又有着研究员的身份,正因如此,在这场风波之中,李飞飞成为了连接管理层与技术团队的核心人物。

去年九月,当 Google 刚刚与五角大楼签下合同时,负责对政府销售的 Scott Frohman 向李飞飞等人寻求「公关帮助」,希望找到合适的方法在不引起争议的情况下将这一合同公之于众。

从邮件中可以看到,Google Cloud 的同事们将决定权交给李飞飞,后者认为公司应该公开将这一合作宣传作「Google 云平台的巨大胜利」。她强烈建议在构建此计划时要「非常谨慎」,她在邮件中说道,「如果媒体开始拿 Google 在秘密打造 AI 武器或者为国防工业打造能够武器化的 AI 技术作为报道主题,我不知道那样会发生什么。」

李飞飞尤其提到希望公司在公开讨论这一合作时尽量避免使用「AI」这两个字母。「不惜一切代价避免提到或者暗示 AI(的应用),武器化的 AI 可能是最为敏感的人工智能话题之一——甚至可能没有之一。对想要伤害 Google 的媒体来说,这简直是一块送上嘴边的鲜肉。」

李飞飞一贯站在人工智能利好的一面,「将 AI 武器化严重违反了我一切研究工作的原则」,她在事后回应道。

除了 Google Cloud 以外,其他一些公司内部 AI 领域的关键人物也在这次事件中发声。

DeepMind 就是这次抗议的积极参与方之一。早在 2014 年,Google 收购 DeepMind 时,合约上就明文写着后者拒绝将技术提供给任何军事和监控用途。不少 DeepMind 的员工参与了联名信的签名活动,其创始人 Mustafa Suleyman 更是直接参与了建立与 Project Maven 有关政策的 Google 领导层讨论。

Google 人工智能部门的总负责人杰夫·迪恩(Jeff Dean)在前不久的 Google I/O 上接受了媒体的采访,他表示自己已经签署了一份反对机器学习技术在自动化武器中应用的联名信,借此表达了其站在武器化 AI 对立面的立场。

可惜的是,最终拍板的黛安·格林并没有听取李飞飞等人的意见,Google 没有公开这项其与五角大楼的合作,因而导致了数月之后,合作在公司内网上引来无数员工直言不讳的批评。

「大声说出来」

Google 内部一向有着直言不讳的传统,这正是所有加入 Google,自称 Googler 的员工们最为自豪的地方。

在 2015 年,Google 的员工们曾成功迫使公司撤回其对博客平台上色情内容的禁令;2017 年,有员工发表备忘录反应公司内部过分政治正确的问题,引起了整个公司的热烈讨论,包括皮查伊在内的多位高管不得不公开作出反省。

另外一方面,Google 内部充满了技术理想的氛围,技术极客们对这家以「不作恶」为座右铭的公司趋之若鹜。在其创办的二十年间,无数天才聚集于此,Google 也因此得以成长为今天的互联网巨头,在人工智能行业里成为首屈一指的存在。

Google 的文化根植于这种言论开放的公司环境之中,那些联名请愿,甚至痛心离开的 Googler 们正是这一开放文化的忠实信徒。像其行为守则里「没舍得删掉」的那句话:「记住,don't be evil,如果你看到了一些你认为不正确的事情,大声说出来!」当一家公司做出了背离初心的事情,它的员工们甚至不惜离职来逼迫公司重回正轨,这恰恰体现了员工对公司的厚重期待。

在有关 Project Maven 的讨论中,一种观点认为即使 Google 退出,五角大楼也会与其他公司达成合作,最终蒙受损失的只有 Google。

对此,不少人表达了对这种「我不做坏事,其他人也会做」的幼稚观点的否定。但不可否认的是,在人工智能越来越受到各国政府重视的今天,美国国防部不可能因为一家公司的退出而作罢,武器化的人工智能或许已经成为了一个不可避免的趋势。

趋势之下,Google 员工们的奋起抗议也许会被竞争对手和国防部的政府官员们看作是不成熟的举动,但对整个行业而言,这样的做法却成为了一个罕见的先例。

四月中旬,在 Google 内部的联名请愿书发起之后,一些科技巨头的员工们联合了起来,在网上发起了要求 Google、微软、IBM 和亚马逊等云服务巨头不再为国防部合同竞标的请愿书。

一家公司也许无法改变世界变化趋势(无论好坏),但它至少能成为那个积极的榜样。

*本文作者宋德胜,由新芽NewSeed合作伙伴微信公众号:极客公园授权发布,转载请联系原出处。如内容、图片有任何版权问题,请联系新芽NewSeed处理。