投资股票配资科技抵制浪潮已经来临，人工智能难以独善其身｜五一书摘

《我看见的世界》既是李飞飞的个人史投资股票配资，也是一部波澜壮阔、跌宕起伏的人工智能发展史。在这本书里，李飞飞回忆了自己从底层移民成长到顶尖科学家的经历。她度过了困顿艰辛的青少年时代，但对科学的热爱不断激励着她持续追寻人生的“北极星”，并最终走进科学的殿堂。

* 放大收益：通过杠杆作用，投资者可以放大投资收益，获得更高的回报。

李飞飞曾经创建现代人工智能的关键催化剂ImageNet，也曾担任谷歌云人工智能及机器学习首席科学家，但她始终秉持着身为学者的审慎立场，对于人工智能的发展方向提出自己的判断和警醒。2015年，很多人工智能的数据库缺乏多样性，导致了一系列意料之外的结果，例如，将黑人青少年错误地标记为“大猩猩”。她意识到，这是因为科技行业的代表性不足，导致算法无意中带有偏见，在处理非白人、非男性用户信息时表现不佳。她和同事一起推动了AI4ALL项目，致力于支持女性、有色人种和经济困难的学生参与到人工智能领域，以对抗偏见的产生。

李飞飞意识到，人工智能不仅是一种科学，也不仅是“现象”“颠覆”“谜题”“特权”或“自然之力”，人工智能更是一种责任，是我们所有人共同承担的责任。她提出，医疗等领域的规范、先例和伦理基础是经过几个世纪甚至几千年的时间建立起来的，相比之下，人工智能还处于发展的早期阶段，其本身几乎没有明确的伦理准则。这个领域的自我认识之路才刚刚起步。因此，缺乏伦理框架的不仅仅是谷歌，也不仅仅是年轻工程师，而是我们所有人。

经出版社授权，第一财经节选了书中部分篇章，以飨读者。

无人可控（No One's to Control）

从ImageNet时代开始，规模的重要性就已经显而易见，但近年来，“越大越好”的观点几乎被赋予了宗教般的意义。媒体上充斥着城市街区大小的服务器设施的图片，关于“大数据”的讨论永无休止，不断强化着这样的观点：规模是神奇催化剂，是机器中的幽灵，可以将人工智能的旧时代与令人窒息的梦幻未来区分开来。虽然相关分析可能会有些简化，但本质上并没有错。没有人能否认，神经网络确实在这个资源丰富的时代蓬勃发展：惊人的数据量、大规模分层架构和大量互联的硅片确实带来了历史性变化。

这对科学意味着什么呢？如果我们的工作秘诀可以简化为赤裸裸的量化，简化为蛮力制胜，那么努力思考和创新又有什么意义呢？如果一些想法在层数太少、训练样本太少或GPU太少的情况下似乎会失败，而在数量增加到足够多的时候突然又可以高效运转，那么对于算法的内部运作机制，我们又能得到什么教训呢？我们发现自己越来越多地从经验角度观察人工智能，就好像它是自己出现的一样，仿佛人工智能是需要先识别、后理解的东西，而不是根据第一原理设计产生的技术。我们与人工智能之间的关系正在发生转变，对我这样的科学家而言，这样的前景令人深思。在谷歌云的新职位上，我可以鸟瞰越来越依赖于各个层面技术的世界，但我们不能坐而论道、惊叹于一切的神奇。这种奢侈我们负担不起。新一代人工智能所能做的一切，无论是好是坏，无论是在预期之内，还是在意料之外，都因其设计本身缺乏透明度而变得复杂。神经网络的结构本身充满了神秘色彩，它是由微小的、权重微妙的决策单元组成的巨大集合体。这些决策单元孤立地看毫无意义，但以最大的规模组织起来时，却强大得令人咋舌，几乎无法为人类所理解。我们可以从理论的、抽象的意义上谈论神经网络：它们能做什么，它们达到目标需要什么样的数据，它们训练后的性能特征大致在哪个范围；但从一次调用到下一次调用，它们在内部到底做了什么，却是完全不透明的。

由此带来的后果特别令人担忧，这就是一种被称为“对抗攻击”的新型威胁。在对抗攻击中，输入内容的唯一目的是迷惑机器学习算法，以达到反直觉甚至破坏性的目的。举例来说，一张照片看上去是描绘了某种明确的事物（比如蓝天下的长颈鹿），但可以通过单个像素颜色的细微变动进行修改。尽管这种像素颜色的变化是人类肉眼无法察觉的，却会在神经网络中引发一连串的故障。如果对抗攻击设计得当，虽然原始图像看起来没有任何变化，但算法会把“长颈鹿”这样的正确分类变成“书架”或“怀表”等错误分类。先进技术无法辨认野生动物照片的场景可能会让人觉得好笑，但如果对抗攻击的目的是愚弄自动驾驶汽车，导致汽车对停车标志，甚至人行横道上的儿童进行错误分类，就绝对不能用好笑来形容了。

当然，提高工程技术水平可能会有所帮助。“可解释的人工智能”，或简称为“可解释性”，正在成为新的研究方向，令人备受鼓舞。可解释的人工智能试图将神经网络近乎神奇的计算进行简化，转变成人类可以仔细研究和理解的形式。但相关研究尚处于起步阶段，无法保证能够达到其支持者所期望的高度。与此同时，这项技术所要诠释的模型却已经开始在世界各地大量出现。

即使是完全可解释的人工智能也仅仅是第一步。如果在算法设计完成后，再加入安全性和透明度等考虑因素，无论设计得多么精妙，都不足以满足要求。下一代人工智能必须从开发之初就采取与现在完全不同的理念。以激情为起点固然很好，但我们要面对的是纷繁复杂而又不起眼的挑战，要取得真正的进展，就必须有敬畏之心。而硅谷似乎缺乏这种心态。

学术界早就意识到人工智能可能会带来负面冲击，比如缺乏透明度、容易受到偏见和对抗性影响等等。然而，由于研究规模有限，风险一直只存在于理论层面。我的实验室最有现实影响力的工作是环境智能研究。由于临床法规的制约，我们对工作热情保持谨慎和克制，因此有足够的机会来应对相关隐患。但现在，市值接近万亿美元的公司已经掌握了主导权，潜在风险的发展步伐也急剧加快。无论是否准备就绪，这些问题都需要以商业速度加以解决。

每个问题单独来看都令人担忧，但它们共同指向了一个未来，其特点是监督减少、不平等加剧，如果处理不当，甚至可能导致迫在眉睫的数字独裁主义问题。走在全球最大公司之一的走廊里，我不禁陷入沉思，问题的确很尴尬，尤其是考虑到同事们的诚意和良苦用心。这些都是制度性问题，而不是个人问题。现在还没有出现胡子拉碴的典型恶棍，我们还没有遇到真正的现实问题，此时提出这些挑战，只会让人更加困惑。我回想起与阿尼共事的情景，想起当时要在几家医院部署手工制作的小型原型设备是多么困难。在高度谨慎的医疗领域，创新是逐步展开的，虽然有时令人沮丧，但总体上也让人感到心安。我想知道医疗领域的做法是否值得广泛效仿。

硅谷的傲慢态度向来为外界所诟病。在人工智能时代，尽管我们对潜在风险的认知不断加深，企业的夸夸其谈也上升到了新的高度。首席执行官们在世界各地的舞台上发表主题演讲，有些内容高瞻远瞩，有些则拙劣不堪，还有一些是彻头彻尾的侮辱。企业高管们承诺将在不久后推出自动驾驶汽车，设计出高超精湛的肿瘤检测算法，实现工厂的端到端自动化。至于被先进技术取代了工作的人（出租车司机、长途卡车司机、装配线工人甚至放射科医生）的命运，商业领域的态度似乎介于半心半意的“再培训”和几乎不加掩饰的漠不关心之间。

无论首席执行官和自诩为未来学家的人的言论如何彻底脱离公众，技术的日益普及都会进一步加剧人们对人工智能的恐惧。在这个时代，里程碑接二连三地出现，最可怕的情景正在逼近。在人工智能领域的历史上，第一次出现了流血事件。

在亚利桑那州坦佩市，优步先进技术集团正在测试一辆自动驾驶原型汽车。伊莱恩·赫茨伯格（Elaine Herzberg）推着自行车过马路时，被这辆车撞倒身亡。两年多前，优步策划了卡内基梅隆大学机器人系团队离职记，而现在，优步的自动驾驶项目成了公众嘲讽的对象。如果说人工智能如今频频遭遇偏见让我和同事们感到难过，那么我们现在的感受则无法用语言来形容。优步的品牌已经声名狼藉，其原因与技术本身关系不大。尽管我们很容易将事故归咎于优步，但很明显，这绝对不会是最后一个类似的事故。

的确，更多教训很快就出现了。2016年，ProPublica1的一系列调查显示，有偏见的人工智能被广泛应用于处理贷款申请，甚至协助法官做出假释决定等方面。类似的报道还显示，在某些招聘中，求职者会先经过人工智能技术的筛选，然后才有真人面试官进行面试。此类做法往往会在无意中造成歧视性影响，这一点并不令人意外。伊莱恩·赫茨伯格的死亡理所当然地导致优步自动驾驶团队解散，并对整个领域造成了负面影响，但上述更微妙、更机构化的伤害却不可能迅速得到纠正。相关问题几乎是无声无息的，影响范围更广，而监管则少之又少。期待出现同样程度的公愤是不现实的。但好在公众意识在不断提高，媒体也认识到，当涉及人工智能的报道时，不应忽视偏见、公平和隐私等问题。

无法问责算法、特定人群受到不公平待遇、一个人意外死亡，这些都是人工智能领域出现的新局面。审视局面，我得出结论：简单的标签已经不再适用。甚至连“失控”等措辞都显得委婉。人工智能不是现象，不是颠覆，不是难题，也不是特权。我们面对的是一种自然力量。它是如此宏伟，如此强大，如此反复无常，既能轻易激发灵感，也很容易摧毁一切。要让人工智能值得信任，需要的远不止商业公司空洞的陈词滥调。

人工智能甚至不是科技界对公共利益的唯一威胁，这使得情况变得更加复杂。在人工智能领域出现问题的时候，剑桥分析公司也爆出丑闻。在2016年美国总统大选期间，公众普遍对虚假信息表示担忧。关于社交媒体和新闻源过滤气泡的不良影响的报道也在不断增加。种种事件都有一个共同之处：世界正在逐渐意识到，数据不仅有价值，而且具有影响力，甚至可以产生前所未有的决定性影响。

到2018年，已经没有人再质疑其中的利害关系了。对脸书和Instagram等社交媒体应用的审查不断加强，因为它们提供的超个性化内容可能会导致青少年出现抑郁和焦虑。社交媒体利用人工智能打磨定制化内容，以实现最大程度的“用户参与”，这种趋势令人不安。亚马逊使用一系列监控工具（包括监控腕带）实时追踪工人的工作效率，这种仓库管理方式受到媒体抨击。微软在试图推广其人工智能面部识别技术时，遭到了隐私权倡导者和公民自由组织的批评。我自己也被卷入争议的中心。当时谷歌云与美国国防部签订的一份合同（内部称Maven项目）引发了广泛的争论。几个月后，紧张局势从公司内部蔓延到媒体，重新点燃了大众关于技术在军事事务中所扮演角色的长期争议。科技抵制浪潮已经来临，人工智能难以独善其身。

（本文节选自《我看见的世界：李飞飞自传》第十一章《无人可控》。）