第一部分 机器

1.一位“次乐观主义者”的诞生

机器对社会的危害,不是来自机器本身,而是来自人类如何制造它。

——诺伯特·维纳(Norbert Wiener)
美国应用数学家,控制论创始人

灯光暗了下来,吉他声在扬声器里隆隆作响,舞台后面的屏幕上亮起了一些机器人的名字。

信息安全审计机器人——埃森哲咨询公司

果汁压榨机器人——卡夫·亨氏食品公司

网络监控机器人——印孚瑟斯信息公司

那是2019年4月,我在曼哈顿一家酒店的宴会厅里,看着一家硅谷的初创公司向数百名企业高管展示其最新产品,这家公司的名字叫“随处自动化”(Automation Anywhere,后简称AA公司)。这些产品不是你在科幻电影中看到的那些实物机器人,而是软件机器人,它们由字节和像素组成,是被编程用来代替人类员工的。

AA公司给这些高管推销的内容很简单:“我们的机器人比你们办公室里的员工更为出色。”毕竟,机器人可以一周7天、一天24小时工作而不会筋疲力尽。他们不休假,不投诉人力部门,也不请病假。理论上看,如果用机器人代替人工,你就可以将人解放出来去做更有价值的事情。

AA公司的首席执行官米希尔·舒克拉(Mihir Shukla)说:“我们有20%~40%的劳动力被困在应用程序之间,承担连接的作用。”他补充说,当这些工作实现自动化时,“人们可以去从事价值更高的工作,而公司可以显著降低成本”。

推销工作看起来很有效。AA公司尽管很低调,但已成为全球增长最快的初创公司之一,其估值超过了60亿美元。该公司的机器人已经完成了超过100万次的安装,客户包括万事达卡(Mastercard)、联合利华(Unilever)和康卡斯特(Comcast)等《财富》杂志500强企业。

几周之前,我应舒克拉的邀请,拜访了他们在美国加州圣何塞的公司总部。他带我参观了办公室,这是一栋单层建筑,空气清新,墙上印着数学公式。他还带我参观了4间会议室,这些会议室是为纪念不同时期的工业革命而设计的。

第一间会议室名为“1760”,其装饰是对首次工业革命的致敬,墙上挂着一套机械齿轮。第二间会议室被命名为“1840”,天花板上悬挂着爱迪生改进的白炽灯,以纪念19世纪后期的第二次工业革命。第三间会议室叫“1969”,墙上贴着20世纪中叶风格的壁纸,挂着一只迪斯科灯,这代表了第三次工业革命,即20世纪的创新浪潮,包括微型芯片、个人电脑和互联网等技术。

最后一间会议室完全用白色装饰,它代表了第四次工业革命,这是我们目前正在经历的一场革命,这场革命是由自动化领域的加速创新和人工智能来定义的。舒克拉说,墙上白板的装饰代表着第四次工业革命尚未结束,它改变我们生活的潜力仍在展现。

我们在圣何塞会面时,舒克拉告诉我,一个关于机器人的古老问题——它们会抢走我们的工作吗——从根本上说是被误导的。事实上,他认为在很多情况下,机器人应该接替我们的工作,因为这些工作正在浪费我们人类的潜力。

“我们试图将机器人从人的身体里抽离出来,让人类去实现更大的成就。”他说。

但是,在纽约,在潜在客户面前的舞台上,舒克拉为他的推销增加了一层更为务实的内容。他告诉这些高管,自动化可以大幅削减他们公司的运营支出,让公司更加赚钱。他夸口说,AA公司的机器人不仅仅是一些单任务算法,而是一群“可下载的数字员工”,可以取代所有人的工作。他还举例说明了公司只需点击几下鼠标就可以“雇用”的数字员工:数字出纳、数字工资管理员、数字税务审计员。

然后,舒克拉回到了鼓舞人心的模式,发布了一份关于未来人工智能和自动化的宏伟的愿景声明,这份声明与他的很多技术同行的声明类似。这是对双赢未来的乐观描述,他认为,未来机器智能会将我们从世俗的劳动中解放出来,促进我们的经济发展,并使我们能够解决最大的社会问题。

他说:“我想象了一个世界。从现在起,100年后,我们将在火星的山坡上滑雪;200年后,我们将在土星环上冲浪;500年后,我们将把黑洞作为一种能源。”

舒克拉在舞台上踱着步,为自己的出色表现收尾。

他继续说道:“这是人类的潜力,但是如果有40%~70%的劳动力还像机器人一样被使用,我们就无法做到这一点。我们必须解放人类的智慧!”

————

当我告诉别人,我正在写一本关于人工智能和自动化的书时,我得到了两种反应。

我那些对技术持怀疑态度的朋友和同事普遍赞同。他们总会听到关于扼杀就业的机器人的悲观预测,这令他们感到担忧。他们想让我证实他们对迫在眉睫的自动化危机的担忧是合理的,并确认他们的怀疑:即使人工智能不会导致大规模失业,它也会带来新的危害,比如令人毛骨悚然的监控、失控的自动驾驶汽车、令人大脑愚钝的社交媒体应用等,这些都是弊大于利的。

但是,对硅谷人来说,更典型的是我从Box(企业软件公司)的首席执行官亚伦·利维(Aaron Levie)那里得到的反应。

“哦,老天,”他说,“请告诉我,你不是在写一本‘机器人抢走了所有工作’的书吧,这种书让所有人都感到恐惧和沮丧。”

像AA公司的米希尔·舒克拉一样,利维认为机器人最终将对员工有益。媒体上对人工智能创新技术危言耸听的报道令他感到恼火,他认为我们都在杞人忧天。

在开始回答“我们如何处理人工智能”这个问题之前,我想让这个观点得到应得的重视,并真诚地与利维和舒克拉这样的人交流。因此,我与很多人工智能乐观主义者进行了交谈,他们相信这些技术最终会产生更多的积极影响,而不是消极影响。我将他们的看法归纳为下面四大主张。

主张一:“我们以前遇到过这种情况,结果很好。”

乐观主义者认为,数百年来的证据表明,人们对自动化的恐惧通常是没有根据的,尽管技术确实摧毁了一些工作机会,但它总是能创造出新的工作来取代旧的工作,并在此过程中提高我们的生活水平。

乐观主义者说,当然,工业革命让一些农民失去了工作。但它在工厂里创造了数百万个就业岗位,并使全新的消费品变得更便宜、更容易获得。他们说,这种模式在人类历史上反复出现。电灯将点灯人淘汰了,但它们创造了人们需要生产、销售和维修的一整套新型电气化工具。家庭制冷让卖冰人消失了,但它为杂货店、餐馆和农场创造了更多的就业机会。

《第四时代》(The Fourth Age)的作者、未来学家拜伦·里斯(Byron Reese)就是一位这样的乐观主义者,他写道:“250年来,技术一直在不断进步。在美国,失业率一直保持在5% ~10%,即使蒸汽动力和电力等激进的新技术出现了也是如此。”Byron Reese, The Fourth Age (New York: Atria Books, 2018).

提出这一观点的人经常援引当今的经济数据来支持他们的看法。通常,他们会提到“生产率悖论”,即在过去的几十年里,美国生产率的增长实际上已经放缓,这与你预计看到的情况相反,即大规模自动化让公司变得更加高效,并到处摧毁就业机会。

他们说,归根结底,没有证据表明这种技术变革与之前的变革有任何不同,我们应该让历史打消我们对未来的疑虑。

主张二:“人工智能会让我们的工作变得更好,无聊的工作由它来做。”

乐观主义者说,技术通常不会取代工人。相反,它会改善他们的工作,将他们从重复的、单调的工作中解放出来,让他们专注于更有意义、更有价值的工作。

《连线》杂志在2020年的一篇文章中宣称:“人工智能正在为你最厌烦的办公室工作而来。”Will Knight, “AI Is Coming for Your Most Mind-Numbing Of ice Tasks,”Wired, March 14, 2020.该文章指出,人工智能应用程序正被部署在大公司的内部,从事数据输入、文档格式化和大篇幅报告汇总等繁重的工作。

乐观主义者经常引用专业人士的例子,说他们已经将大部分苦差事外包给了计算机,比如,医生使用电子病历来做大部分日常记录,以便他们可以专注于跟病人沟通;律师的法律研究软件使得他们可以花更多的时间与客户互动;另外,建筑师的计算机辅助设计软件为他们节省了大量单调的绘图时间。

乐观主义者说,这些工作没有受到自动化的威胁,因为仍然有很多人类医生、律师或建筑师可以做的事情是机器无法完成的。未来几年出现的人工智能将会让更多枯燥和重复性的工作消失,并使得我们有更多精力去做我们真正喜欢做的事情。

主张三:“人与人工智能将会协作,而不是竞争。”

乐观主义者还认为,当今的大部分人工智能是为了与人协作而设计的,而不是为了取代人,我们应该将人与人工智能的关系视为协作的机会,而不是竞争的威胁。

在《第二次机器革命》一书中,埃里克·布莱恩约弗森和安德鲁·麦卡菲建议用“与机器一起跑”(race with the machines)来代替“与机器赛跑”(race against the machines)。咨询公司埃森哲的两位高管保罗·多尔蒂(Paul R. Daugherty)和詹姆斯·威尔逊(H. James Wilson)在他们合著的《机器与人》(Human + Machine)一书中写道,人与人工智能的协作将是21世纪经济的基石。

他们写道:“人工智能系统并没有全面取代我们。相反,它们正在增强我们的技能,并与我们协作,以实现以前无法实现的生产率提升。”

这类乐观主义者经常举的一个例子是国际象棋大师加里·卡斯帕罗夫(Garry Kasparov),他因在1997年输给IBM(国际商业机器公司)的“深蓝”电脑程序而出名。据说,卡斯帕罗夫在被“深蓝”击败后意识到,如果人类棋手与计算机协作,结果会更好。于是,他开始推广“自由式象棋”,在这种游戏中,每个玩家都可以向计算机程序咨询,并将机器的见解与他们自己的专业知识相结合。卡斯帕罗夫写道,当这些人机组合团队与单独的计算机对抗时,前者将势不可当。

乐观主义者认为,同样的原则也适用于所有领域的专业人士。医生在诊断疾病之前会咨询机器学习模型,法官会使用累犯算法为他们的判决提供依据,新闻记者会对机器生成的初稿进行人工完善。乐观主义者说,在所有这些情况下,人与人工智能共同努力,将会取得比任何一方单独工作更大、更高的成就。

主张四:“人工智能不会导致大规模失业,因为人的需求是无限的。在未来,我们将会创造出我们今天甚至无法想象的新工作。”

乐观主义者通常提出的第四个主张是,悲观主义者本质上没有发挥他们的想象力。他们说,仅仅在几十年前,世界上许多大公司(包括Facebook、谷歌和亚马逊)都还不存在。直到最近,才出现YouTube内容创作者、搜索引擎优化专家、专业电子竞技选手等职业。

他们认为,人工智能已经在数据科学、精密医学和预测分析等领域创造了新的就业机会。将来,随着人工智能的进步,它将为人类的创造力提供更多的机会。也许我们都希望私人教练机器人跟着我们,提醒我们要吃得更健康、做更多的运动;也许我们的城市里布满了相互连接的传感器,这些传感器可以动态调整交通模式以避免拥堵,或者通过分析生活废水来发现潜在疾病的暴发;也许除了自动驾驶汽车之外,我们还会建造自动驾驶餐厅,在我们吃饭的时候,它会把我们从一个地方运送到另一个地方。所有这些新项目都需要人,人不仅仅要编写代码,还要提供建议、安装传感器和提供招待服务。

乐观主义者说,我们总是善于为自己发掘新的、有趣的工作机会,随着技术打开一些新的大门,我们无穷无尽的渴望将使我们免于无所事事。

————

在研究了这些主张,并检查了人工智能乐观主义者通常引用的证据之后,我的立场变得既不完全乐观,也不完全悲观。

这更像是一种“次乐观主义”(suboptimism)——我用这个编造的词语来表达我的信念,即尽管人工智能和自动化最令我们恐惧的情形可能不会出现,但其中仍存在一些真实、紧迫的威胁需要我们关注。如果我必须用1~10分来表示自己的忧虑等级,1分表示“人工智能不会造成任何的经济或社会问题”,而10分表示“人工智能将会摧毁我们以及我们珍视的一切”,那么我可能会徘徊在7分左右。

当谈到技术本身时,我就不那么担心了(也许忧虑等级是2分或3分)。我仍然相信,精心设计的人工智能和自动化可以从根本上改善很多人的生活。自动驾驶汽车和卡车每年通过避免致命事故就可以挽救数十万人的生命,这将会是一件好事,即使这也会导致一些卡车司机和出租车司机失业。精准医学是一种结合人工智能、大数据分析与基因组学的新型个性化疾病治疗和预防方法,可以帮助我们找到新的挽救生命的治疗衰弱性疾病的方法。人工智能还可以通过100万种方法来改善我们的未来,从严肃的(更有效的能源消耗)到有趣的(新式的自适应的、人工智能驱动的电子游戏)。

不过,我更担心的是那些设计和实施所有这些新技术的人(忧虑等级可能是8分或9分)。我已经看到,人工智能受到了渴望获得利润的企业高管和满眼放光的创业者们急切的欢迎,他们中的很多人都在故意低估人类将会受到伤害和被取代的风险。我知道,很多企业老板正在使用人工智能对其员工进行微观管理和监督,结果,很多工作变得更困难、更不稳定,而不是更轻松、产生更多回报。我知道,存在缺陷和偏见的数据集会导致人工智能出现缺陷和偏见,而构建当今人工智能的工程师们压倒性的同质化很可能会导致系统过度伤害边缘化群体(包括女性和少数族裔)。我担心,对试图压制弱势群体和政治异议的专制政府而言,人工智能将会变得越来越有用。一想到面部识别等人工智能技术将助长侵犯隐私和侵犯人权的行为,我就不寒而栗。

我承认,我的“次乐观主义”部分来说是一种直觉反应,这归因于我多年来对技术行业的了解,以及看着它偏离理想的结果。

但这也基于我在人工智能乐观主义者提及的案例中的发现,为什么每个要点都比乐观主义者所认为的要弱呢?

让我们从第一条乐观的主张开始。

“我们以前遇到过这种情况,结果很好。”

我发现的第一件事是,很多乐观主义者没有做过历史功课。因为虽然他们中的很多人声称第四次工业革命对人类来说将会很伟大,但他们很少注意到,对很多人来说,前三次工业革命并非都是伟大的。

在18世纪和19世纪,随着美国和英国工业化进程的推进,工人们经常在拥挤不堪且不卫生的工厂中忍受残酷的条件,并经常忍受长时间的工作和可怕的剥削。Emma Griff in, Liberty’s Dawn: A People’s History of the Industrial Revolution (New Haven: Yale University Press, 2013).童工们面临的是一些最恶劣的条件,他们挤在肮脏的板房里,工资少得可怜,当达不到老板的标准时,他们就会受到虐待。第二次工业革命和第三次工业革命对工人来说进行得更为顺利,部分原因是在首次工业革命的冲击下出现了劳动保护,但其中仍然存在很多问题。第二次工业革命开创了镀金时代,这是19世纪末美国历史上的一个时期,其特征是惊人的腐败、血腥的劳资冲突、令人痛苦的种族不公正和日益加剧的收入不平等。在第三次工业革命期间,通信技术的进步带来了巨大的生产率提升,但同时也促进了一种新的全天候工作文化的发展,给白领的工作带来了新的焦虑源,并导致了前所未有的倦怠和与工作相关的压力。

历史表明,虽然技术变革通常会改善精英阶层和资本所有者的境况,但工人并不一定总是能立刻享受到这种好处。例如,在18世纪60年代工业革命爆发后,英国的国内生产总值和企业利润几乎立即飙升,但据估计,英国工人实际工资的上涨用了50多年才实现。Gregory Clark, “The Condition of the Working-Class in England,1209–2003,”Journal of Political Economy (2005).恩格斯在《英国工人阶级状况》(The Condition of the Working Class in England)一书中描述的这种差距,经济学家现在将其称为“恩格斯停滞”。Robert C. Allen, “Engels’ Pause: Technical Change, Capital Accumulation,and Inequality,”Explorations in Economic History (2008).这意味着,在大多数真正参与工业革命的工人看到他们提高生产率的成果时,他们中的很多人要么已经退休了,要么去世了。

一些经济学家认为,如今我们可能处于另一个恩格斯停滞期,因为企业利润飙升,而工资水平停滞不前。最近的几项研究对下面这个观点提出了质疑:自动化创造的工作总是多于其摧毁的工作。

麻省理工学院的达龙·阿西莫格鲁(Daron Acemoglu)和波士顿大学的帕斯夸尔·雷斯特雷波(Pascual Restrepo)这两位经济学家发现,在过去的几十年中,自动化摧毁工作岗位的速度超过了其创造工作岗位的速度。Daron Acemoglu and Pascual Restrepo, “Automation and New Tasks:How Technology Displaces and Reinstates Labor,” Journal of Economic Perspectives (2019).他们发现,1947—1987年,乐观主义者对自动化的看法基本上是正确的:在采用自动化的行业中,工作岗位的破坏和创造(他们称之为“取代”和“恢复”)以大致相同的速度发生。但是,1987—2017年,这些行业中被“取代”的人数大大超过了“恢复”工作的人数,新创造的工作机会通常是很多员工无法胜任的高技能工作。换句话说,虽然过去被取代的工人会感到欣慰,因为他们知道技术很快就会为他们创造新的工作,但是今天很多被人工智能和自动化摧毁的工作可能不会回来了。

自动化也往往会对低收入职业人群影响更大,并加剧现有的种族和性别差距。麦肯锡2019年的一份报告预测,自动化取代黑人男性的比例会明显高于取代白人男性或亚洲男性的比例,部分原因是黑人男性在自动化风险高的职业中所占的比例很高,比如卡车司机、餐饮服务人员和办公室文员。Kelemwork Cook, Duwain Pinder, Shelley Stewart, Amaka Uchegbu, and Jason Wright, “The Future of Work in Black America,” McKinsey, October 4, 2019.(该报告预测,黑人女性的情况会好一些,因为她们在护理和教学等行业中所占的比例很高,这些行业自动化的风险较低。)

所有这些都应该让我们感到担忧,也应该让我们对那些乐观主义者做出第二次评判。对于当今人工智能和自动化产生的影响,他们竟然将历史视为信心的来源。正如牛津大学的经济学家卡尔·贝内迪克特·弗雷(Carl Benedikt Frey)所写的那样:“如果这‘只是’又一次的工业革命,警钟应该被敲响。”Carl Benedikt Frey, The Technology Trap: Capital, Labor, and Power in the Age of Automation (Princeton, N.J.: Princeton University Press, 2019).在前三次工业革命中,很多人遭受了苦难,在这次革命中,很多人也会遭受苦难。

“人工智能会让我们的工作变得更好,无聊的工作由它来做。”

要评估这条主张,我们需要首先定义什么是“更好”。

自动化降低了工作对体力的要求,这是普遍的事实。过去几个世纪以来,最艰苦的蓝领工作(采矿、肉类加工、重工业等)大部分都被机器接管了。

人们也很容易想到自动化让枯燥、重复的白领工作消失的例子。例如,在我的工作中,我曾经不得不花费几个小时将采访的录音转换成文字。这是一项费时费力的工作,我讨厌它。现在,我可以将音频文件上传到一个自动转录服务程序中,该程序能够使用由机器学习驱动的语音转文本引擎,在几秒之内转录我的音频文件。但我的自动化转录服务也并不总是很顺畅,该应用程序往往会犯一些非常有趣的错误,比如我采访Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)的一位密友时,该程序将“扎克的倾向”(Zuck’s inclination)转录为“性感的临床医生”(sexy clinician)。但这些年来,它为我节省了几百个小时,让我可以腾出时间来做报道和写文章。

但是,尽管有这些节省劳动力方面的创新,但没有证据表明当今的工作者比之前几代更快乐。今天,美国总体人口的抑郁和焦虑率水平比30年前要高得多,而且员工自我报告的工作场所压力水平几十年来一直在稳步上升。Jean M. Twenge, “Are Mental Health Issues on the Rise?,”Psychology Today, October 12, 2015.

尽管我们的工作比以往任何时候都更安全、更轻松,但我们在工作中并没有变得更快乐。这种现象看似矛盾,但可以用这样的观察来解释,即除了让繁重的体力劳动消失之外,自动化还会剥夺工作者在工作中实际享受到的有趣、有益的部分。

历史学家戴维·奈(David Nye)写道,在20世纪30年代,随着第一拨工厂开始安装电力设施,很多工人希望它能改善他们的日常生活。但是电灯接通之后,他们发现自己生活中最大的改变就是不再交流互动。电气机器已经把曾经充满活力的协作工作变成了例行的、按下按钮的苦差事。David E. Nye, Electrifying America: Social Meaning of a New Technology(Cambridge, Mass.: MIT Press, 1990).

奈写道:“工厂内部的人际接触(自由传播的谣言、笑话和友情)变得更加困难。以前经常出现工作间歇,人们很容易进行社交,但现在经理们不断改进机器,加快了工作节奏。”

这种转变现在也发生在白领工作场所,因为人工智能和自动化让公司有可能挤掉所有的低效工作和停机时间,而这些情况曾经给员工们一个喘息和相互交谈的机会。

人工智能和自动化也创造了一些全新的无聊、重复的工作类别,其中很多是我们看不到的。玛丽·格雷(Mary L. Gary)和西达尔特·苏里(Siddharth Suri)曾写过“幽灵工作”(Ghost Work)的兴起,这是一种对最终用户精心隐藏人工劳动的现象,这种工作被用来使人工智能和自动化系统正常运行。Mary L. Gray and Siddharth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass (New York: Houghton Miflin Harcourt, 2019).Facebook、Twitter(推特)和YouTube等社交网络依赖于大量低薪的承包商,他们的工作是整天筛选那些令人反感的内容,决定哪些帖子应该保留,哪些应该删除。像Alexa这样的人工智能助手得到了“数据注释者”的帮助,这些人会收听用户对话的录音,并通过标记数据、纠正错误以及训练人工智能理解口音和异常请求,帮助系统逐步改进。在中国,“数据标注公司”如雨后春笋般涌现,以满足用户对员工的大量需求,员工们整天做着普通的文书工作,例如标注图像和音频片段,这些工作使人工智能成为可能。Li Yuan, “How Cheap Labor Drives China’s A.I. Ambitions,”New York Times, November 25, 2018.据报道,这些员工每小时的收入只有10元。

人工智能乐观主义者声称,新技术总体上提高了我们的生活质量,并且一旦适应了它,我们很少想回到过去的做事方式,这一点大体上是正确的。(我想,即使最顽固的新技术反对分子,也不会对手洗衣服或在没有麻醉的情况下接受手术感到兴奋。)

但乐观主义者忽略了一点,那就是我们的生活并不能总体来看,也不能长期来看。作为职业生涯有限、寿命有限的个体,我们经历了一些重大的经济变革,对很多人来说,技术变革并不总是为他们的生活带来更好的物质条件。

原则上,我同意乐观主义者的观点,为了稳定而试图保护过时的规范和被淘汰的工作,是一场必败之战。我赞同这样一种看法,即我们作为一个社会,往往太仓促地将变革误认为灾难。

但是,对这个话题的任何诚实的评估都必须承认变革很困难,并且许多人不能无缝地从一个技术时代跳到另一个技术时代。不可避免地,有些人会从裂缝中掉下来;有些人最终找到了自己的立足点,但从未恢复他们曾经拥有的稳定性;还有一些人被掌握新技术的人利用,后者通过新技术从前者身上获取更多而付出更少。通常,这些变革最终会带来一代又一代的迷失者——数百万人的生活因无法控制的力量而脱轨,他们永远无法到达应许之地,甚至活不了那么久,无法知道应许之地到底是什么模样。

简而言之,人工智能和自动化当然能够改善我们的生活,但它们会不会改善,我们还远未可知。

“人和人工智能将会协作,而不是竞争。”

在这一点上,我真的、真的很想站在乐观主义者一边。我喜欢人和人工智能并肩协作、和谐相处的景象。我愿意相信,不管一台机器在给定的任务中表现得多么出色,总会有一些人类专家可以带来某种不可量化的X因子。

不幸的是,这似乎不是真的。

在一项又一项的研究中,研究人员发现,在达到一定的性能阈值后,人工智能的表现不仅会优于人类,而且会优于人机组合团队。2019年,华盛顿大学和微软研究院的研究人员进行了一项综合分析,审核了以前的很多研究,将人工智能系统的独立决策与人工智能辅助下人的决策进行了评估。Gagan Bansal et al., “Does the Whole Exceed Its Parts? The Efect of AI Explanations on Complementary Team Performance,” ArXiv, June 2020.他们发现,在所有的情况下,人工智能独立运行的表现都优于人机组合团队。

“在这些研究中,我们没有观察到互补的表现,”研究人员写道,“在每种情况下,增加人的参与都会降低最终表现水平。”

连人机组合的国际象棋队的经典例子也存在缺陷。加里·卡斯帕罗夫关于这些人机组合团队将比单独的计算机更胜一筹的假设尽管在时间更早、功能更弱的计算机国际象棋时代可能是正确的,但现在似乎不再正确。例如,布法罗大学的研究人员在2014年领导开展的一项研究发现,虽然人机组合团队可能曾经比国际象棋人工智能更具优势,但这种差异没有持续到现在。Kenneth W. Regan et al., “Human and Computer Preferences at Chess,”MPREF@AAAI, 2014.

换句话说,在这些我们经常听到的人机合作关系中,我们人类经常是沉重的累赘。

“人工智能不会导致大规模失业,因为人的需求是无限的。在未来,我们将会创造出我们今天甚至无法想象的新工作。”

尽管这在技术上是不可信的,但我发现这种说法比人工智能乐观主义者通常提出的其他任何观点都更具说服力。每当我想到人工智能和自动化可能会让人变得完全无用时,我都会想到我小时候还不存在的那些工作岗位,比如应用程序开发人员、社交媒体运营人员、播客制作人、无人机电影摄像师等。我发现自己感到疑惑,在未来的几十年里,我们会看到哪些新的、听起来很奇怪的工作?

行业观察人士已经看到一些新的工作出现了。咨询公司埃森哲在2018年调查了1 000家大公司,发现与人工智能相关的工作分为三类,即“培训者”(trainers)、“解释者”(explainers)和“维持者”(sustainers)。H. James Wilson, Paul R. Daugherty, and Nicola Morini-Bianzino, “The Jobs That Artif icial Intelligence Will Create,”MIT Sloan Management Review, Summer 2017.这些人要做的是引导和监督机器,向其他人解释算法做出的决策,并完成将人工智能集成到企业信息技术部门的烦琐工作。埃森哲的竞争对手高知特公司(Cognizant)最近发布了一份清单,列出了它认为很快会问世的几十种工作岗位,包括“个人数据经纪人”、“增强现实旅程构建者”和“青少年网络犯罪康复顾问”等。Benjamin Pring et al., “21 Jobs of the Future: A Guide to Getting — and Staying — Employed for the Next 10 Years,” Cognizant, 2017.当然,最大的问题是,这些工作是否足够替代那些因自动化而消失的工作,以及旧工作的消失和新工作的出现之间是否会有很长的时间差距?

这些都是很难回答的问题,因为我们还不知道所有的新工作会是什么,或者它们会多快出现。

但是,还有一些其他的问题我们可以开始回答,比如:

• 技术创造的新工作会像它取代的旧工作一样稳定、使人有成就感且报酬丰厚吗?

• 新工作会和旧工作在同一个地方吗?

• 所有性别、种族和教育背景的人都可以获得新工作,还是说白人男性将仍然拥有不公平的优势?

• 公司的所有者会与员工分享自动化带来的利润,还是说他们会把利润留给自己和公司的投资人?

• 公司会在技术可行的情况下尽快解雇员工,还是会留住他们,对他们进行再培训,让他们从事其他工作?

• 人工智能研究人员会专注于创造新的、充满工作机会的行业中的重大突破,还是会致力于增量进步,仅帮助公司从员工身上榨取更高的生产率?

• 那些不能轻易从旧工作跳槽到新工作的人是否有足够的社会和经济支持?

• 谷歌、Facebook和亚马逊等公司会使用人工智能来增强人们的能力,让他们获取可信赖的信息,并改善他们的生活质量吗?还是说他们会利用人工智能来扩大分裂、散播谎言和阴谋论,并建立无法逃脱的监控网络?

值得注意的是,这些都不是关于机器的问题,而是与人有关的。政治家、商业领袖和技术专家回答这些问题的方式,将决定人工智能和自动化是否被视为一种破坏性力量、一种人道主义祝福或两者之间的某种结合。

这让我想起了我的“次乐观主义”。

好消息是,我之所以不完全怀疑人工智能的潜力,是因为我们仍然有能力决定如何开发这些技术。如果我们做对了,那么结果可能会令人难以置信。如果设计和部署得当,人工智能就可以帮助我们消除贫困、治愈疾病、解决气候变化问题以及打击系统性种族主义。它可以把工作转移到我们生活的边缘,让我们有时间跟我们爱的人共度时光,去做一些让我们感到快乐和有意义的事情。

坏消息是,我之所以不像硅谷的很多朋友那样乐观,是因为现在引领人工智能的很多人都没有追求这些目标。他们并不是想把人从劳累和辛苦中解放出来,而是试图提高其应用程序的用户使用指标,或者从会计部门榨取30%的更高的效率。他们要么不知道,要么不关心自身工作的底层后果,尽管他们可能承诺关注如何负责任地运用人工智能,但他们并没有采取任何措施放慢脚步,也没有考虑他们构建的工具会如何造成伤害。

相信我,我很想再次成为一名人工智能的乐观主义者。但是现在,人类正在从中作梗。