如何建立人工智能的可信标准

信风智库：一个智能化系统要达到可信赖的标准，需要具备哪些条件，解决哪些问题？

约瑟夫·希法基思：智能化系统可信赖的重要标准，便是能够保证其行为符合预期。换句话说，它们不会做对人或环境有害的事情。当然，这取决于智能化系统在场景中的重要性。

如果一个玩游戏的机器人或一个智能助理做错了什么，可能问题不大。但是，如果一个自动驾驶系统或智慧能源系统出现故障，便会造成无法挽回的损失。核心在于，我们需要保证关键系统能够提供人类可以预期的服务，其故障不会造成任何生命或金钱的损失。

正是基于这样的考量，智能化系统必须按照相关标准进行研发。这些标准规定了研发企业应该提供哪些数据，以保证智能化系统的可信度。

以飞机为例，当一个民用飞机被开发出来时，制造商为了获得民航当局的飞行批准，必须证明飞机故障率每小时低于十亿分之一。如果制造企业达不到这个标准，那么他们所研发的飞机也就无法获得飞行审批。

智能化系统的可靠性，需要通过三类标准进行审查。

第一类标准是系统的基础安全要求，也称之为技术的鲁棒性。技术鲁棒性要求人工智能系统必须采取可靠的预防措施防范风险，即尽量减少意外伤害，并防止不可接受的伤害发生。这一要求也适用于人工智能操作环境发生潜在变化的情况，或其他智能体以攻击方式与系统进行交互的情况。

第二类标准是系统的防御安全要求，即系统可以抵御攻击和恶意行为，这也是我们熟悉的网络安全问题。与所有软件系统一样，人工智能系统也应该设置周密的防御措施，以免不法分子利用漏洞进行攻击，例如黑客攻击等。一旦人工智能系统受到攻击，数据和系统的行为就可能被改变，最终导致系统做出不同的决策，或者导致它完全关闭。除此之外，人工智能系统应该有备用安全措施，以便在出现问题时启用备用计划。

第三类标准是系统的性能要求，即系统在面对用户需求时的表现，如运算能力、吞吐量、带宽、抖动、延迟和质量等。一个性能差的系统，即使满足基础安全和防御安全，也可能毫无用处。

信风智库：我们看到自动驾驶在全球范围内时常出现交通事故。从技术与规则两方面来看，自动驾驶还需要解决哪些问题？

约瑟夫·希法基思：自主运输系统的出现，被业内看作迈向人工智能时代的里程碑。自动驾驶汽车是非常具有代表性的案例，它所面临的问题充分说明了人工智能领域发展受到的阻碍。

尽管科技公司和车企们热情高涨，甚至参与了大量的投资和研发，但关于自动驾驶“指日可待”的预测难免过于乐观。目前来看，由于技术局限和公众信任问题，车企们的雄心遭到了不小的打击。就连特斯拉的CEO埃隆·马斯克也承认：“如果人工智能无法满足现实社会的标准，那么自动驾驶也就无从谈起。”

在我看来，当前的自动驾驶系统设计不够严谨，社会对它们的普遍态度可以概括为“接受其风险”和“贪婪其利益”的现实主义。车企们普遍认为传统而严谨的设计方式具有局限性，不利于自动驾驶的发展，它们更倾向于用过去的经验来解决未来的问题。部分企业甚至乐观地认为自己已经掌握正确的方向，技术实现只是时间问题。

从技术角度分析，自动驾驶还有许多问题尚未解决，仍然需要很长的时间才能实现真正的无人驾驶。我们正在从小型的、中心化的、自动的和小范围可用的系统，迈向复杂的、去中心化的、自主的、大范围的系统。这需要建立一个新的科学和工程基础，而不是简单组合过去20多年的现有成果，只关注诸如自主计算、自适应系统与自主代理这类软件。

虽然无人驾驶暂时无法实现，但高级驾驶辅助系统（Advanced Driving Assistance System）正在不断取得进展，ABS、防撞系统和车道辅助等功能，已经在现有的汽车中成熟运行。

如今，车辆在有限且安全的标准下，已经能够实现部分自动驾驶的功能。比如欧洲许多国家已经着手研发自动驾驶卡车。瑞典自动驾驶初创公司英瑞得（Einride）联合欧洲物流供应巨头德铁信可（DB Schenker）在瑞典对T-Pod的商用自动驾驶卡车进行了试验。

一辆T-Pod卡车长7米，能运载20吨货物。在技术上，它已经达到了L4自动驾驶级别，可以实现特定环境下的自动驾驶。一旦交通环境复杂或天气状况不佳时，它便会切换为人工驾驶模式。当然，为了保证运行的安全，这辆卡车目前的公共驾驶范围为9.5千米，与社会车辆交汇的路段仅有100米左右。

我之前提到，机器学习技术难以被信任的原因是我们无法洞悉它的工作原理，整个系统处于黑箱之中，运行模式也是简单的“端到端”。在现有的认证标准下，我们难以找到强有力的证据来证明它值得信赖。而由于认知论的复杂性问题，在未来的几十年中，这种信赖也难以产生。

如果想要解决这个问题，有两种可能的途径。一种是提高认证标准的门槛。当然，标准的提高可能会阻碍人工智能技术的发展，也会影响自动驾驶汽车的研发。而另一种途径是降低评判标准，比如像美国那样，采用“自我认证”原则。由于没有独立机构的认证，这样的方式完全依赖于制造商的自我管理。至于到底要选择哪种途径，取决于各国政府的判断。