出品|《新基建访谈》No.49

采访|丁广胜

整理|陈雨萌

为何可信人工智能如此备受关注？

人工智能的脆弱性到底在什么地方？

信任危机背后，人工智能的发展去向何方？

带着种种疑惑，我们特邀陶大程教授参与《新基建访谈》交流，他提出人工智能目前还面临“四大问题”，还为我们深度解读了京东探索研究院和中国信息通信研究院联合撰写发布的国内首本《可信人工智能白皮书》。

陶教授是国际人工智能领域的知名学者，现任京东探索研究院院长、悉尼大学数字科学研究所顾问兼首席科学家。他是澳大利亚科学院院士、新南威尔士皇家学会院士、欧洲科学院外籍院士、ACM/AAAS/IEEE Fellow。

陶教授在2021年荣获IEEE Computer Society Edward J McCluskey技术成就奖，2018年荣获IEEE ICDM研究贡献奖，2015和2020年两度荣获澳大利亚尤里卡奖，2015年荣获悉尼科技大学校长奖章以及2020年荣获悉尼大学校长杰出研究贡献奖。

毋庸置疑，人工智能释放出的巨大能量正在持续改变社会的方方面面。陶大程教授表示，随着人工智能技术在众多领域被广泛与深度应用，其也不断暴露出风险隐患，比如人工智能系统的脆弱性、系统的安全性、隐私性、公平性等等。

何为人工智能面临的“四大问题”

陶教授指出，人工智能暴露的诸多问题，大概归成四个大类：

首先，人工智能系统受干扰可能无法正确识别目标。例如监控识别系统，通过拍摄到的图像推断当前场景的信息，但如果照片的一部分被遮挡或被刻意替换，就会造成潜在的危害。

其次，在一些安全性要求更高的应用领域，比如医药翻译、机器人手术等，人工智能系统缺乏可解释性往往会带来极大的危害。他进一步解释道，一个微小的错误若得不到预防和及时控制，就可能会带来致命的事故，且可能会引发人们对于人工智能技术的信任危机。

其三，近年来人工智能技术的迅速发展依赖于大量的数据，但其中可能包含用户的隐私信息。这引起社会各界对于隐私保护问题的关注。

“今年我国正式通过了《数据安全法》和《个人信息保护法》。这些法律法规对数据的处理和使用方式设立了多个维度的规范，对人工智能系统在使用数据时的合规性提出了更高的要求。”

其四，公平性也是我们要慎重考虑的因素。比如此前在国外被报道的某网络监控与管理系统，就对黑人有系统性的歧视。公平性，不仅仅体现在种族上，还有男女、不同的家庭收入、不同的居住区域等等，人工智能系统需要公平地考虑各种因素，保证所有人都公平享受到技术带来的价值。

陶教授告诉《新基建访谈》，在这些背景之下，京东探索研究院联合中国信息通信研究院深入系统地研究了“可信人工智能”的前世今生，最终在2021年世界人工智能大会上正式面向全球发布了国内首部《可信人工智能白皮书》。

他希望借助白皮书，对可信人工智能支撑技术进行一次深入而全面的阐述。基于对可信人工智能的内涵及学术发展历程的全面回顾，京东探索研究院将可信人工智能的研究内容归纳为稳定性、可解释性、隐私保护、公平性等维度。

科技的革新需要突破局限与困难

陶教授认为，科技的革新需要突破局限与困难。经过半年多缜密的论证，京东探索研究院回归问题本源，明确立足于基础研究的突破，提出可信人工智能、超级深度学习、量子机器学习这三大研究方向，以实现颠覆性的创新。

在他看来，企业拓展人工智能技术应用过程中应注重可信人工智能敏捷迭代。随着人工智能技术与不同行业的广泛融合，其应用深度与日俱增，企业所面临的可信特质要求将不断扩充，这就对企业应具备的可信实践能力提出了更高的要求。

“一方面应研发可信人工智能检测和监测工具，以匹配业务发展需要，并针对行业应用的独特性进行升级和迭代。另一方面应积极与相关监管部门对接，构建内部和外部相协调的敏捷可信机制。”陶大程院士指出。

京东探索研究院的可信人工智能研究将聚焦于人工智能技术的稳定性、可解释性、隐私保护能力和公平性，旨在发展以人为本、向上的人工智能。“发展可信人工智能，目的是让我们能真正释放人工智能的潜力，提升全球人类的福祉。另外，在监管日趋深入的大背景下，可信赖、可解释、可保护用户隐私的人工智能研究，将成为企业未来在AI赛道差异化竞争的全新护城河。”

陶教授还特别提到，随着Transformer等新型神经网络结构的出现和发展，以自监督学习为代表的深度学习技术使得从海量多种模态数据中学习成为可能，开启了超级深度学习时代。为了打破人工智能当前面临的应用场景复杂、实际任务多样、算力分布分散、缺乏理论支撑等瓶颈，推进AI技术落地，实现产业变革，构建超级深度学习模型生态系统成为一条通往未来的路径。

此外，在陶教授看来，在后摩尔时代的今天，量子计算是目前**被严格理论证明具有超越经典计算机兰道尔极限的解决问题的新方法，因此，探索研究院将量子机器学习确定为第三个重要的研究方向。近日，他带领其量子计算研究团队主要成员杜宇轩、钱扬提出全球首个以经典云平台为依托、量子计算设备为终端的量子并行处理框架QUDIO（quantum distributed optimization scheme），将可实现充分调度现有量子计算资源去求解超越经典计算的大规模任务。

未来是数字和物理深度融合的世界

那么，技术发展与社会对技术的期望如何才能达到一个平衡？

陶教授说：“社会的期望其实能引导技术发挥其正面价值、减轻或消除其负面因素，让技术发展得更健康。”

比如，科技企业处于人工智能技术应用的**线、责任重大，因此可以通过设立相关人工智能伦理监管部门来加强自我约束，充分提高开发者的风险意识及技术本身的抗风险能力，相信通过一系列监管措施的正面引导，人工智能最终能实现可信，回应社会对技术的期望，真正造福人类的未来。

谈及元宇宙话题，陶教授表示元宇宙是一个技术综合体，其中包含了很多东西，比如：3D建模、AR、VR、人工智能、区块链等等，对于元宇宙来说是技术架构的基本组成。

“如果能有效实现可信人工智能和超级智能学习，那么对于元宇宙未来的落地会有很大的帮助”，陶教授认为，未来一定是数字世界和物理世界的深度融合，物理世界和数字世界不是独立的存在，而是深度的融合。

不为细碎的苟且遮蔽，不为当下的功利左右

面向未来，他提到对于年轻的AI公司和科研人员来说，建立起这样一种“长期主义”的意识能帮助他们不为眼前的局限所困，不为细碎的苟且遮蔽，不为当下的功利左右，成为有超越感、敬畏感和使命感的组织或个体。

陶教授认为，追求科技的长期主义体现在“探索未来”和“科技向上”这两点。探索未来意味着科技研发人员需要怀揣梦想、保持好奇，对未知的技术和理念满怀向往，在前沿领域实现突破，创造真正有意义、有价值的突破性成果。我们要让自己的思考领先于即将到来的变化，只有这样，我们才有机会在造成**震荡的革新中还能够向不变的目标前进，并保持平稳与初心。

“科技向上意味着我们的技术研究应秉持社会责任感，让科技变得有恒久的价值和人性的温度。从某种程度上说，AI是人性的一种映射，而人类构造AI的过程，实际上也是反思自己与类人智能体之间关系的一次机会。通过构建AI，我们正在重新塑造人类社会本身。”

他最后说到，这些东西看似无关利益，却是我们研究可信AI的目的和意义所在。