来源：Nature自然科研 

原文作者：Davide Castelvecchi

Yoshua Bengio因其对深度学习的贡献而荣膺2019年图灵奖。目前，他正忙于制定有关人工智能应用的伦理准则。

不久前，Yoshua Bengio和其他两位计算机科学家共同获得了奖金达100万美元的图灵奖——计算机科学领域的最高荣誉之一。

Yoshua Bengio认为需要加强对人工智能的监管。

这三位人工智能（AI）专家被誉为深度学习的奠基人。深度学习是一种能将海量数据和多层人工神经网络相结合的技术，最初灵感来自于人类大脑。评委会给出的获奖理由是，他们让深度神经网络成为了一个“必不可少的计算元素”。

另外两位获奖人Geoff Hinton和Yann LeCun分别在Google和Facebook工作；而就职于蒙特利尔大学的Bengio是为数不多的一直留在学术界的机器学习大师。

除了研究之外，Bengio还是蒙特利尔学习算法研究所（MILA）的科学主任，他曾警告过人工智能可能被滥用的风险。去年12月，他在蒙特利尔举办的神经信息处理系统大会（NeurIPS）上提出了一系列人工智能伦理准则，又称为《蒙特利尔宣言》。

今年1月，《自然》与Bengio在伦敦进行了面对面交流。

你是否认为许多公司或国家正在以不负责任的方式使用人工智能？

这种现象很普遍，而且会越来越多。我们必须在可怕的事情发生前就指出问题所在。许多最让人担忧的问题并不是在光天化日之下发生的，而是发生在军事实验室、安全组织以及向政府或警察提供服务的私人公司里。

可否举几个例子？

无人机杀手就是一个很大的隐患，其中牵涉到道德问题和安全问题。另一个例子是监控用途，你可能会说监控有很多潜在益处，但是这里面也存在滥用的危险，特别是在威权国家，这种滥用是真实存在的。从本质上说，人工智能有可能被掌权者用作巩固权力、增强权力的工具。还有一个问题，人工智能还会放大歧视和偏见，比如性别歧视和种族歧视，因为这些歧视都体现在数据里，而这些数据会被用来训练人工智能，反映出人类的行为。

《蒙特利尔宣言》和其它类似倡议的区别在哪里？

区别在于，《蒙特利尔宣言》不仅有人工智能学者的参与，还有来自人文社科的一大批学者以及公众的深度参与，这在历史上尚属首次。这么做也带来了改变：经过专家协商和征求公众意见后，原来的7条准则增加到了10条。各组织机构可以自愿承诺去遵守这些准则。

有没有最适合讨论人工智能伦理的平台？

这正是我们在蒙特利尔尝试创办的平台，它叫做“国际人工智能和数字技术社会影响观察组织”（International Observatory on the Societal Impacts of Artificial Intelligence and Digital Technologies）。这个组织应集合所有参与主体：作为行动者的政府；公民社会专家，包括人工智能以及社会科学、医疗健康和政治科学领域的专家；以及制造这些产品的公司。

不过，我们必须谨慎行事，因为有些公司可能以营利为动机参与其中。

这项倡议是否能推动建立国家或国际层面的人工智能监管条例？

是的。靠自我监管是没用的。你觉得自愿缴税行得通吗？行不通。恪守这些伦理准则的公司相对于那些不遵守的公司，全无优势可言。这就和驾驶一样，无论是左侧行驶还是右侧行驶，所有人都应遵循相同的规则，不然就会出事。

你曾表达过对产业界掠夺学术界人才的担忧。这个问题现在还存在吗？

这种情况仍在继续。不过也有好消息。随着蒙特利尔整个人工智能生态系统的发展壮大，我们已经取得了一些成功。部分人才正在回流，国外研究者纷纷回到加拿大从事人工智能研究。

蒙特利尔还有一个现象，我认为可以说全世界都有这个趋势，那就是在产业界工作的优秀研究人员受聘指导或联合指导大学研究生。MILA正在尝试这种做法。

我们在培养学生方面也一直在努力。借由加拿大政府投资的泛加拿大人工智能策略，我们已经让蒙特利尔的机器学习教授数量翻了一倍。

你同意欧洲在人工智能方面落后于中美吗？

是的，但我不认为欧洲应该坐以待毙。欧洲站上C位的潜力很大，毕竟欧洲有很多顶尖大学。事实上，MILA的很多学生都来自欧洲。欧洲各地也正在兴起一批充满活力的技术初创公司，政府也开始意识到这方面的重要性。法国政府可能是第一个为此采取重大措施的政府。

人工智能的下一个大事件是什么？

应该是深度学习，虽然深度学习在感知方面已经取得了巨大进步，但是它还无法实现能发现高级别表征的系统，比如人类语言中的一类概念。人类运用这些高级概念进行归纳的能力非常强。可是这类初生婴儿都拥有的能力，机器学习却望尘莫及。

我们能够对数据中没有发生的事情进行推断。比方说，我们已经在生成对抗网络（GAN）上取得了一些进展——生成对抗网络通过让生成网络与图像识别网络相互竞争，帮助达到提升各自表现的目的。但人类在这方面还是远胜于机器，我认为其中的一个关键要素是对因果关系的理解。

原文以AI pioneer: ‘The dangers of abuse are very real’为标题

发布在2019年4月4日《自然》新闻Q&A上