人工智能与未来战争
2019-10-22 09:20:01
  • 0
  • 4
  • 1

来源:  人机与认知实验室    刘伟

尊敬的德普图拉将军,女士们,先生们,下午好!

很荣幸在此与大家一起探讨“人工智能与未来战争”这个话题。

    未来的人工智能和正义的战争应该承担着人类和平的使命,人负责做正确的事:公平正义、共同命运、安全可控,而人工智能则要正确的做事:快速准确、海量存储、可解释性。针对人工智能这个困难的问题,远不是几位数学家、哲学家、物理学家、计算机专家、社会学者、心理学学者、语言学者开几次研讨会所能解决的,历史已经证明,莱布尼兹、维特根斯坦、图灵、维纳、仙农、贝塔朗菲、冯诺依曼、西蒙、辛顿等先驱大师的智能思想混合在一起并没有发生期待中的化学变化。近年来,AI的杰出代表阿尔法系列在围棋等博弈中取得的了耀眼的成绩,但其根本仍是封闭条件下的相关性机器学习和推理,而军事智能博弈的根本依然是开放环境下因果性与相关性混合的人之学习和理解,这种学习能够产生一定程度上范围不确定的隐性知识和秩序规则(如同小孩子们的学习一样),这种理解可以把表面上无关的事物相关起来。种种迹象表明,而未来的战争可能就是人机环境系统融合的战争。

     孙子曰:知彼知己,方百战不殆。这里的知既包括人的感知,也包括机器的感知,人机之间感知的区别是人能够得意忘形,机器对于意向的理解还不能够像人一样灵活深入;这里的彼既包括对手、也包括装备和环境,这里的己也包括己方的人、机、环境三部分。所以,没有人,就没有智能,也就没有人工智能,更没有未来的战争。真正的智能或人工智能,不是抽象的数学系统所能够实现的,数学只是一种工具,实现的只能是功能,而不是能力,只有人才会产生真正的能力,所以人工智能是人、机、环境系统相互作用的产物,未来的战争也是机器计算结合人算计的结果,是一种结合计算的算计或是一种洞察,事实上,若仅是单纯的计算,算的越快、越准、越灵,危险往往越大,越容易上当受骗,越容易“聪明反被聪明误”,而中国一个著名的成语“塞翁失马”就说明了计算不如人的算计—洞察。

    克劳塞维茨认为:战争是一团迷雾,存在着大量的不确定性,是不可知的。这里的不可知是不可预知、不可预测,从现代人工智能的发展趋势来看,可预见未来的战争中存在着很多人机融合隐患仍未解决,具体有:

1、在复杂博弈环境中,人类和机器是在特定的时空内吸收、消化和运用有限的信息,对人而言,人的压力越大,误解的信息就越多,也就越容易导致困惑、迷茫和意外;对机器而言,对跨领域非结构化数据的学习、理解、预测依然是非常困难的事情。

2、战争中决策所需信息在时空、情感上的广泛分布,决定了在特定情境中,一些关键信息仍然很难获取,而且机器采集到的重要客观物理性数据与人类获取的主观加工后的信息、知识很难协调融合。

3、未来战争中存在的大量非线性特征和出乎意料的多变性,常常会导致作战过程及结果的诸多不可预见性,基于公理的形式化逻辑推理已远远不能满足复杂多变战况决策的需求。

     鉴于核武器的不断蔓延和扩散,国家无论大小,国与国之间的未来战争成本将会越来越高。如果把男性看作力量,把女性看作智慧,那么未来的战争应该是女性化战争,至少是混合式的战争。无论人工智能怎样发展,未来是属于人类的,应该由人类共同定义未来战争的游戏规则并决定人工智能的命运,而不是由人工智能决定人类的命运。究其因,人工智能是逻辑的,而未来战争不仅仅是逻辑的,还存在着大量的非逻辑因素!

谢谢大家!

最新文章
相关阅读