美国前国务卿、国际问题专家亨利·基辛格在美国《大西洋月刊》刊发评论文章《启蒙如何终结》，探讨人们应当如何看待并应对人工智能。他认为，无论从哲学、人类智力乃至每一个层面上来说，人类社会还没有为人工智能技术的崛起做好准备。

互联网的出现和计算能力的提高，为海量数据的积累和分析提供了极大便利，人类的理解能力因此获得了前所未有的提升。其中，意义最重大的技术创新出现在人工智能领域。人工智能科学家们正试图将这一技术的应用领域扩大到社会生活的各个方面，包括为医学科学、清洁能源和环境保护等领域带来极大的进步。在不远的未来，将有越来越多的人类工作被人工智能算法所取代。

不过，令人感到矛盾的是，随着世界越来越透明，人工智能算法却越来越神秘。未来世界与我们早已习惯的世界有哪些不同?我们将如何在新世界里生活?我们该如何管理人工智能、如何改进它、如何避免它对人类造成伤害?如何避免比人类更快、更好掌握某些能力的人工智能，使人类的能力趋于退化或使人类的境况趋于恶化?因为人工智能处于不断演进之中，它带来的结果仍然具有某种模糊性和不确定性。但有三个方面值得我们深思：

第一，人工智能可能为我们带来意想不到的后果。在科幻小说的情节中，人工智能机器人已经将其创造者列为攻击目标。不过，另一种情况的可能性更大，由于人工智能并不是在一个完整的语境中理解信息，所以它很可能无法正确理解人类的指令。以无人驾驶汽车为例，人类驾驶汽车时需要在每个具体情况下做出特定判断，我们根本不可能预先想到所有情况并事先为其编写程序。比如，当一辆由人工智能控制的无人驾驶汽车，不得不在一位老人和一个小孩之间撞向其中一人时，它会如何选择呢?再比如，当人类都未能就“冒犯”一词的准确含义达成共识时，我们能用什么办法帮助人工智能获得“冒犯”一词的准确概念?

第二，人工智能有能力实现它被赋予的既定目标，但人工智能无法解释它实现目标过程背后的基本原理。一个最难回答然而也最为重要的问题在于：如果人类个体对客观世界的认知能力被人工智能所超越，如果人类社会再也无法通过自己能够理解的方式去解释这个世界，届时人类意识本身会落入怎样的境遇呢?当人工智能的思想比人类更加深邃、其行动能力比人类更加强大时，由人类制定的法律体系还能对人工智能的行为作出裁定吗？

第三，在实现既定目标的过程中，人工智能可能改变人类的思维方式和价值观。在人工智能涉足围棋领域之前，人类在进行围棋对弈时往往抱着不同甚至是多层面的目的：棋手们所追求的不仅是赢得棋盘上的胜利，他们还希望通过对弈领悟可以应用于其他领域的策略和智慧。而对于人工智能来说，它在棋盘上的目的只有一个——战胜对手。人工智能不是像人类那样通过对概念的理解，而是通过数学运算进行“学习”的，具体表现在对算法的微调。所以，在学习如何赢得围棋比赛的过程中，人工智能与人类的思维方式是完全不同的，它已经改变了围棋对弈的本质以及人类围棋对弈的传统思维范式。

人工智能的独特之处在于，它的“思维方式”是人类此前从未想到过的，更是此前从未采取过的。人工智能前所未有的记忆能力和计算能力，是其“思维方式”有别于人类的关键。依靠这两方面的压倒性优势，人工智能可以在人类给它安排的任何游戏中胜出。但对于人类而言，“赢”并非唯一的目的，我们还希望在游戏中享受思考的乐趣。当我们将人工智能的数据处理过程当作思考过程亲自进行模拟，当我们将这一过程得出的结果视为人类思考的结果，那么人类真正的思考能力就有可能退化，而思考能力正是人类认知能力的核心。

近年来推出的人工智能程序“阿尔法零”(Alpha Zero)，仅仅通过几个小时的自我对弈训练，就获得了人类用1500年才能达到的国际象棋水平。5年之后，人工智能技术将发展到怎样的高度?伦理道德在这一过程中将扮演怎样的角色?科学界和技术界这两个群体都在探索推进人工智能技术进步的边界，但他们并没有花太多时间试图去理解这种技术进步到底意味着什么。他们应该把本文中提出的问题也提给自己，并在今后的研发过程中将那些问题纳入考虑。此外，美国政府应该成立一个由各领域杰出思想家组成的总统委员会，以便他们在国家层面协助制定未来人工智能技术发展的远景规划。有一点是明确的：如果我们不尽快行动起来，过不了多久，我们就会发现一切已经太迟了。

据半月谈网