100岁的基辛格，对人类未来发出警告《人工智能时代与人类未来

　　比尔盖茨曾说：“人们总是高估一年内的变化，而低估十年内的变化。”
　　当ChatGPT炒起了一轮轮股价上涨，全球科技公司都在跟进时，美国前国务卿基辛格警告，“人工智能将在五年内成为安全领域的关键因素，其颠覆潜力堪比活字印刷术。”
　　5月27日，基辛格100岁生日。他思路清晰，并非常关注人工智能的发展及影响。
　　最近，基辛格和谷歌前首席执行官埃里克施密特、麻省理工学院苏世民学院院长丹尼尔胡腾洛赫尔共同完成了一本关于未来的书《人工智能时代与人类未来》，其重点并非人工智能，而是人类自身的未来。
　　基辛格认为，“未来机器可能带来全球瘟疫或其他大流行病，给人类造成毁灭的不仅有核问题，任何领域都可能。我们生活在一个破坏性空前的世界中。”
　　人工智能发生之迅猛，超过大多数人的预期。今天，在尚未出现强大人工智能能力时，我们需要有前瞻性的思考。
　　01人工智能将引发教育革命
　　人工智能时代的到来将改变我们与他人，以及我们与自己的关系。
　　未来，孩子们可能在更先进的人工智能助手的陪伴下长大，这个助手集保姆、导师、顾问、朋友等多种角色于一身。这样的助手几乎可以教孩子任何语言，也可以训练孩子学习任何科目，并根据每个学生的表现和学习风格来因材施教，使他们获得最佳的学习效果。当孩子感到无聊时，人工智能可以充当玩伴；当孩子的父母不在时，人工智能又可以成为监护者。
　　随着由人工智能提供和量身定制的教育被引入，普通人的能力既会有所提高，也会面临挑战。
　　人类和人工智能之间的界限将会惊人地模糊。
　　如果孩子在年幼之时就用到了数字助手，他们就会对此习以为常。同时，数字助手将与它们的主人一起成长发展，并随着他们的成熟，将他们的喜好和偏见逐渐内在化。数字助手的任务是通过个性化最大限度地提高人类同伴的便利感或满足感，它们给出的建议和信息可能会被人类用户视为必不可少。
　　长此以往，人们可能会更偏爱自己的数字助手，而不是人类。因为人类不懂得投其所好，而且更“令人讨厌”。结果，我们对彼此的依赖、对人际关系的依赖，可能都会被削弱。
　　数字信息的唾手可得已经改变了一代人的教育和文化体验。现在，世界正在开展另一项“伟大实验”，在这个实验中，孩子们将在机器的陪伴下成长，这些机器将在许多方面充当以前世代人类教师那样的角色，却没有人类的感觉、洞察力和情感。
　　父母也许会因为担心这种接触会对孩子产生不确定的影响而排斥这种技术。就像上一代的父母限制孩子看电视的时间，现在的父母限制孩子使用数码设备的时间一样，未来的父母可能会限制人工智能陪伴孩子的时间。
　　但那些希望推动孩子取得成功的人，或只能依赖人工智能的人，可能会赞成让孩子与人工智能为伴。因此，这些尚处在学习与发展阶段、易受影响的孩子，可能通过与人工智能的对话形成他们对世界的印象。
　　具有讽刺意味的是，尽管数字化让越来越多的信息变得可用，但它却压缩了深入、专注思考所需的空间。
　　02人类要对未来做好准备
　　机器学习系统已经超越了任何一个人的知识，超越了我们所认为的可知边界。
　　对机器的依赖将决定并因此改变现实的结构，产生一个我们还不了解的新未来，我们必须为探索和领导这个未来做好准备。
　　在特定领域，人类可能会对人工智能言听计从，更喜欢人工智能的数据处理过程，而非人类思维的局限性。这种遵从，可能使许多人甚至大多数人退回到一个个人的、过滤的、定制的世界。
　　在这种情境下，人工智能的力量加上它的普遍性、隐蔽性和不透明性，将引发人们对自由社会甚至自由意志前景的怀疑。
　　在许多领域，人工智能和人类将成为探索事业中的平等伙伴。因此，人类的身份将反映出与新关系的和解，无论是与人工智能还是与现实。
　　不同的社会将为人类领导权开辟不同的领域。同时，它们将形成必要的社会结构和习惯，以理解人工智能并与其有效互动。
　　为了与人工智能融洽相处，社会需要建立相应知识和心理基础设施，并运用其独特才智，尽可能地造福人类。技术将迫使政治和社会生活的许多方面（实际上是大多数方面）做出调整。
　　由于人工智能促进了教育和信息获取，同时也增加了信息被夸大和操纵的可能性，这些冲突可能会愈演愈烈。个人的消息会更灵通、准备会更充分、观点会有更大影响力，他们可能据此对政府提出更多要求。
　　每个社会必须首先确定人工智能在各个领域允许和不允许使用的全部范围。对某些强大的人工智能，如通用人工智能的使用权，需要严格把关，以防止被滥用。
　　因为通用人工智能的构建成本可能相当高昂，只有少数组织能够负担得起，所以其使用可能会受到限制。某些限制可能违反一个社会关于自由企业和民主进程的理念。对于其他方面的限制，如限制在生物武器生产中使用人工智能，应该很容易达成一致，但需要国际合作。
　　机器的发展速度将远远超过我们的基因，造成国内的混乱和国际的分歧。
　　欧盟已经勾勒出监管人工智能的计划纲要，目标是加强对企业和政府使用数据和人工智能方式的管理，并促进欧洲人工智能公司的创建和发展。
　　该监管框架包括对人工智能的各种用途进行风险评估，并限制甚至禁止政府使用某些被视为具有高风险的技术，如人脸识别（尽管人脸识别有一些有益用途，如寻找失踪人口和打击人口贩运）。
　　毫无疑问，这些初步概念会面临广泛的争议和修改，但这也是一个社会决定限制人工智能范围，并相信此举能够使其推动生活方式进步和未来发展的先例。
　　ChatGPT对很多问题给出的答案，之所以令人回味，因为它们提出的问题多于结论。人工智能，它是人类思想的荣耀。我们还没有为它进化出一个目的地。
　　（摘自《人工智能时代与人类未来》，中信出版社）