AI联结的社会

随着人工智能技术的不断发展，人类与人工智能共生的时代开始了。

全球联机协作的人工智能，将构筑一个深度改变人类生活的“人工智能网络”。

在人工智能网络化时代，我们将面临不可预测和控制的风险。我们的社会是否已为迎接迎接这一切做好准备？

科幻小说与生活的边界即将模糊，“电车难题”不再是脑海中单纯的思想实验。

人工智能是否能像人类一样，对自己的行为负责？

大数据下无处不在的“人物侧写”，还有“责任的空白”“数字污名”“就业难民”等全新社会问题，是否会催生新的歧视与压迫？

……

面对可能出现的伦理难题和社会风险，我们当下又能做些什么？

围绕这些问题，日本信息学界、法学界、社会学界、人工智能技术领域的多位前沿学者从国际化、专业化的视角出发，进行了深入探讨。

学者们通过“情景设定”的方式，对人工智能网络化时代的风险和危机进行了预演，并在社会政策和法律应对层面，提出了精彩的建议。

编辑推荐

·AI网络化将给人类社会带来无法预测的重大变化，我们是否做好了应对风险和挑战的准备？

·日本信息学、法学、社会学、人工智能技术领域的前沿学者，关于人类如何与AI共生进行跨界对话，在社会治理和法律制度层面提出务实的对策建议。

·深度讨论智联社会的隐私与伦理、信息安全、AI开发准则、政治参与、知识产权、劳动就业等核心问题。

·全球视角，横向比较美国、欧洲、日本在相关领域的政策，提供多国经验。

·通过情景设定实例和“思想实验”，将读者代入未来的预设场景，尝试回答文学作品、电影和游戏中的经典问题：在AI网络化时代，人类如何做才能既利用人工智能为人类服务，又保护人类的基本利益？

·北京大学中国社会与发展研究中心主任邱泽奇教授作序，哈佛大学、清华大学、中国人民大学、厦门大学等国内外高校的多位学者联合推荐。

媒体推荐

法律工作者在直面“司法智能化”的同时，也扮演着优化规则的守卫者角色。如何解决AI衍生的个人隐私和信息安全问题？如何优化法律制度和管理体系？想要深入了解AI网络化时代法律问题的读者必将欣喜于阅读此书。

——齐树洁 厦门大学法学院诉讼法学教授、司法改革研究中心主任

人工智能网络化正大踏步朝我们走来。人类做好了与之相处的准备吗？在伦理上、法律上应当如何应对人工智能与人的关系？日本学界精英以预设情景做出了前瞻性分析，启人心智，让人跨越专业门槛一窥究竟。这是一本促人面向未来的好书，忙碌的人们若分身阅读，定有收获。

——任剑涛 清华大学社会科学学院政治学系教授，教育部“长江学者”特聘教授

在人类面对网络化的智能机器时，如何保障人类的基本利益：身体、人格、责任、尊严？

以我对人工智能有限的认知，我以为，这样的提问非常日本！工业化的历史表明，同在儒家文化圈，日本却是一个非常务实的国家。人工智能的发展显然还没有走到真正威胁人类的时刻，探讨人工智能场景下的人类利益，显然是一个虚拟问题。务实的日本人在遭遇一个虚拟问题时，又如何处理呢？《AI联结的社会》恰恰展现了务实的智慧。

——邱泽奇 北京大学中国社会与发展研究中心主任，教育部“长江学者”特聘教授

人工智能（AI）技术必将带来一场革命性的变革，将使人的生活方式、交往方式以及思维方式发生根本性的转型，因而，人工智能将为我们展现出一个不同于以往和现在的未来。我们生活的这个时代，见证了人工智能技术的兴起，也应为人类在不久的将来进入人工智能时代做好准备。可以说，从20世纪后期起，人工智能的概念就已经超出了科学研究和技术创新的领域，得到了人们的广泛关注，特别是在人们的观念中造成了震荡。也许，我们距离人工智能时代的到来还有一段较长的路，但是，我们在今天就需要在思维、观念上做好迎接这个时代到来的准备，特别是要充分估计到人工智能将对人类社会造成什么样的影响。所以，我们渴望阅读这个方面的作品。

——张康之 中国人民大学公共管理学院行政学系教授，教育部“长江学者”特聘教授

目前，人工智能伦理准则已经在全球范围内达成基本共识。在此共识基础上，《AI联结的社会》致力于解决以下四方面的关键问题：一是探讨“AI网络化”治理的必要性及其方向；二是AI研究开发相关问题的阐述；三是AI网络中的信息流通及正当使用；四是AI网络化将对社会产生的深远影响。作者们独辟蹊径，深入浅出地阐释了AI带来的信息安全问题、基本法治制度和控制管理体系构成，并附有大量虚拟情景实例，是一部扎实、详尽的优秀作品。

——赵鸣博 东华大学信息科学与技术学院教授，IEEE会员

在医学领域，AI智能诊断和精准医疗一方面为疾病的诊断和治疗提供了新手段，另一方面也涉及数据隐私、诊断可靠性等问题。《AI联结的社会》讨论了AI技术在多领域（也包括医疗领域）应用所涉及的法律和伦理问题，值得相关研究人员和临床医生参考。

——涂毅恒 哈佛医学院脑科学与人工智能专业讲师

近十年来，世界各地的许多高校纷纷成立了AI研究中心和学院，培育了一大批AI人才，进一步增强了AI在各个领域的影响力。随着AI技术的快速发展和广泛应用，关于AI安全、伦理和法律方面的讨论日益增多且愈发重要。本书对AI尤其是AI网络化的伦理和法律进行了仔细探讨，指出了许多值得AI研究者、AI产品和服务生产者、使用者以及政府部门深思和研究的问题，是一部受众广泛、内容充实、又很具有国际视野和前瞻性的作品。

——樊继聪 康奈尔大学运筹学与信息工程学院博士后研究员

试读章节

中文版序

机器的智能和人类的智慧

围绕人工智能主题，我读过很多作品。一些书名看起来很学术的，读起来却非常科普。也许是人工智能话题炙热的缘故，除了科普作家，某些学有专长的著名专家也加入其中，但对人工智能却是一知半解，有关人工智能的研究成果也是鱼龙混杂。我手里的这本是否也是其中之一呢？

我抱着尝试的心态读下去。这一读，便没有放手，直至卷终。《AI联结的社会：人工智能网络化时代的伦理与法律》（以下简称《AI网络化》）是一本论文集。通常，论文集会依照论文的主题汇集，难以让讨论具有内在逻辑一致性。这本论文集不同的是，它的主题内在逻辑一致性很强，从这个角度来说，它更像一本合著成果。在假定人工智能自身形成网络的场景下，会给人类带来哪些挑战。围绕这一主题，全书划分为六个部分，总论部分交代了问题和方法，第二部分探讨人工智能的研发原则，第三部分讨论人工智能数据、信息、知识的流通和使用，第四部分分析在人工智能网络化的场景里人类的隐私与安全，第五部分探索人类社会基本准则面对的挑战和应对之策，第六部分再回到人类自身，讨论保障人类珍视的尊严、人格与责任。

简要的内容构成介绍应该能让读者了解，这是一部接地气的著作。与天马行空地探讨智能时代、机器崛起、人工智能时代的作品不同，与耸人听闻地断言智能革命、机器取代人类、奇点临近的作品也不同，《AI网络化》的出发点是，我们知道人工智能的发展是一股历史潮流，势不可当；我们不用像算命先生那样去预测什么时候人工智能时代会到来；我们也不用像森林里的小女孩那样不断呼喊狼来了，人工智能要夺走我们的工作；我们尝试着回答，人工智能会以什么样的形态到来，在这个进程中，人类可以做什么来保证人类的基本利益，即人还是人！说得更加简洁一些，在人类面对网络化的智能机器时，如何保障人类的基本利益：身体、人格、责任、尊严？

以我对人工智能有限的认知，我以为，这样的提问非常日本！工业化的历史表明，同在儒家文化圈，日本却是一个非常务实的国家。明治维新以后，我们不知道日本人提出了什么惊世骇俗的理论，却知道日本的产品行销世界，对日本产品的质量，鲜有人怀疑。这源于日本人的务实。人工智能的发展显然还没有走到真正威胁人类的时刻，探讨人工智能场景下的人类利益，显然是一个虚拟问题。务实的日本人在遭遇一个虚拟问题时，又如何处理呢？《AI网络化》同样展现了务实的智慧：日本专家们采用了情境锚定法（Anchoring Vignettes）。情境锚定法是社会调查中面对未来时常用且有效的测量方法。它假设一个情境，实在的、可以在头脑中呈现的情境，然后，询问人们面对情境的决策和行为取向。在理论究中，这样的方法也被称为思想实验（Thought Experiment），是理论逻辑演绎的常用且有效的方法。

运用情境锚定法，《AI网络化》给定了一个讨论的初始：在未来，无论是专用人工智能还是通用人工智能，人工智能自身形成了一个网络，“使用者不仅可以自己设置，也可以接受他人设置”（第10页），就像是《黑客帝国》里的机器帝国，人工智能甚至具有了拟人的“意志”，“拥有与人类智能相关的功能；能够通过对信息、知识进行系统化处理，得到数据、信息和知识”（第6页），“渗透到社会整体之中，进而使人类和人工智能网络共存，在各种社会场景中，都将可能实现人工智能、物和人的相互联结”（第11页），人类如何做才能既利用人工智能为人类服务，又保护人类的基本利益？

在汗牛充栋的人工智能研究中，人工智能网络化是一个被忽略或被默认的议题。说是被忽略，至少在我读到的文献中这是第一本将其特别强调的作品。说是被默认，在众多讨论人工智能的研究中，作者们往往忽略了人们生活在一个政治和社会制度有差异的世界，国家技术能力的强弱和国家之间关系的好坏并非与人工智能创新和应用没有关系。忽视既存的制度约束和假设人类的一般存在看起来有利于讨论，实则是学术的不负责任。《AI网络化》突出强调人工智能网络化的现实社会情境，也是学术务实的另一个证明。

《AI网络化》首先呈现的不是人工智能带给人类的便利，而是风险。“这些风险与人工智能网络化为社会带来的便利同在，有时可能超越国境，超越现实与虚拟的界限，瞬时扩散出去。”（第13页）借用既有的研究成果，《AI网络化》将风险区分为功能风险和制度风险，认为其中重要的不是功能风险，而是制度风险。因此，风险分析是人类面对人工智能挑战的出发点，包括风险评估、风险管理和风险传播（第14页）。风险分析的目的，不是为了甩锅，而是让风险明确化，进而确保公平竞争，让风险与收益达成平衡。在这里，我们既看到了日本人务实的一面，又看到儒家文化的深层存在。

设定人工智能网络化的前提，自然地提出了人工智能治理的人类化议题。《AI网络化》的主张是，人工智能的治理，一定是国际的，而不是一国的。为促进技术创新和应用，初始期宜采用软性治理，治理内容除了确保各种价值观，还应确保廉洁、透明性、可控性、安全性、隐私性、安保体系、公正性等（第18页）。为了既促进人工智能的发展，给人类带来更多便利，又保障治理的有效性，约束人工智能可能带来的风险，《AI网络化》认为，一个由人工智能高度互联建构的智联社会（第20页），应该遵从八项基本原则：“第一，所有人都可以受惠；第二，保障个人的自主性及人的尊严；第三，保证革新性研究开发的持续与公平竞争；第四，坚持可控性和透明性；第五，利益相关方的参与；第六，兼顾虚拟世界与现实社会；第七，通过超越空间的协调合作实现有活力的区域社会；第八，通过分散合作解决全球性问题。”（第21页）

与上