《片上互连网络――多核／众核处理器关键技术》旨在介绍片上路由器网络设计中最重要的概念和技术细节，希望为读者阐明基本概念，并明确片上网络研究的趋势和*新进展。本书共9章，首先介绍了多核架构环境下的片上网络，解释了片上网络如何适应多核设计的整体系统架构；然后介绍了各种拓扑成本及性能的权衡、路由算法、网络中使用的流控制机制、路由器微体系结构、建模和评估片上网络的细节；接着介绍了一系列基于片上互连网络技术的计算架构设计案例，并全面分析了前面章节介绍的各种技术是如何在实际部署中进行取舍和融合的；最后介绍了未来几年在推动片上网络研究探索中将面临的关键技术和新领域。
《片上互连网络――多核／众核处理器关键技术》面向熟悉基本计算机体系结构概念，并且对片上互连网络感兴趣的工程师和研究人员，可以作为他们理解片上网络基础知识和了解片上网络最先进研究的基础参考资料。同时，本书既可以用于教授基本概念，又可以用于学习最先进的设计，对研究生和行业工程师都具有重要价值。
序
是什么激发了将我们的On-Chip Networks翻译成中文的想法，特别是在本书的三位作者都不精通中文的情况下？这一切源于十年前，在麻省理工学院，我们遇到了当时还是访问博士生的任鹏举。那个时候，关于片上互连网络的研究课题，大家在一起进行了多次有趣而激动人心的头脑风暴式的研讨。十年后，我们都已分开，并各自居住在不同的国家。鹏举与我们联系，表达了他有兴趣将本书翻译成中文的想法，我们都非常高兴。在整个翻译过程中，我们也帮助解决其中所遇到的问题。
由于新冠病毒在全球蔓延，2020年是特别艰难的一年。在某种程度上，本书为我们提供了重新交流的机会，帮助我们一起跨越新冠病毒所带来的阻碍。当我们不断努力探索新的工作、新的教学和学习方式时，我们很感激本书的翻译工作将我们再次联系起来，并通过该书使得新一代的学生和研究人员能够更好地学习片上互连网络这一技术。
自2009年On-Chip Networks第一版电子书出版以来，片上互连网络获得了巨大的发展。在2009年，该技术还主要处于学术研究阶段。到2017年On-Chip Networks第二版时，工业产品中已经开始出现采用片上互连网络的芯片设计。到2020年，片上互连网络技术已经得到了长足的发展，无论是高性能还是嵌入式处理器，已经有越来越多的产品采用这一技术。同时，随着大家对机器学习兴趣的激增，以及越来越多的芯片初创公司的兴起，我们看到众多的加速器平台对片上互连网络这一技术的兴趣和应用与日俱增。目前，片上互连网络的设计依然充满着许多的挑战和机遇，我们希望通过这本译著，可以启发更多的读者去追求更好、更新的解决方案。
我们深感荣幸的是，中文译本《片上互连网络——多核/众核处理器关键技术》使我们的On-Chip Networks可以覆盖到更多的读者。我们衷心地希望这本书有助于推动片上互连网络进一步的发展。
娜塔莉·恩赖特·杰格（Natalie Enright Jerger）
图沙·克里希纳（Tushar Krishna）
白俐翾（Li-Shiuan Peh）
2020年11月
译者序
片上互连网络受到国内外越来越多的关注，是目前多处理器设计的关键技术之一，可是目前国内这方面的专业书籍较少。在2010年的春季学期，译者曾在麻省理工学院学习Li-Shiuan Peh教授主讲的“片上互连网络”课程，还与Tushar Krishna教授有过多次关于多核仿真器片上网络的技术讨论，深感受益良多。两位教授均是该领域的国际知名学者，他们参与编写的On-Chip Networks是该领域的重要著作。我们因此萌生了将这本优秀著作的第二版介绍给中国读者的想法，并且就此与两位教授进行了沟通，得到了他们的大力支持。同时，在本书的翻译过程中，我们还就图书内容与他们进行了频繁交流，在此感谢他们的指导和帮助。
原著面向的是具有一定多处理器和片上网络基础知识的读者，因此对一些基础概念和技术细节并没有过多阐述。然而，考虑到片上网络技术的迅速发展，以及其自身的跨学科特点，本书的读者可能来自不同的技术领域，为了让读者更好地理解本书内容，我们在征求原著作者意见的基础上，对原著进行了注解和补充，旨在就书中涉及的一些重要概念和技术进行更为详细的阐述。我们希望这些新增内容对读者有所帮助。除此之外，本书在翻译的过程中力求语言风格平实，在保证其严谨性的前提下，不失专业性和可读性。
然而，由于译者水平所限，难免存在翻译错误或表达欠妥的地方，希望读者批评指正，也欢迎交流讨论（pengjuren@xjtu.edu.cn，tian_xia@xjtu.edu.cn）。特别说明，因原著中正文标注的参考文献编号没有按从小到大的顺序编排，为了对应原著，本书中的参考文献编号及顺序也不做变动。同时，请读者注意“互联网络”和“互连网络”两个概念的区别：“互联网络”特指由多个计算机网络相互连接而形成的大型网络，如用于传输文本、语音、图像、视频等多媒体信息的因特网（Internet）；而本书讲述的“互连网络”（interconnection network）特指计算机处理器架构中用于连接多个计算核心并承担多个计算核心之间通信的网络。愿本书能为学习片上互连网络的同学和教师提供很好的帮助与参考。
感谢西安交通大学郑南宁院士，当他得知我们要翻译原著时，给予我们许多指导和建议。感谢同一课题组中的胡康、赵文哲、陈飞三位老师，在我们的研究工作中对片上网络的设计方法进行了实践和验证，同时给本书提出很多宝贵的建议。
最后，感谢佟健铭、宗鹏陈、赵浩然三位同学，他们在本书的翻译和校对过程中贡献了非常多的智慧。《礼记·学记》中的“学然后知不足，教然后知困”和“教学相长”的道理会一直鞭策我们学习和进步。
译 者
2020年10月于西安交通大学
人工智能与机器人研究所
原著前言
本书的目标读者是熟悉计算机体系结构基本概念，并且有兴趣了解片上网络的工程师和研究人员。本书旨在对片上网络设计中最重要的概念进行梳理，既可作为理解片上网络基础知识的学习参考资料，同时也展示了当前片上网络最先进的研究工作。我们相信，本书既可以教授基本概念，又可以突出最先进的设计，对研究生和行业工程师都具有重要价值。虽然无法涵盖所有的内容，但我们希望此书能为读者阐明基本概念，并明确片上网络研究的趋势和目前存在的不足。
随着该领域的快速发展，我们认为需要及时地在第二版中对最新的技术进行更新和回顾。在本书的最后部分新增两章内容。我们在本书中更新了过去几年的最新研究，并扩展了基本概念的范畴，包括现在已经用于多核处理器产品的多个研究思路。我们相信，这部分的内容是所有片上网络从业者应当掌握的概念，如消息传递（message passing）、多播路由和气泡流控制方案等。
本书的结构如下。
第1章介绍了多核架构环境下的片上网络，并讨论了随着可扩展性需求的增长，它们从简单的点对点（point-to-point）线路到总线的演进。
第2章解释了片上网络如何适配到多核设计的整体系统架构中。具体来说，我们详细讲述了为满足共享存储的单芯片多处理器缓存一致性协议（cache coherence protocols）所需的设计要求，并将其与基于消息传递的多核系统中的要求进行对比。除了对系统要求进行讨论，本章还介绍了系统与网络之间的接口。
通过对系统架构的讨论，我们阐明了使用片上网络技术的场景和情境。在此基础上，我们开始探索片上网络的细节。拓扑（topology）通常是设计网络的首要问题，因此，第3章介绍了各种拓扑在成本和性能方面的权衡策略。
在给定网络拓扑之后，必须通过路由算法（routing algorithm）来确定整个网络结构中传递消息的路径，第4章介绍了路由算法。
第5章介绍了网络中使用的流控制（flow control）机制。流控制指定了当数据包从源节点传输到目的节点时，如何将网络的资源（如缓冲区和链路带宽）分配给数据包。
拓扑、路由算法和流控制都是构成网络路由器微体系结构的因素。第6章详细介绍了各种路由器微体系结构的权衡和设计问题。本章包括构成路由器微体系结构的缓冲区、交叉开关和分配器的设计。尽管片上网络各个方面的创新都有助于解决功耗问题，我们还是将新的功耗讨论集中在微体系结构章节中，因为绝大多数的功耗优化都位于微体系结构设计中。
新增加的第7章介绍了建模和评估片上网络的细节，从软件仿真到RTL设计，以及FPGA仿真，再到延迟、吞吐量、面积和功耗的架构模型。本章还指导读者理解一些用于评估和比较片上网络的有用指标和理想的理论标准。
随着众多行业和学术界的片上网络芯片问世，我们在新增加的第8章中专门研究这些芯片。本章帮助读者全面理解前几章中介绍的各种基本概念、各种概念整体的含义，以及这些概念的设计和实现的实际意义。
最后在第9章中，我们为读者呈现了未来几年将推动片上网络研究的关键挑战和新的探索领域。大量的新研究已经浮出水面，在这里，我们关注各种重要的趋势，突出了片上网络研究的学科交叉性。新兴的互连和设备大大改变了片上网络各种实现的权衡标准，反过来促进新设计的出现。同时，我们也更新了一些重要的指标。例如，系统弹性（resilience）用于反映系统对于制造过程中不可避免的波动的恢复能力，服务质量（Quality-of-Service，QoS）用于反映多核上同时运行多个工作负载的响应质量和情况。这些新增加的指标，为整个片上网络的研究提供了新的维度，用于激发新的研究思路。
娜塔莉·恩赖特·杰格（Natalie Enright Jerger）
图沙·克里希纳（Tushar Krishna）
白俐翾（Li-Shiuan Peh）
作者介绍
娜塔莉·恩赖特·杰格（Natalie Enright Jerger ）
多伦多大学电子计算机工程系教授，现任加拿大计算架构领域首席科学家（Research Chair），多伦多大学“珀西-爱德华-哈特”特等教授，ACM杰出会员，IEEE高级会员。研究领域包括片上网络、多核/众核计算架构、存储架构等。
图沙·克里希纳（Tushar Krishna ）
佐治亚理工大学电子计算机工程系助理教授，在计算机体系结构领域的顶级会议和期刊发表论文40余篇，他引4000余次，其中多篇论文被选为最佳论文。他所开发的Garnet 2.0 片上网络模拟器目前被全球百余个研究机构使用。研究领域包括计算架构、片上网络、人工智能加速器等。
白俐翾（Li-shiuan Peh）
新加坡国立大学计算机科学系首席教授，IEEE Fellow，ACM杰出科学家，2011年入选...