什么是计算架构?
计算架构是一个综合性概念,它从多个维度对计算系统进行描述和规范。从系统设计角度来看,计算架构是指计算系统中各个组成元素以及这些元素之间的关系。组成元素涵盖硬件和软件层面,硬件包括处理器(如 CPU、GPU、FPGA 等)、存储器(内存、存储等)、输入输出设备等;软件包括操作系统、编程语言、中间件以及各类应用程序。元素之间的关系则体现为数据流动、控制信号传递、资源分配等交互方式。例如,在经典的冯・诺依曼架构中,处理器与存储器通过数据总线和控制总线相连,处理器从存储器中读取指令和数据,执行计算任务后再将结果写回存储器,这种明确的元素及其关系构成了计算机系统的基本运行模式。
从功能和性能角度,计算架构是为了实现特定计算功能和达到一定性能指标而设计的体系结构。它决定了计算系统在处理速度、存储容量、能源效率、可靠性等方面的表现。不同的应用场景对计算系统的功能和性能要求差异很大,因此会设计出不同的计算架构。例如,在大数据处理场景中,需要处理海量的数据并进行快速分析,分布式计算架构应运而生,它通过将数据分散存储在多个节点上,并利用并行计算技术进行处理,大大提高了数据处理能力和效率;而在移动设备中,由于电池容量有限,对能源效率要求极高,因此采用低功耗的芯片架构和优化的操作系统,以延长设备的续航时间。
计算架构是一个不断发展和演进的概念,随着技术的进步和应用需求的变化而不断更新。从早期的单处理器架构到现在的多核异构处理器架构,计算架构在不断适应新的技术趋势和应用场景。例如,随着人工智能技术的发展,对深度学习计算的需求急剧增加,传统的 CPU 架构难以满足其大规模并行计算的要求,因此出现了专门针对深度学习的 GPU 架构和 TPU(张量处理单元)架构,这些新的架构在神经网络训练和推理方面具有显著的性能优势,推动了人工智能技术的快速发展。
多样性计算并不是一种计算架构
在科技日新月异的当下,计算领域新名词不断涌现,比如多样性计算架构,但多样性计算架构并非一种计算架构。
多样性计算强调的是计算资源、方式和应用的多样性,比如算力芯片方面,它涵盖CPU、GPU、FPGA、ASIC等不同类型处理器。各类处理器各有优势,CPU通用性强,GPU并行计算能力出色,FPGA 可灵活编程,ASIC专为特定应用定制。多样性计算会根据任务需求合理选择和组合这些资源。
计算架构是计算系统中各个组成元素以及这些元素之间的关系,多样性计算对计算系统中组成元素的多样化进行了确定,但是并没有明确这些多样化元素之间的关系以及连接和交互形式,因此并不能认为多样性计算是一种计算架构。
尽管多样性计算并非计算架构,但是仍旧跟计算架构有紧密关联。因为它确认了一个基本事实,就是算力芯片的多样化,而以什么样的形式组织这些算力芯片以及存储、网络等系统,则是基本的计算架构问题。
算力芯片多样性呼唤新一代计算架构
在智能计算时代,传统以CPU 为中心的计算架构已显疲态,算力芯片的多样性,也正说明需要新一代计算架构来支撑当前的计算需求。
传统以CPU为中心的架构,在过去很长时间里是计算领域的基石。但在如今的智能计算时代,其局限性愈发明显。CPU作为整个系统的集中控制点,承担着过多的任务调度与计算职责,成为了系统性能提升的瓶颈。在处理海量数据和复杂计算任务时,如大规模深度学习模型训练、实时数据分析等,CPU单一的处理核心和串行处理方式难以满足高并发、高速度的计算需求,导致系统响应迟缓,效率低下。而且,CPU与其他组件之间的数据传输带宽有限,进一步限制了整个系统的性能表现。
当前,计算领域呈现出多种算力芯片和多样算力场景并存的局面。不同的算力场景,如通用计算、智能计算等,对算力资源的需求差异巨大。通用算力场景注重通用性和灵活性,智能算力场景则更强调并行计算和深度学习能力。同时,内存作为数据存储和交换的关键环节,其合理配比对于特定的算力场景的系统性能至关重要。这就要求我们必须灵活调度各种算力资源,包括通用算力、智能算力以及内存等的合理配比以及连接交互关系,以实现计算效率的最大化。
在数据量呈爆炸式增长的今天,内存和存储的使用效率成为制约系统性能的关键因素。传统的内存和存储管理方式存在资源利用率低、数据传输延迟大等问题。而内存和存储池化技术为解决这些问题提供了可行途径。通过将内存和存储资源进行统一池化管理,可以实现资源的动态分配和共享,根据不同的计算任务实时调整资源分配,避免资源的闲置和浪费。同时,池化技术还能提高数据传输的效率,减少数据在不同组件之间的传输延迟,从而提升整个系统的性能。
鉴于传统架构的不足以及当前计算领域的多样性需求,新一代计算架构的产生势在必行。新一代计算架构应打破以CPU为中心的局限,构建一个更加开放、灵活、高效的体系。它需要能够无缝集成多种算力芯片,实现算力资源的智能调度和优化配置;采用先进的内存和存储池化技术,提高数据处理和存储效率;使用高性能的连接技术,让计算和存储单元之间的数据流动更加高效。只有这样,我们才能充分发挥多样性计算的优势,满足智能计算时代不断增长的计算需求,推动科技的持续进步和社会的快速发展。让我们共同期待新一代计算架构的诞生,为未来的计算世界开启崭新的篇章。
作者简介:苗福友
苗福友
全球计算联盟秘书处CTO、技术生态部总监
苗福友,现任全球计算联盟秘书处CTO和技术生态部总监,负责全球计算联盟的技术洞察、技术生态发展以及业务规划。2021年进入全球计算联盟筹备组,在制度建设、分支机构建设和业务规划等方面为联盟的建立和发展贡献个人力量。此前长期从事标准业务管理,带领团队在IETF、CCSA、IEEE和ITU-T等多个标准组织构建影响力,通过标准活动实现公司技术战略。苗福友2000年获得北京航空航天大学计算机科学硕士学位。