17.3 深度学习框架深入：PyTorch动态图与TensorFlow静态图对比
深度学习框架的核心任务之一是高效地表达和执行由神经网络定义的计算过程。计算图作为描述这些计算过程的抽象数据结构，其构建与执行方式是框架设计的基石。PyTorch与TensorFlow作为当今两大主流框架，分别代表了动态计算图（即时执行）与静态计算图（先定义后执行）两种核心范式。本节将深入剖析这两种计算图机制的技术原理、实现差异、性能特点及其对开发流程和模型部署的影响，旨在为工程实践中的框架选型与优化提供理论依据。
17.3.1 计算图基础与核心抽象
在深入对比之前，首先需要明确计算图的基本概念。计算图是一种用于描述数学运算的有向无环图，它将复杂的计算过程分解为一系列基本的操作单元。
1. 计算图的定义与构成
计算图中的节点通常代表两种元素：数据（张量）和操作（算子）。边则代表数据在操作之间的流动与依赖关系。一个简单的数学表达式z=(x+y)∗wz = (x + y) * wz=(x+y)∗w可以被表示为图17.3.1所示的计算图，其中x,y,wx, y, wx,y,w是输入张量节点，“+”和“*”是操作节点，zzz是输出张量节点。这种抽象使得框架能够对计算过程进行全局分析、自动微分、并行调度和内存优化。
