计算解剖学（Computational anatomy, CA）是研究医学影像中形状与形态的学科。CA 中可变形形状的研究依赖于高维微分同胚群（diffeomorphism group）\operatorname{Diff}_V，该群生成形如 \mathcal{M} \doteq \{ \varphi \cdot m \mid \varphi \in \operatorname{Diff}_V \} 的轨道（orbit）。在 CA 中，该轨道通常被视为一个光滑的黎曼流形（Riemannian manifold），因为在形状流形 m \in \mathcal{M} 的每一点上，都有一个内积（inner product）在切空间（tangent space）上诱导出范数 \| \cdot \|_m，且该范数在流形上光滑变化。这通过将微分同胚群 \varphi \in \operatorname{Diff}_V 视为一个黎曼流形来实现，其在 \varphi \in \operatorname{Diff}_V 处的切空间相关联的范数为 \| \cdot \|_\varphi。这在微分同胚群作用下，诱导出了轨道 m \in \mathcal{M} 上的范数和度量。
计算解剖学中的微分同胚被构造为满足拉格朗日（Lagrangian）和欧拉（Eulerian）速度场规范的流场 \varphi_t, t \in [0,1]，它们通过常微分方程生成：
其中 v_t = \dot \varphi_t \circ \varphi_t^{-1}, t \in [0,1] 是 \mathbb{R}^3 中的欧拉向量场（Eulerian vector field） v \doteq (v_1,v_2,v_3)。流的逆满足：
对于 \mathbb{R}^3 中的流，其 3 \times 3 雅可比矩阵（Jacobian matrix）定义为 D\varphi \doteq \left(\frac{\partial \varphi_i}{\partial x_j}\right)。
为确保微分同胚流具有光滑的逆，\mathbb{R}^3 中的向量场在空间中必须至少是一阶连续可微的[1][2]。根据索伯列夫嵌入定理（Sobolev embedding theorems），它们被建模为希尔伯特空间（Hilbert space） (V, \| \cdot \|_V) 中的元素，使得每个元素 v_i \in H_0^3, i=1,2,3,（具有三个平方可积导数）意味着 (V, \| \cdot \|_V) 光滑嵌入到一阶连续可微函数空间中。微分同胚群是由索伯列夫范数下绝对可积的向量场生成的流：
计算解剖学中的形状通过微分同胚映射来研究，以建立解剖坐标系之间的对应关系。在此框架下，三维医学影像被建模为某个模板（template） I_{temp} 的微分同胚变换，使得观察到的图像是 CA 随机轨道模型（random orbit model）的元素。对于图像，它们定义为 I \in \mathcal{I} \doteq \{ I = I_{temp} \circ \varphi, \varphi \in \operatorname{Diff}_V \}；对于表示子流形的图表（charts），定义为 \mathcal{M} \doteq \{ \varphi \cdot m_{temp} : \varphi \in \operatorname{Diff}_V \}。
计算解剖学中形状和形态的轨道由群作用生成：\mathcal{M} \doteq \{ \varphi \cdot m : \varphi \in \operatorname{Diff}_V \}。通过引入与每个点及其切空间相关联的度量，将其构建成黎曼轨道。为此，在群上定义一个度量，从而诱导出轨道上的度量。在计算解剖学中，取微分同胚群中每个元素 \varphi \in \operatorname{Diff}_V 的切空间上的度量为：
其中向量场被建模为希尔伯特空间中的元素，该空间具有希尔伯特空间范数 (V, \| \cdot \|_V)。我们将 V 建模为由一个一一对应的微分算子（differential operator）A: V \rightarrow V^* 定义的再生核希尔伯特空间（reproducing kernel Hilbert space, RKHS）。对于 \sigma(v) \doteq Av \in V^*（一个分布或广义函数），线性形式 (\sigma\mid w) \doteq \int_{\mathbb{R}^3} \sum_i w_i(x) \sigma_i(dx) 确定了范数和内积。对于 v \in V，其定义为：
其中积分通过分部积分法计算，Av 是对偶空间 V^* 中的广义函数。选择微分算子，使得与其逆相关联的格林核（Green's kernel）足够光滑，从而支持向量场的一阶连续导数。
微分同胚群上的度量定义为群中成对元素之间的距离：
这个距离提供了微分同胚测量学（diffeomorphometry）的一个右不变度量（right-invariant metric）[3][4]，对于所有 \varphi \in \operatorname{Diff}_V，它对空间的重参数化（reparameterization）是不变的：
李括号（Lie bracket）描述了在弯曲空间（curved spaces）中，运动扰动所导致的速度项的调整。利用哈密顿最小作用原理（Hamilton's principle of least action），将优化的流推导为作用量泛函（action integral，动能积分）的临界点。计算解剖学中向量场的李括号最早由 Miller、Trouvé 和 Younes 引入[5]。该推导计算了向量场 v^\varepsilon = v + \varepsilon \delta v 的扰动 \delta v，它表示为群扰动的时间导数，并根据涉及雅可比矩阵的向量场李括号进行修正（与矩阵群情况不同）：
证明： 证明向量场的李括号，取点 \varphi \in \operatorname{Diff}_V 处流的一阶扰动。
取一阶扰动得 \varphi_t^\varepsilon \doteq (\operatorname{id} + \varepsilon w) \circ \varphi = \varphi+\varepsilon w \circ \varphi，其中边界固定 w_0= w_1=0，且 \frac{d}{dt} \varphi_t^\varepsilon = v_t^\varepsilon \circ \varphi_t^\varepsilon, \varphi_0^\varepsilon = \operatorname{id}, \varphi_1^\varepsilon = \varphi_1，得到以下两个方程：
令上述两个方程相等，得到基于李括号调整的向量场扰动。李括号给出了向量场相对于流的一阶变分：
欧拉-拉格朗日方程（Euler–Lagrange equation）可用于计算群中的测地线流（geodesic flow），这是度量的基础。哈密顿原理中动能拉格朗日量的作用量泛函（action integral）变为：
用向量场表示的作用量泛函对应于对动能的积分：
轨道中最短路径的测地线连接通过哈密顿最小作用原理定义，这要求计算解剖学轨道中解的一阶变分，其基础是计算路径度量长度或能量的临界点。
欧拉方程的原始推导[5]利用了当 Av \in V^* 是分布（广义函数）时的广义函数方程。利用李括号的伴随算子（adjoint operator）对作用量泛函进行一阶变分，对于所有光滑的 w \in V，得到：
利用括号 ad_v: w \in V \mapsto V 和 ad_v^*: V^* \rightarrow V^* 给出：
意味着对于所有光滑的 w \in V，
该方程是当微分同胚形状动量（shape momentum）为广义函数时的欧拉方程[6]。
该方程被称为 EPDiff，即微分同胚的欧拉-庞加莱方程（Euler–Poincaré equation for diffeomorphisms），并且已在不可压缩流体与 L^2 度量相关的流体力学背景下得到研究[7][8]。
在计算解剖学的随机轨道模型中，整个流被简化为初始条件，该条件形成了编码微分同胚的坐标，并提供了在轨道中定位信息的方法。这最初由 Miller、Trouvé 和 Younes 称为测地定位系统（geodesic positioning system）[9]。从初始条件 v_0 出发，相对于计算解剖学的黎曼度量进行测地定位，即求解欧拉-拉格朗日方程的流。从初始条件 v_0 求解测地线的过程被称为黎曼指数（Riemannian exponential），它是一个映射 \operatorname{Exp}_{\operatorname{id}}(\cdot): V \to \operatorname{Diff}_V，从单位元映射到群。
黎曼指数满足 \operatorname{Exp}_{\operatorname{id}}(v_0)= \varphi_1，对应初始条件 \dot \varphi_0 = v_0，向量场动力学 \dot \varphi_t = v_t \circ \varphi_t, t \in [0,1]。
它被扩展到整个群：
\varphi= \operatorname{Exp}_\varphi(v_0\circ \varphi) \doteq \operatorname{Exp}_{\operatorname{id}}(v_0) \circ \varphi。跨坐标系的匹配信息是计算解剖学的核心。将匹配项 E: \varphi \in \operatorname{Diff}_V \rightarrow R^+ 添加到作用量泛函中，该项代表目标终点：
端点项为欧拉-拉格朗日方程增加了边界条件，给出带边界项的欧拉方程。取变分得到：
证明： 通过变分演算的证明使用了上述扰动和经典的变分法论证[10]。
最早的大形变微分同胚度量映射（Large deformation diffeomorphic metric mapping, LDDMM）算法解决了与图像相关联的匹配问题和配准的标志点（landmarks）。标志点位于向量空间中。图像匹配测地线方程满足具有端点条件的经典动力学方程。图像匹配测地线的必要条件呈现为经典的欧拉-拉格朗日方程带边界条件的形式：
配准的标志点匹配问题满足具有端点条件的广义函数动力学方程：
证明： 变分 \frac{\partial}{\partial \varphi} E(\varphi) 需要逆 \varphi^{-1} 的变分，这通过 (\varphi + \varepsilon \delta \varphi \circ \varphi)\circ (\varphi^{-1} + \varepsilon \delta \varphi^{-1} \circ \varphi^{-1}) = \operatorname{id} + o(\varepsilon) 将矩阵逆扰动推广得到，从而有 \delta \varphi^{-1} \circ \varphi^{-1} =-(D \varphi_1^{-1}) \delta \varphi，由此得到：