\[\begin{align*}
\newcommand{\dif}{\mathop{}\!\mathrm{d}}
\newcommand{\belowarrow}[1]{\mathop{#1}\limits_{\uparrow}}
\newcommand{\bd}{\boldsymbol}
\newcommand{\L}{\mathscr{L}}
\newcommand{\xleftrightarrow}[1]{\stackrel{#1}{\longleftrightarrow}}
\end{align*}\]
正交变换
唠唠叨叨写了一大堆，然后发现要补一堆数学知识 🤬
在介绍 DFT 之前，先来从数学角度对这类变换做一个概述，请切换到线性代数的思维。我们已经学过时域中的信号，以及频域中的信号。说是域，但和数学中的“域”还真不是一回事（我在这里懵了好久），更像是数学中的空间。我们可以将信号看作这些空间中的一个向量，而变换的本质就是空间的转换。这类空间称为 Hilbert 空间 1，简单来说就是欧氏空间的高维推广。
在 Hilbert 空间中，信号 $\varphi_1,\cdots,\varphi_N$ 线性独立（不相关），则可成为一个 基。我们可以将空间中的任意信号分解成基的组合：
\[\bd{x} = \sum_{n=1}^N \alpha_n \varphi_n\]
要求解分解系数 $\alpha$，我们可以构造另一组向量，$\hat{\varphi_1},\cdots,\hat{\varphi_N}$，满足 双正交关系：
\[\langle \varphi_i,\hat{\varphi}_j\rangle=\delta_{i,j}=
\begin{cases}
1 & i=j\\
0 & i\neq j
\end{cases}\]
然后与 $\bd{x}$ 做内积：
\[\langle x,\hat{\varphi_j}\rangle=\langle\sum_{n=1}^N \alpha_n \varphi_n,\hat{\varphi_j}\rangle=\alpha_j\\
\begin{cases}
连续：\alpha_j=\langle x(t),\hat{\varphi}_j(t)\rangle=\int x(t) \hat{\varphi}_j^*(t)\dif t\\
离散：\alpha_j = \langle x[n],\hat{\varphi}_j[n]\rangle=\sum_n x[n] \hat{\varphi}_j^*[n]
\end{cases}\]
这样就能求得 $\alpha$。我们将 $\hat{\varphi_1},\cdots,\hat{\varphi_N}$ 称作 $\varphi_1,\cdots,\varphi_N$ 的 对偶基。
若 $\varphi_1,\cdots,\varphi_N$ 线性独立，且两两正交，则称为 正交基。我们可以证明其对偶基就是自己本身，证明如下：
\[设：\hat{\varphi}_j = \sum_{k=1}^N b_{jk} \varphi_k，则：\\
\langle \hat{\varphi}_j,\varphi_i\rangle = \sum_{k=1}^N b_{jk} \langle\varphi_k,\varphi_j\rangle=\delta_{i,j}\\
令：
\bd{B}=
\begin{bmatrix}
b_{11} & \cdots & b_{1N}\\
\vdots & & \vdots\\
b_{N1} & \cdots & b_{NN}
\end{bmatrix}
\bd{\Phi}=
\begin{bmatrix}
\langle\varphi_1,\varphi_1\rangle & \cdots & \langle\varphi_1,\varphi_N\rangle\\
\vdots & & \vdots\\
\langle\varphi_N,\varphi_1\rangle & \cdots & \langle\varphi_N,\varphi_N\rangle
\end{bmatrix}\\
则：\bd{B\Phi}^T = \bd{I}，\bd{B}=(\bd{\Phi}^T)^{-1}\\
对于正交基，有 \bd{B}=\bd{I}，故：\hat{\varphi}_j = \varphi_j\]
设 $X,Y$ 是两个 Hilbert 空间，$\bd{x},\bd{y}$ 分别是其中的信号，存在算子 $\bd{A}$，满足：
\[\bd{y}=\bd{Ax}\]
则称 $\bd{A}$ 为一个 变换。若 $\bd{A}$ 是线性的，则称为线性变换。若 $\langle\bd{Ax},\bd{Ax}\rangle =\langle\bd{x},\bd{x}\rangle =\langle\bd{y},\bd{y}\rangle $，则称为 正交变换，此时 $\bd{A}$ 是一个正交矩阵（满足 $\bd{A}^T=\bd{A}^{-1}$）。
正交变换的性质如下：
正交变换的基向量是其对偶基向量（说人话就是：把正交变换的列向量看做一组基，那么这是组正交基）
正交变换的反变换存在且唯一，就是正交变换的转置，即：$\bd{A}^{-1}=\bd{A}^T$
正交变换前后信号能量不变（Parseval 定理）
信号正交分解具有最小平方近似性质（信号的相似？）
正交变换的实例
正弦类
FS，FT，DTFT，DFS，DFT
DCT，DST，DHT
非正弦类
Walsh-Hadamard，Haar 变换
SLT（斜变换）
这些变换十分复杂，我们会在后续文章中讲解到。
参考
vector space（向量空间） 和 field（域） 的关系和区别？
数字信号处理-正交变换
Mathematics of The DFT
知乎：Hilbert 空间 ↩