参考引用

• Point Cloud Library
• 黑马机器人 | PCL-3D点云

PCL点云库学习笔记（文章链接汇总）

1. 点云中的数学

• 函数求导
  • 对于函数 $f(x)=x^2$
    • 其一阶导数也是 $x$ 的函数：$\frac{df}{dx}=2x$
    • 其二阶导为常数，与 $x$ 无关：$\frac{d^{2}f}{d{x}^2}=2$
      

1.1 方差 & 协方差矩阵

1.1.1 基本概念

• 方差（Variance）

  • 衡量的是单个随机变量的变化（比如一个人在群体中的身高），概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度，方差的公式为
    $$var(x)={\sigma }_x^2=\frac{1}{n-1}\sum _{i=1}^n{\left(x_i-\bar{x}\right)}^2$$
  • $\bar{x}$ 是随机变量 $x$ 的均值，$n$ 为样本总数

• 标准差（Standard Deviation）

  • 方差的算术平方根，用 $\sigma$ 表示，标准差能反映一个数据集的离散程度

• 协方差（Covariance）

  • 衡量的是两个随机变量同时变化的离散程度(比如一个人在群体中的身高和体重)，方差是协方差的一种特殊情况
    $$cov(x,y)=\sigma (x,y)=\frac{1}{n-1}\sum _{i=1}^n\left(x_i-\bar{x}\right)\left(y_i-\bar{y}\right)$$
  • 单个随机变量的方差 ${\sigma }_x^2$ 也可以通过协方差表示 $\sigma (x,x)$，方差和协方差有如下性质
    $$\begin{array}{l}cov(x,x)=var(x)\\ \\ cov(x,y)=cov(y,x)\end{array}$$

1.1.2 协方差矩阵

• 协方差矩阵表示一组随机变量之间的两两线性相关性，其中的每个元素代表了两个随机变量之间的协方差。根据方差、协方差的定义：假如现在有 $n$ 个样本数据，每个样本有 $d$ 个随机变量，则其协方差矩阵为
  $$\Sigma =\left[\begin{array}{ccc}\sigma \left(x_1,x_1\right)& \dots & \sigma \left(x_1,x_d\right)\\ ⋮& \ddots & ⋮\\ \sigma \left(x_d,x_1\right)& \dots & \sigma \left(x_d,x_d\right)\end{array}\right]\in {\mathbb{R}}^{d\times d}$$
• 主对角线上的元素为各个随机变量的方差，非对角线上的元素为两两随机变量之间的协方差，根据协方差的定义，我们可以认定：矩阵 $\Sigma$ 为对称矩阵（symmetric matrix），其大小为 $d\times d$。则如果有一堆二维的点坐标，其协方差矩阵为
  $$\Sigma =\left(\begin{array}{cc}\mathrm{cov}(x,x)& \mathrm{cov}(x,y)\\ \mathrm{cov}(y,x)& \mathrm{cov}(y,y)\end{array}\right)$$
• 三维点坐标的协方差矩阵应为
  $$\Sigma =\left(\begin{array}{ccc}\text{cov}(x,x)& \text{cov}(x,y)& \text{cov}(x,z)\\ \text{cov}(y,x)& \text{cov}(y,y)& \text{cov}(y,z)\\ \text{cov}(z,x)& \text{cov}(z,y)& \text{cov}(z,z)\end{array}\right)$$

1.1.3 多元正态分布

• 假如数据集 $X$ 中的向量 $\vec{x}$ 服从多元正态分布（multivariate Gaussian distribution），且均值向量 $\vec{\mu }$，协方差为 $\Sigma$
  $$p(\vec{x})=\frac{1}{2\pi \sqrt{|\Sigma |}}\exp \left(-\frac{(\vec{x}-\vec{\mu }{)}^{\mathrm{T}}{\Sigma }^{-1}(\vec{x}-\vec{\mu })}{2}\right)$$
• 一起通过二维点分布，探究协方差矩阵与数据分布特点的关系。为了简化图像，令均值向量 $\vec{\mu }$ 为零向量，指数前的系数通常作为常量，即跟变化无关，则将多元正态分布简化为似然函数
  $$L(\vec{x})\propto \exp \left(-\frac{1}{2}{\vec{x}}^{\mathrm{T}}{\Sigma }^{-1}\vec{x}\right)$$
• 为了展示二维图像，则令 $\vec{x}=(x,y{)}^T$，包含 $x,y$ 方向的坐标值，则协方差为以下形式
  $$\Sigma =\left[\begin{array}{cc}\sigma (x,x)& \sigma (x,y)\\ \sigma (y,x)& \sigma (y,y)\end{array}\right]\in {\mathbb{R}}^{2\times 2}$$
• 这里令协方差矩阵 $\Sigma$ 为单位矩阵 $I=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]$，即随机变量 $x,y$ 的方差均为 1，可以生成如下随机分布，共200个点

  import numpy as np
  import matplotlib.pyplot as plt
  # %matplotlib inline
  
  plt.style.use('ggplot')
  plt.rcParams['figure.figsize'] = (12, 8)
  
  # Normal distributed x and y vector with mean 0 and standard deviation 1
  x = np.random.normal(0, 1, 200)
  y = np.random.normal(0, 1, 200)
  X = np.vstack((x, y))
  
  plt.scatter(X[:, 0], X[:, 1])
  plt.title('Generated Data')
  plt.axis('equal')
  plt.show()
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15
  16

• 此时，变量 $x,y$ 是相互独立的，协方差矩阵 $\Sigma$ 是如下形式
  $$C=\Sigma =\left[\begin{array}{cc}{\sigma }_x^2& 0\\ 0& {\sigma }_y^2\end{array}\right]$$
• 可以通过如下代码计算随机生成的点的真实协方差矩阵，根据输出结果可见其十分接近之前对随机变量 $x,y$ 方差的定义 ${\sigma }_x^2={\sigma }_y^2=1$，即协方差矩阵主轴上的数据描述了其各个维度的离散程度（分布情况），值越大，分散的越开

  # Covariance
  def cov(x, y):
      xbar, ybar = x.mean(), y.mean()
      return np.sum((x - xbar)*(y - ybar))/(len(x) - 1)
  
  # Covariance matrix
  def cov_mat(X):
      return np.array([[cov(X[0], X[0]), cov(X[0], X[1])],
                          [cov(X[1], X[0]), cov(X[1], X[1])]])
  
  # Calculate covariance matrix
  print(cov_mat(X)) # (or with np.cov(X))
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12

  # 输出结果
  [[ 0.99913267 -0.08235379]
      [-0.08235379  0.91284394]]
  1
  2
  3

1.1.4 线性变换

• 接下来为所有点进行线性变换，来观察数据分布的变化以及协方差矩阵的变化。我们先使用以下缩放矩阵（scaling matrix）修改之前的协方差矩阵
  $$S=\left[\begin{array}{ccc}{s}_x& & 0\\ 0& & s_y\end{array}\right]$$
• 然后使用旋转矩阵（rotation matrix）进行旋转，$\theta$ 为逆时针旋转的弧度值
  $$R=\left[\begin{array}{cc}\cos (\theta )& -\sin (\theta )\\ \sin (\theta )& \cos (\theta )\end{array}\right]$$
• 本例设 $s_x=\frac{1}{2},s_y=2,\theta =\frac{\pi }{6}$，即水平方向缩放一半，竖直方向放大一倍，然后逆时针旋转30度
  $$S=\left[\begin{array}{cc}\frac{1}{2}& 0\\ 0& 2\end{array}\right],R=\left[\begin{array}{cc}\frac{\sqrt{3}}{2}& -\frac{1}{2}\\ \frac{1}{2}& \frac{\sqrt{3}}{2}\end{array}\right]$$
• 只进行缩放操作

  import numpy as np
  import matplotlib.pyplot as plt
  
  plt.style.use('ggplot')
  plt.rcParams['figure.figsize'] = (12, 8)
  
  # Normal distributed x and y vector with mean 0 and standard deviation 1
  x = np.random.normal(0, 1, 200)
  y = np.random.normal(0, 1, 200)
  X = np.vstack((x, y)) # 2xn
  
  sx, sy = 0.5, 2.0
  Scale = np.array([[sx, 0], [0, sy]])
  
  Y = Scale.dot(X)
  # 原始点集
  plt.scatter(X[0, :], X[1, :])
  # 缩放后点
  plt.scatter(Y[0, :], Y[1, :])
  plt.title('Generated Data')
  plt.axis('equal')
  plt.show()
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15
  16
  17
  18
  19
  20
  21
  22

• 先缩放，后旋转

  import numpy as np
  import matplotlib.pyplot as plt
  
  plt.style.use('ggplot')
  plt.rcParams['figure.figsize'] = (12, 8)
  
  # Normal distributed x and y vector with mean 0 and standard deviation 1
  x = np.random.normal(0, 1, 200)
  y = np.random.normal(0, 1, 200)
  X = np.vstack((x, y)) # 2xn
  
  sx, sy = 0.5, 2.0
  Scale = np.array([[sx, 0], [0, sy]])
  
  # Rotation matrix
  theta = np.pi / 6
  c, s = np.cos(theta), np.sin(theta)
  Rot = np.array([[c, -s], [s, c]])
  
  # Transformation matrix
  T = Rot.dot(Scale)
  
  # Apply transformation matrix to X
  Y = T.dot(X)
  
  # 原始点集
  plt.scatter(X[0, :], X[1, :])
  # 缩放、旋转后
  plt.scatter(Y[0, :], Y[1, :])
  plt.title('Generated Data')
  plt.axis('equal')
  plt.show()
  
  # Calculate covariance matrix
  print(cov_mat(Y)) # (or with np.cov(Y))
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15
  16
  17
  18
  19
  20
  21
  22
  23
  24
  25
  26
  27
  28
  29
  30
  31
  32
  33
  34
  35

  // 输出结果
  [[ 1.1830068  -1.66028421]
   [-1.66028421  3.10071868]]
  1
  2
  3

• 为了计算变换与协方差矩阵个关系，我们将旋转矩阵、缩放矩阵合并为同一个变换矩阵 $A=RS$，我们想了解的是经过线性变换后，其协方差矩阵的变换。即将所有点进行变换操作 $\vec{t}=A\vec{x}$之后，在 $\vec{t}$ 集合情况下的协方差矩阵 $\Sigma$ 对应的值。则将 $\vec{x}=A^{-1}\vec{t}$ 代入函数可得
  $$\begin{array}{r}L(\vec{x})\propto \exp \left(-\frac{1}{2}(A^{-1}\vec{t}{)}^n(A^{-1}\vec{t})\right)\\ =\exp \left(-\frac{1}{2}{t}^T(A^{-1}{)}^{\text{T}}{A}^{-1}\vec{t})\right)\\ =\exp \left(-\frac{1}{2}{t}^T(A^T{)}^{-1}{A}^{-1}\vec{t})\right)\\ =\exp \left(-\frac{1}{2}{t}^T(A{A}^T{)}^{-1}\vec{t})\right)\end{array}$$
  • 注意，由于之前的 $\Sigma$ 为单位矩阵，故这里的 ${\Sigma }^{-1}$ 直接省掉
• 则变换后的多元正态分布的协方差矩阵为
  $$A=RS=\left[\begin{array}{cc}\frac{\sqrt{3}}{2}& -\frac{1}{2}\\ \frac{1}{2}& \frac{\sqrt{3}}{2}\end{array}\right]\left[\begin{array}{cc}\frac{1}{2}& 0\\ 0& 2\end{array}\right]=\left[\begin{array}{cc}\frac{\sqrt{3}}{4}& -1\\ \frac{1}{4}& \sqrt{3}\end{array}\right]$$

Σ = A A T = [ 3 4 − 1 1 4 3 ] [ 3 4 1 4 − 1 3 ] = [ 19 16 − 15 3 16 − 15 3 16 49 16 ] \Sigma=AA^T=[√34−114√3]

可验证与之前代码输出的协方差结果近似。现在我们已经得到协方差矩阵与缩放矩阵、旋转矩阵的关系，由于协方差矩阵是正定对称矩阵即可对角化矩阵，则接下来我们对协方差矩阵进行特征值分解，观察其特征向量矩阵、特征值矩阵与缩放矩阵、旋转矩阵的关系

1.1.5 特征分解

• 对于任意可对角化矩阵，都存在一个特征分解（eigen decomposition）
  $$\Sigma =U\Lambda U^T$$
  • 其中 $U$ 为特征向量矩阵，且是正交矩阵，满足 $U^T=U^{-1},U{U}^T=I$
  • $\Lambda$ 为特征值矩阵，且是对角矩阵，其对角线上是特征值，非对角线的元素为 0
• 则对 $\Sigma$ 进行变换得
  $$\Sigma =\left(U{\Lambda }^{1/2}\right){\left(U{\Lambda }^{1/2}\right)}^T$$
• 结合变换后的多元正态分布的协方差矩阵公式可得
  $$\left(U{\Lambda }^{1/2}\right){\left(U{\Lambda }^{1/2}\right)}^T=A{A}^T=RS(RS{)}^T=RS{S}^T{R}^T$$
  • 此时，$A=RS=U{\Lambda }^{1/2}$，即可发现旋转矩阵和特征向量矩阵相关，缩放矩阵与特征值矩阵相关
    $$U=\pm R=\pm \left[\begin{array}{cc}\frac{\sqrt{3}}{2}& -\frac{1}{2}\\ \frac{1}{2}& \frac{\sqrt{3}}{2}\end{array}\right]$$

Λ = S S T = [ 1 2 0 0 2 ] [ 1 2 0 0 2 ] = [ 1 4 0 0 4 ] \Lambda=SS^T=[12002]

• 通过以下代码对 $\Sigma$ 进行特征分解，从而对结果进行验证

  import numpy as np
  
  sigma = np.array([
      [19 / 16, -15 * np.sqrt(3) / 16,],
      [-15 * np.sqrt(3) / 16, 49 / 16]
  ])
  
  eVa, eVe = np.linalg.eig(sigma)
  print("eigen value:\n", eVa)
  print("eigen vector:\n", eVe)
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10

  # 结果输出（可验证该输出结果与上述一致）
  eigen value - SS^T:
   [0.25 4.  ]
  eigen vector - U:
   [[-0.8660254  0.5      ]
   [-0.5       -0.8660254]]
  1
  2
  3
  4
  5
  6

• 可以将特征值和特征向量分别相乘，得到变换后椭圆区域的两个基向量

  # Calculate covariance matrix
  C = cov_mat(Y)
  print(C)  # (or with np.cov(Y))
  
  eVa, eVe = np.linalg.eig(C)
  
  plt.scatter(Y[:, 0], Y[:, 1])
  for value, eigen in zip(eVa, eVe.T):
      plt.plot(
          [0, 3 * np.sqrt(value) * eigen[0]],
          [0, 3 * np.sqrt(value) * eigen[1]],
           lw=5)
  
  plt.title('Transformed Data')
  plt.axis('equal')
  plt.show()
  1
  2
  3
  4
  5
  6
  7
  8
  9
  10
  11
  12
  13
  14
  15
  16

总结

• 一个多元正态分布的概率密度函数中，其协方差矩阵 $\Sigma$ 包含了分布的旋转角度和缩放信息，其均值向量 $\vec{\mu }$ 包含了密度中心的位置信息

1.2 雅可比矩阵

将多个维度作为整体，来理解函数与变量的关系。雅可比矩阵即通过向量来描述高维度的数据在空间中的表现。通过向量将每一个函数的变量变化（偏导数）合并为一个整体，在高维空间去观察变化。$|J|$ 是其在梯度方向的向量的模，该向量指向其梯度的上坡方向

1.2.1 雅可比（Jacobian）

• 假如求一个二元函数 $f(x,y)$ 的导数时，会先去求出每一个变量的偏导数 $\frac{\partial f}{\partial x}$ 和 $\frac{\partial f}{\partial y}$，然后将两个偏导数放到一个行向量中，即是一个雅可比（Jacobian），简记为 $J$。通过不同 $x，y$ 参数所组成的向量在空间中的长度（模）和方向，可以理解不同参数对应结果的变化关系

  梯度（gradient）为 0 的地方可能有三个

  • 顶点（Maximum Point）、谷点（Minimum Point）、鞍点（Saddle Point）

1.2.2 雅可比矩阵

• 是多个多元函数的一阶偏导数以一定方式排列形成的矩阵，其体现了可微方程与给出点的最优线性逼近。可以理解为多元函数对各个变量的导数

• 设 $f:{\mathbb{R}}_n\to {\mathbb{R}}_m$ 是一个函数，它的输入是向量 $\mathbf{x}\in {\mathbb{R}}_n$，输出是向量 $\mathbf{y}=f(\mathbf{x})\in {\mathbb{R}}_m$
  { y 1 = f 1 ( x 1 , … , x n ) y 2 = f 2 ( x 1 , … , x n ) … y m = f m ( x 1 , … , x n ) {y1=f1(x1,…,xn)y2=f2(x1,…,xn)…ym=fm(x1,…,xn)

  ⎩ ⎨ ⎧​y1​=f1​(x1​,…,xn​)y2​=f2​(x1​,…,xn​)…ym​=fm​(x1​,…,xn​)​

• 则雅可比矩阵是一个 $m\times n$ 矩阵
  J = [ ∂ f ∂ x 1 ⋯ ∂ f ∂ x n ] = [ ∂ f 1 ∂ x 1 ⋯ ∂ f 1 ∂ x n ⋮ ⋱ ⋮ ∂ f m ∂ x 1 ⋯ ∂ f m ∂ x n ] \mathbf{J}=[∂f∂x1⋯∂f∂xn]

  =[∂f1∂x1⋯∂f1∂xn⋮⋱⋮∂fm∂x1⋯∂fm∂xn]
  J=[∂x1​∂f​​⋯​∂xn​∂f​​]= ​∂x1​∂f1​​⋮∂x1​∂fm​​​⋯⋱⋯​∂xn​∂f1​​⋮∂xn​∂fm​​​ ​

• 例如
  u ( x , y ) = x − 2 y v ( x , y ) = 3 y − 2 x u(x,y)=x−2yv(x,y)=3y−2x

  u(x,y)v(x,y)​=x−2y=3y−2x​
  • 自变量为 $x、y$，因变量为 $u、v$，则雅可比矩阵为两个雅克比向量的合体

J u = [ ∂ u / ∂ x ∂ u / ∂ y ] J_u=[∂u/∂x∂u/∂y]

J v = [ ∂ v / ∂ x ∂ v / ∂ y ] J_v=[∂v/∂x∂v/∂y]

J = [ ∂ u / ∂ x ∂ u / ∂ y ∂ v / ∂ x ∂ v / ∂ y ] J=[∂u/∂x∂u/∂y∂v/∂x∂v/∂y]

1.2.3 雅可比寻找极值

• 当函数进入极大值或极小值时，其梯度会比较平缓，接近或等于 0。当极值只有一个时，找到对应的 $x，y$ 位置比较容易

• 当函数比较复杂时，极值可能有多个，会有全局最高的山顶、全局最低的山谷、局部山顶和局部的山谷。这些地方的梯度也都是 0。如果将 $x，y$ 等于 0，则无法确定是哪个极值

• 如果任意选择一点，无法知道最高峰和最低谷的位置。但是可以知道其最近的较高点和较低点。雅克比 Vector 的方向指向了最近的较高点，其模表述了幅度。即可以高效地找到局部的较高和较低点，但不能找到全局的最高点和最低点
  

求函数 $f(x,y,z)=x^{2}z+5x-2y^3$ 的雅可比向量？

• $J=[2zx+5,-6y^2,x^2]$

1.3 黑塞矩阵

• 黑塞矩阵（Hessian matrix，又称海森矩阵）是一个自变量为向量的实值函数的二阶偏导数组成的方阵。即可以理解为对 Jacobian Vector 再次进行求导（把每一项偏导项再做一次求导）其矩阵是对称矩阵。
• 那么如何在雅可比 $J$ 处于极值情况下，判断这个极值是最大值、最小值、还是鞍值？这就需要使用黑塞矩阵了，对于二次函数，黑塞矩阵为常数矩阵，与参数无关，令$J=0$
  - 当 $H$ 为正定矩阵时，此时函数对应极小值
  - 当 $H$ 为负定矩阵时，此时函数对应极大值
  - 当 $H$ 为不定矩阵时，此时函数无极值点
  - 当 $H$ 为半正定或半负定矩阵时，无法确定极值点

• 如果一个多维函数如下
  $$y=f\left(x_1,\dots ,x_n\right)$$

• 假如此函数的所有二阶导数都存在，则其黑塞矩阵为
  $$H(f{)}_{ij}(x)=D_i{D}_{j}f(x)$$

  • 其一阶偏导为向量，称作梯度（gradient），$x=x_1,\dots ,x_n$
    $$\nabla f(\mathbf{x})=\left[\begin{array}{c}\frac{\partial f}{\partial x_1}\\ \frac{\partial f}{\partial x_2}\\ ⋮\\ \frac{\partial f}{\partial x_n}\end{array}\right]$$

• $\delta$ 即为偏导数（partial），按照如下形式求每一项的二阶偏导
  ∇ ( ∂ f ∂ x i ) = [ ∂ ∂ x 1 ∂ f ∂ x i ∂ ∂ x 2 ∂ f ∂ x i ⋯ ∂ ∂ x n ∂ f ∂ x i ] \nabla\left(\frac{\partial f}{\partial x_i}\right)=[∂∂x1∂f∂xi∂∂x2∂f∂xi⋯∂∂xn∂f∂xi]

  ∇(∂xi​∂f​)=[∂x1​∂​∂xi​∂f​∂x2​∂​∂xi​∂f​⋯∂xn​∂​∂xi​∂f​​]

• 则可得 $f(x)$ 的二阶偏导
  H ( x ) = ∇ 2 f ( x ) = [ ∂ ∂ x 1 ∂ f ∂ x 1 ∂ ∂ x 2 ∂ f ∂ x 1 ⋯ ∂ ∂ x n ∂ f ∂ x 1 ∂ ∂ x 1 ∂ f ∂ x 2 ∂ ∂ x 2 ∂ f ∂ x 2 ⋯ ∂ ∂ x n ∂ f ∂ x 2 ⋮ ⋮ ⋱ ⋮ ∂ ∂ x 1 ∂ f ∂ x n ∂ ∂ x 2 ∂ f ∂ x n ⋯ ∂ ∂ x n ∂ f ∂ x n ] H(x)=\nabla^2f(x)=[∂∂x1∂f∂x1∂∂x2∂f∂x1⋯∂∂xn∂f∂x1∂∂x1∂f∂x2∂∂x2∂f∂x2⋯∂∂xn∂f∂x2⋮⋮⋱⋮∂∂x1∂f∂xn∂∂x2∂f∂xn⋯∂∂xn∂f∂xn]

  H(x)=∇2f(x)= ​∂x1​∂​∂x1​∂f​∂x1​∂​∂x2​∂f​⋮∂x1​∂​∂xn​∂f​​∂x2​∂​∂x1​∂f​∂x2​∂​∂x2​∂f​⋮∂x2​∂​∂xn​∂f​​⋯⋯⋱⋯​∂xn​∂​∂x1​∂f​∂xn​∂​∂x2​∂f​⋮∂xn​∂​∂xn​∂f​​ ​

• 即 $H(x)$ 为方阵
  [ ∂ 2 f ∂ x 1 2 ∂ 3 f ∂ x 1 ∂ x 2 ⋯ ∂ 2 f ∂ x 1 ∂ x n ∂ x 1 2 ∂ x 2 ∂ x 1 ∂ 3 f ∂ x 2 2 ⋯ ∂ 2 f ∂ x 2 ∂ x n ⋮ ⋮ ⋱ ⋮ ∂ 3 f ∂ x n ∂ x 1 ∂ 2 f ∂ x n ∂ x 2 ⋯ ∂ 2 f ∂ x n 2 ] [∂2f∂x21∂3f∂x1∂x2⋯∂2f∂x1∂xn∂x21∂x2∂x1∂3f∂x22⋯∂2f∂x2∂xn⋮⋮⋱⋮∂3f∂xn∂x1∂2f∂xn∂x2⋯∂2f∂x2n]

  ​∂x12​∂2f​∂x2​∂x1​∂x12​​⋮∂xn​∂x1​∂3f​​∂x1​∂x2​∂3f​∂x22​∂3f​⋮∂xn​∂x2​∂2f​​⋯⋯⋱⋯​∂x1​∂xn​∂2f​∂x2​∂xn​∂2f​⋮∂xn2​∂2f​​ ​

• 黑塞矩阵的对称性
  $${\mathbf{H}}_{ij}=\frac{\partial }{\partial x_j}\frac{\partial f}{\partial x_i}=\frac{\partial }{\partial x_i}\frac{\partial f}{\partial x_j}={\mathbf{H}}_{ji}$$

求函数 $f(x,y)=-x^2-4y^2+3x+9y-3xy$ 的黑塞矩阵

• $$\nabla f(x,y)=\left[\begin{array}{c}\frac{\partial f}{\partial x}\\ \frac{\partial f}{\partial y}\end{array}\right]=\left[\begin{array}{c}-2x+3-3y\\ -8y+9-3x\end{array}\right]$$
• $$H(x)={\nabla }^{2}f(x)=\left[\begin{array}{cc}\frac{\partial }{\partial x}\frac{\partial f}{\partial x}& \frac{\partial }{\partial y}\frac{\partial f}{\partial x}\\ \frac{\partial }{\partial x}\frac{\partial f}{\partial y}& \frac{\partial }{\partial y}\frac{\partial f}{\partial y}\end{array}\right]=\left[\begin{array}{cc}\frac{\partial (-2x+3-3y)}{\partial x}& \frac{\partial (-2x+3-3y)}{\partial y}\\ \frac{\partial (-8y+9-3x)}{\partial x}& \frac{\partial (-8y+9-3x)}{\partial y}\end{array}\right]=\left[\begin{array}{cc}-2& -3\\ -3& -8\end{array}\right]$$

2. 点云配准原理

2.1 点云配准需求场景

随着计算机辅助设计技术的发展，通过实物模型产生数字模型的逆向工程技术获得了越来越广泛的应用，与此同时，硬件设备的日趋完善也为数字模型操作提供了足够的技术支持

• 由于三维扫描仪设备受到测量方式和被测物体形状的条件限制，一次扫描往往只能获取到局部的点云信息，进而需要进行多次扫描，然后每次扫描时得到的点云都有独立的坐标系，不可以直接进行拼接。在逆向工程、计算机视觉、文物数字化等领域中，由于点云的不完整、旋转错位、平移错位等，使得要得到完整点云就需要对多个局部点云进行配准。为了得到被测物体的完整数据模型,需要确定一个合适的坐标变换 ，将从各个视角得到的点集合并到一个统一的坐标系下形成一个完整的数据点云，然后就可以方便地进行可视化等操作，这就是点云数据的配准

2.2 点云配准方法

点云配准步骤上可以分为粗配准（Coarse Registration）和精配准（Fine Registration）两个阶段

• 粗配准是指在点云相对位姿完全未知的情况下对点云进行配准，找到一个可以让两块点云相对近似的旋转平移变换矩阵，进而将待配准点云数据转换到统一的坐标系内，可以为精配准提供良好的初始值。常见粗配准算法
  • 基于特征匹配(PFH)的配准算法
    • SAC-IA 采样一致性初始配准算法（Sample - Consensus Initial Alignment）PCL库已实现，基于FPFH
  • 基于穷举搜索的配准算法
    • 4PCS 四点一致集配准算法（4-Point Congruent Set）
    • Super4PCS
• 精配准是指在粗配准的基础上，让点云之间的空间位置差异最小化，得到一个更加精准的旋转平移变换矩阵。该算法的运行速度以及向全局最优化的收敛性却在很大程度上依赖于给定的初始变换估计以及在迭代过程中对应关系的确立。所以需要各种粗配准技术为ICP算法提供较好的位置，在迭代过程中确立正确对应点集能避免迭代陷入局部极值，决定了算法的收敛速度和最终的配准精度。最常见的精配准算法是ICP及其变种。
  • ICP 迭代最近点算法（Iterative Cloest Point）
    • GICP
    • NICP
    • MBICP
  • NDT 正态分布变换算法（Normal Distributions Transform）

其他配准

• 依赖平台设备：将被测物体放在平台上，利用控制器对平台进行控制，使之按照指定角度转动，通过多次测量可以得到不同视角下的点云，由于提前获知了距离及角度信息，则可以直接对所有点云进行配准
• 辅助标志点：通过在被测物体表面粘贴标签，将这些标签作为标志点，对多次测量得到的点云数据进行配准时，对这些有显著特征的标签进行识别配准，代替了对整体点云的配准，提高效率，精确度