首先介绍一下绕三个坐标轴旋转一定角度需要的矩阵，后面计算时要用到，这里设旋转角度为θ

三维坐标系下
绕z轴旋转θ的矩阵Rz(θ)
$$\left\{\begin{array}{cccc}cos\theta & -sin\theta & 0& 0\\ sin\theta & cos\theta & 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right\}$$
绕x轴旋转θ的矩阵Rx(θ)
$$\left\{\begin{array}{cccc}1& 0& 0& 0\\ 0& cos\theta & -sin\theta & 0\\ 0& sin\theta & cos\theta & 0\\ 0& 0& 0& 1\end{array}\right\}$$
绕y轴旋转θ的矩阵Ry(θ)
$$\left\{\begin{array}{cccc}cos\theta & 0& sin\theta & 0\\ 0& 1& 0& 0\\ -sin\theta & 0& cos\theta & 0\\ 0& 0& 0& 1\end{array}\right\}$$

绕任意轴旋转的计算的基本思想与二维平面下图像绕任意点旋转类似：

如下图，假设一图形绕P1P2所在的任意轴旋转角度θ，将任意轴经过一步步旋转、变换到旋转轴为z轴后再绕z轴进行旋转θ，最后再经矩阵逆变换到原来的位置。

步骤如下：

主要介绍Step1—>Step2—>Step3的内容包括：

1.求出P1P2直线的单位向量u(a,b,c),设P1（x1,y1,z1）P2（x2,y2,z2）直线为V轴：

2.设置转换矩阵，将P1P2移动到原点坐标处：

3.将u绕x轴旋转至xoz平面，效果如下图(a)：

由上面的关系可以求出sinα，cosα:

并将α带入直线绕x轴旋转矩阵Rx(θ)，得到旋转矩阵Rx(α):
$$\left\{\begin{array}{cccc}1& 0& 0& 0\\ 0& c/d& -b/d& 0\\ 0& b/d& c/d& 0\\ 0& 0& 0& 1\end{array}\right\}$$

4.将xoz平面的u命名为u’’,令其绕y轴旋转β至与z轴重合：

并求出此次旋转的sinβ、cosβ、矩阵Ry(β):

Ry(β):
$$\left\{\begin{array}{cccc}d& 0& -a& 0\\ 0& 1& 0& 0\\ a& 0& d& 0\\ 0& 0& 0& 1\end{array}\right\}$$

最后绕z轴旋转θ，矩阵如下：
$$\left\{\begin{array}{cccc}cos\theta & -sin\theta & 0& 0\\ sin\theta & cos\theta & 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right\}$$

整个过程的变换矩阵为：