深度学习从线性代数到大模型 LoRA 微调,手撕 SVD 与 PCA 底层逻辑(深度学习六的详解)

张开发
2026/4/16 14:16:28 15 分钟阅读

分享文章

深度学习从线性代数到大模型 LoRA 微调,手撕 SVD 与 PCA 底层逻辑(深度学习六的详解)
1、 空间变换的基石:转置与正交矩阵在进入复杂的特征提取之前,我们需要先掌握两个最基础的矩阵工具。1.1 矩阵转置(Transpose):视角的翻转转置(用⊤\top⊤表示)的本质是**“把行变成列,把列变成行”**。想象一个记录学生成绩的 Excel 表格(行是学生,列是科目)。转置就是把表格大翻转,变成按科目排“行”,按学生排“列”。在数学坐标上,它等价于沿着矩阵从左上到右下的对角线,把数字像翻书一样对调(即Wj,i⊤=Wi,j\mathbf{W}^\top_{j,i} = \mathbf{W}_{i,j}

更多文章