深入浅出主成分分析（PCA）：从原理到推导的完全指南
从降维与信息保留问题出发，推导 PCA 的目标函数、协方差矩阵和特征值分解，解释主成分如何概括高维数据结构。
最优化理论
从二分类到多分类：Logistic回归、梯度下降与交叉熵损失的深度剖析
从二分类扩展到多分类，推导 Logistic 回归、Softmax、交叉熵损失与梯度下降的联系，适合打通分类模型的训练逻辑。
深入理解监督学习的概率视角：从噪声、建模到MLE与MAP
从噪声和不确定性切入，系统推导监督学习中的概率建模、最大似然估计、最大后验估计与正则化之间的关系。
最优化理论基础：常见优化问题凸性判定举例
通过具体的例子探讨如何判定常见优化问题中的函数是否为凸函数。凸性是优化领域中的一个关键概念，尤其是在凸优化问题中，凸性确保了局部最优解即为全局最优解。理解如何识别一个函数是否为凸函数对于有效地求解实际问题至关重要。
最优化理论基础：判定凸函数
了解如何识别凸函数对于解决实际问题至关重要，凸函数是优化理论和应用中的核心概念之一，它们具有许多优良的性质，特别是对于凸优化问题来说，找到局部最优解就等同于找到了全局最优解。
最优化理论基础：矩阵求导
向量和矩阵求导在机器学习、图像处理、最优化等领域的公式推导中经常用到。比如多元线性回归中损失函数是一个标量，每个输入都有多个属性，计算权重权重时就需要用到标量对向量的求导。此外，在计算神经网络梯度时，相比于求解参数矩阵里的单独每一个元素的梯度，使用向量和矩阵求导能极大增加效率。
最优化理论：优化问题、凸集和凸函数
机器学习的问题一般都可以归结为是优化问题，而优化问题中最重要的一部分就是凸优化问题。凸集保证了在算法运行过程中，计算的点不会跑到定义域外面去；而凸函数保证了局部最优解就是全局最优解...