深入浅出主成分分析（PCA）：从原理到推导的完全指南
从维度灾难出发，系统推导 PCA 的目标函数、协方差矩阵与特征值分解，解释主成分如何保留高维数据的主要信息。
最新文章
告别循环，拥抱并行：一步步构建你自己的Transformer
从 RNN 的信息瓶颈出发，逐步构建自注意力、多头注意力、位置编码与掩码机制，理解 Transformer 的并行建模思想。
序列之思：从零推导循环神经网络与注意力机制
从序列数据的建模需求出发，推导 RNN、Encoder-Decoder 与注意力机制，理解 Query、Key、Value 背后的核心逻辑。
从二分类到多分类：Logistic回归、梯度下降与交叉熵损失的深度剖析
系统梳理二分类与多分类建模，推导 Logistic 回归、Softmax、交叉熵损失和梯度下降之间的关系。
从潜在变量到概率预测：深入理解逻辑斯蒂与Softmax函数
本文深入解析了监督学习中分类问题的核心。它从潜在连续变量和决策边界的角度出发，详尽地推导了 Logistic 函数的多种来源（基于误差分布、生成式模型和启发式方法），最终自然地拓展到处理多分类问题的 Softmax 函数。文章旨在帮助读者透彻理解这些关键概率模型背后的数学原理和直观意义。
深入理解监督学习的概率视角：从噪声、建模到MLE与MAP
本文深入探讨了监督学习中概率模型的构建，从数据中的不确定性出发，分层解析了如何通过模型近似真实映射并量化噪声。通过对最大似然估计（MLE）和最大后验估计（MAP）的详细推导与对比，揭示了参数估计背后的统计学原理及其在优化问题中的应用。
最优化理论基础：常见优化问题凸性判定举例
通过具体的例子探讨如何判定常见优化问题中的函数是否为凸函数。凸性是优化领域中的一个关键概念，尤其是在凸优化问题中，凸性确保了局部最优解即为全局最优解。理解如何识别一个函数是否为凸函数对于有效地求解实际问题至关重要。
最优化理论基础：判定凸函数
了解如何识别凸函数对于解决实际问题至关重要，凸函数是优化理论和应用中的核心概念之一，它们具有许多优良的性质，特别是对于凸优化问题来说，找到局部最优解就等同于找到了全局最优解。