我的知识记录 | digSelf
digSelf

系列:机器学习基础与深度学习

适合系统补机器学习与深度学习基础的读者;建议具备 Python、矩阵运算和概率分布直觉;推荐先读 Pandas/NumPy,再读概率建模、线性模型、Logistic/Softmax,最后进入神经网络、CNN、RNN、Transformer 与 PCA。

#系列:最优化理论基础 5 #系列:工具环境与桌面开发 2 #系列:C/C++ 逆向分析 9 #系列:数据结构与算法 7 #系列:机器学习基础与深度学习 16 #数据科学 1 #最小化重建误差 1 #降维 1 #PCA 1 #主成分分析 1 #掩码自注意力 1 #位置编码 1 #多头注意力 1 #自注意力 1 #Transformer 1 #序列到序列 1 #注意力 1 #编码器-解码器 1 #循环神经网络 1 #自动微分 1 #互相关与卷积 1 #平移不变性 1 #归纳偏置 1 #计算机视觉 1 #CNN原理 1 #卷积神经网络 1 #误差信号 1 #深度学习 4 #反向传播 1 #前向传播 1 #激活函数 1 #多项分布 1 #多分类 1 #二分类 1 #优化算法 1 #梯度下降 2 #Sigmoid 1 #决策边界 1 #Softmax 1 #分类问题 1 #最小二乘法 1 #正则化 1 #噪声建模 1 #概率模型 2 #监督学习 1 #最大后验估计 1 #最大似然估计 1 #矩阵求导 1 #正态分布 1 #高斯分布 1 #虚函数 1 #B树 1 #数据结构 2 #红黑树 1 #单隐层前馈神经网络 1 #前馈神经网络 1 #神经元模型 1 #神经网络 3 #对数几率回归 2 #逻辑斯蒂回归 4 #线性回归 1 #线性模型 1 #过滤数据 1 #虚机制 1 #数据聚合 1 #Tab Control 1 #切片 1 #List Control 1 #MFC 1 #DataFrame 1 #Series 1 #pandas 1 #统计学指标 1 #基本数据类型 1 #Python 5 #NumPy 4 #内存 1 #表现形式 1 #main函数 1 #数据类型 1 #Jupyter Notebook 1 #VS Code 1 #anaconda3 1 #远程连接 1 #前缀和 1 #Jupyter 1 #do...while 1 #while 1 #for 1 #循环结构 1 #if...else 1 #条件转移 1 #分支结构 1 #选择结构 1 #区间合并 1 #离散化 1 #位运算 1 #双指针 1 #差分 1 #浮点数二分 1 #排序 1 #整数二分 1 #归并排序 1 #二分 1 #switch 1 #快速选择 1 #快速排序 2 #switch-case 1 #编译器优化 1 #表达式优化 1 #半正定矩阵 1 #凸函数 3 #凸集 1 #凸优化 6 #优化 6 #KKT条件 1 #弱对偶性 1 #互补松弛条件 1 #对偶 1 #拉格朗日对偶 1 #强对偶性 1 #大整数乘法 1 #机器学习 15 #逆向 6 #C++逆向 8 #除法优化 2 #大整数除法 1 #C++大整数运算 1 #大整数减法 1 #基础算法 5 #大整数加法 1 #大整数运算 1
深入浅出主成分分析(PCA):从原理到推导的完全指南

深入浅出主成分分析(PCA):从原理到推导的完全指南

从降维与信息保留问题出发,推导 PCA 的目标函数、协方差矩阵和特征值分解,解释主成分如何概括高维数据结构。
5571
2025-07-16
告别循环,拥抱并行:一步步构建你自己的Transformer

告别循环,拥抱并行:一步步构建你自己的Transformer

从 RNN 的串行瓶颈出发,逐步构建自注意力、多头注意力、位置编码和掩码机制,理解 Transformer 的并行建模思想。
220
2025-07-13
序列之思:从零推导循环神经网络与注意力机制

序列之思:从零推导循环神经网络与注意力机制

面向序列建模问题,推导 RNN、Encoder-Decoder 与注意力机制,解释 Query、Key、Value 如何缓解长序列信息瓶颈。
297
2025-06-18
深度解析卷积神经网络(CNN):从像素到模型的完整指南

深度解析卷积神经网络(CNN):从像素到模型的完整指南

从图像数据的局部结构出发,拆解卷积、填充、步长、池化、激活函数和反向传播,理解 CNN 如何从像素中学习特征。
444
2025-06-15
从生物神经元到智能学习:深度解析神经网络的原理与反向传播

从生物神经元到智能学习:深度解析神经网络的原理与反向传播

从生物神经元抽象出发,系统解释前向传播、激活函数、误差信号和反向传播,建立理解深度学习训练过程的核心框架。
863
2025-06-10
从二分类到多分类:Logistic回归、梯度下降与交叉熵损失的深度剖析

从二分类到多分类:Logistic回归、梯度下降与交叉熵损失的深度剖析

从二分类扩展到多分类,推导 Logistic 回归、Softmax、交叉熵损失与梯度下降的联系,适合打通分类模型的训练逻辑。
从潜在变量到概率预测:深入理解逻辑斯蒂与Softmax函数

从潜在变量到概率预测:深入理解逻辑斯蒂与Softmax函数

围绕分类问题的概率输出,解释 Logistic、Sigmoid 与 Softmax 的来源、决策边界和建模意义,连接二分类与多分类模型。
437
2025-06-04
深入理解监督学习的概率视角:从噪声、建模到MLE与MAP

深入理解监督学习的概率视角:从噪声、建模到MLE与MAP

从噪声和不确定性切入,系统推导监督学习中的概率建模、最大似然估计、最大后验估计与正则化之间的关系。
概率论:高斯分布的由来

概率论:高斯分布的由来

从概率建模的需求出发,解释高斯分布的直觉来源与数学形式,帮助理解正态分布为什么频繁出现在机器学习与统计推断中。
438
2024-08-10
机器学习:单隐层前馈神经网络

机器学习:单隐层前馈神经网络

介绍单隐层前馈神经网络的结构、神经元模型、激活函数和训练思路,帮助从线性模型过渡到非线性表示学习。
4319
2022-02-22