我的知识记录

digSelf

最新文章

最优化理论基础:矩阵求导

最优化理论基础:矩阵求导

向量和矩阵求导在机器学习、图像处理、最优化等领域的公式推导中经常用到。比如多元线性回归中损失函数是一个标量,每个输入都有多个属性,计算权重权重时就需要用到标量对向量的求导。此外,在计算神经网络梯度时,相比于求解参数矩阵里的单独每一个元素的梯度,使用向量和矩阵求导能极大增加效率。
113
0
2024-08-11
概率论:高斯分布的由来

概率论:高斯分布的由来

最大熵原理视角下的概率密度函数 最大熵原理 最大熵原理(Maximum Entropy Principle, 以下简称MEP): 在给定约束条件下,一个随机变量的概率分布应该使得熵达到最大值。或者说,满足给定约束条件的所有概率分布中,熵最大的概率分布是最能代表当前系统的概率分布。——来自
177
0
2024-08-10
高级数据结构:B树的拆解与实现

高级数据结构:B树的拆解与实现

为什么需要多叉树?二叉树存在的问题现有的计算机一般都会有经典的三级存储:CPU、内存和磁盘。其中,CPU中的缓存访问速度最快,内存次之,磁盘最慢。假设二叉树中的每个节点存储的是磁盘页的话,那么每次查找到二叉树中的一个节点时,都会产生一次磁盘寻址。而一旦数据量很大时,这棵二叉树的高度也会随之增大,从而增加了访问节点时的磁盘寻址次数,这是非常耗时的,这就产生了一个降低树层高的数据结构的需求以加速查找效率...
4196
0
2022-08-17
高级数据结构:红黑树的拆解与实现

高级数据结构:红黑树的拆解与实现

红黑树的定义通俗理解,红黑树是一棵添加了额外限制的二叉排序树。它的本质还是一棵二叉排序树,只是添加了一些其他的规则,以使得它可以做到自平衡。
3045
0
2022-07-24
机器学习:单隐层前馈神经网络

机器学习:单隐层前馈神经网络

由多个简单单元并行互连所构成的网络,这些基础单元被称为神经元,这个网络称为神经网络。神经网络被用来模拟生物对于外界刺激的真实反应。神经元模型可以有若干个输入和一个输出,当输入的电信号足够强时,神经元会被激活...
4101
0
2022-02-22
机器学习:线性模型

机器学习:线性模型

线性模型指的是假设可以通过属性空间中的各个属性的线性组合所得到的预测函数对新样本进行预测,即对给定的新样本作为输入,用使用预测函数所得到的输出值作为新样本的真实值的预测...
2600
1
2022-02-19
C++逆向:浅谈C++的虚函数机制

C++逆向:浅谈C++的虚函数机制

虚函数是cpp中的一个重要的知识点,比较晦涩难懂。本文对cpp中的虚机制进行了简要的剖析,利用简单的代码示例,逐一对虚指针、虚表结构、虚指针的填充时机及虚函数的调用进行了分析...
3001
0
2022-01-29
MFC控件的使用:List Control和Tab Control

MFC控件的使用:List Control和Tab Control

MFC中表单控件和Tab控件的初始化和简单使用,并配备模板化代码方便下次使用。
MFC
2751
0
2022-01-25
机器学习基础:背景介绍与pandas对象的创建

机器学习基础:背景介绍与pandas对象的创建

由于许多机器学习框架都是用Python编写的,因此使用一个基于Python的数据分析框架是十分必要的,Pandas就是一款基于Python的数据分析框架,因此我们需要学会并掌握它...
2603
0
2021-11-01
机器学习基础:对NumPy数组进行数据处理操作

机器学习基础:对NumPy数组进行数据处理操作

在将目标数据加载到NumPy数组中后,就需要进行一系列的数组处理操作,包括:对NumPy数组的访问、切片、过滤、计算数据的统计学指标、数据间的聚合和组合以及对计算后的结果保存和再加载的操作,本篇博文就对上述常用操作进行了阐述...
3021
0
2021-10-31