- VisualStudio2022插件的安装及使用-编程手把手系列文章
- pprof-在现网场景怎么用
- C#实现的下拉多选框,下拉多选树,多级节点
- 【学习笔记】基础数据结构:猫树
机器学习与传统编程的一个重要区别在于机器学习比传统编程涉及了更多的数学知识。 不过,随着机器学习的飞速发展,各种框架应运而生,在数据分析等应用中使用机器学习时,使用现成的库和框架成为常态,似乎越来越不需要数学知识了.
其实,现成的库和框架只是帮助我们简化机器学习的开发任务, 如果想要对模型训练结果进行调整和优化,对训练数据进行变换和过滤的话,了解相关的基础数学必能让我们事倍功半.
机器学习的模型看似一堆天书般的符号和公式,其实本质并没有那么复杂,也许大部分人只是因为没有耐心去理解其中的数学符号而放弃。 我觉得对线性代数有最基本的了解就能看懂其中大部分的公式.
本文尽量用简单的方式介绍机器学习中两个最基本的结构(向量和矩阵),以及它们的基本运算规则.
机器学习面对的训练数据,几乎没有只有单一属性的(也就是数据只包含一个数值或者一个字符串), 而是每个数据都包含多种属性,比如气象数据(包含温度,湿度,风向等等),金融数据(开盘价,收盘价,交易量等等),销售数据(价格,库存量,卖出数量等等).
为了表示这个多属性的数据,或者称为多维度的数据,向量最为合适。 向量就是有几个数字横向或者纵向排列而成,每个数字代表一个属性。 向量类似编程语言中的一维数组,numpy中也是这么保存的.
向量可以用行或者列的形式表示, 比如:\(\begin{bmatrix}1,2,3\end{bmatrix}\)或者\(\begin{bmatrix} 1 \\ 2 \\ 3 \end{bmatrix}\)。 向量用行还是列来表示,主要取决于后续进行怎样的计算,本质区别不大。 向量的转置操作就是用来对行向量和列向量进行互相转换的.
向量之间进行加减操作时,向量的长度必须一样,并且必须同为行向量或同为列向量。 简单来说,向量之间的加减法就是对应位置的元素之间的加减法.
向量有两种积运算,一种是向量和数值之间的积运算,也称为标量积; 另一种是向量和向量之间的积运算,也称为内积.
标量积运算之后,向量还是向量,向量中的每个元素分别乘以标量.
内积运算之后,向量变成一个数值(也就是标量): 计算规则就是向量对应位置的数值相乘,最后将每个位置的计算结果相加.
向量还有一个模运算,模运算是一种对向量量化的方式,它把向量转换为一个数值, 从而可以方便的比较不同向量的大小。 模运算的运算符号是两个竖线:\(||x||\),运算规则相当于是先计算向量与自己的内积,然后开平方.
矩阵可以看作是相同长度的行向量或者列向量的集合。 它类似编程语言中的二维数组.
矩阵的结构如下,其中的数据按照矩形阵列的结构排列,这也是矩阵这个名称的由来。 这是一个3x4的矩阵,也就是3行4列的矩阵。 注意,矩阵的行列数量不一定要一样,当行列数量一样时,矩阵也被称为方阵.
和向量类似,矩阵也可以转置,矩阵的转置也是行列互换:
和向量类似,矩阵的加减法也是对应位置的元素进行加减运算, 这就要求参与加减运算的两个矩阵必须有相同的行数量和列数量。 矩阵减法运算类似.
行或列数量不一样的矩阵是无法进行加减运算的.
矩阵的积运算也分为标量积和内积。 标量积的计算与向量类似,矩阵的每个元素都乘以标量.
内积运算略微复杂一些,对参与运算的矩阵也有要求,需要第一个矩阵的列数量等于第二个矩阵的行数量。 即:矩阵\(A\)和\(B\)能够进行内积运算的话,\(A\)和\(B\)分别为\(M\times N\)和\(N\times K\)的矩阵, 它们的内积是一个\(M\times K\)矩阵。比如:
矩阵中有一种极其重要的特殊矩阵,被称为单位矩阵。 单位矩阵首先是一个方阵,并且除了对角线上的元素为1之外,其他元素都是0。比如: 单位矩阵虽然简单,作用却不小,在矩阵分解和做高斯消元等运算时有重要的作用.
如果对于矩阵\(A\),存在一个矩阵\(B\),使得\(AB=I\),其中\(I\)是单位矩阵。 那么,\(B\)就是\(A\)的逆矩阵,同时\(A\)也是\(B\)的逆矩阵,\(B\)一般表示为\(A^{-1}\)。 也就是:\(AA^{-1}=A^{-1}A=I\) 。
向量和矩阵是机器学习中使用最多的两种结构,比如:
仔细观察机器学习模型中涉及的各种公式,大部分都是一些向量和矩阵的运算,包括加减,标量积和内积等等。 之所以觉得困难,是因为我平时生活中用的计算几乎都是标量运算,对于向量和矩阵的运算不熟悉, 再加上对各种数学符号不熟悉,混在一起的时候就觉得像天书一样.
其实,向量可以当成是一种特殊的矩阵,我们可以把行向量看成是\(1\times N\)的矩阵; 把列向量看成是\(N\times 1\)的矩阵.
最后,给大家留下一个小小的问题, 请问:向量和矩阵的运算有加减法和乘法的运算,却没有除法相关运算,为什么?
最后此篇关于机器学习的数学基础--向量,矩阵的文章就讲到这里了,如果你想了解更多关于机器学习的数学基础--向量,矩阵的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
简介 在上一篇文章《机器学习:神经网络构建(上)》中讨论了线性层、激活函数以及损失函数层的构建方式,本节中将进一步讨论网络构建方式,并完整的搭建一个简单的分类器网络。 目录 网络Netwo
简介 在本篇文章中,我们采用逻辑回归作为案例,探索神经网络的构建方式。文章详细阐述了神经网络中层结构的实现过程,并提供了线性层、激活函数以及损失函数的定义(实现方法)。 目录 背景介绍
简介 在前两篇文章中,我们详细探讨了如何利用采样数据来估计回归曲线。接下来,在本节中,我们将深入讨论如何处理分类问题。 章节安排 背景介绍 数学方法 程序实现 背景介绍 线
简介 在上一篇文章《机器学习:线性回归(上)》中讨论了二维数据下的线性回归及求解方法,本节中我们将进一步的将其推广至高维情形。 章节安排 背景介绍 最小二乘法 梯度下降法 程序
PyCaret是一个开源、低代码Python机器学习库,能够自动化机器学习工作流程。它是一个端到端的机器学习和模型管理工具,极大地加快了实验周期,提高了工作效率。PyCaret本质上是围绕几个机器学习
在我的研究进展中,我现在已经将寄生虫从图像中分离出来。寄生虫看起来像蠕虫。我希望 MATLAB 读取所有输入图像,查找类似深紫色图像的蠕虫,如果检测到,则给出检测到的答复。我尝试使用直方图比较,但我认
目前我正在尝试了解机器学习算法的工作方式,但我没有真正了解的一件事是预测标签的计算准确度与视觉混淆矩阵之间的明显差异。我会尽量解释清楚。 这是数据集的片段(这里你可以看到 9 个样本(在真实数据集中大
第一章 绪论 机器学习 : 致力于研究如何通过计算的手段,利用经验来改善系统自身的性能。在计算机系统中, “经验” 通常以“数据“形式存在,因此,机器学习所研究的主要内容,是关于在计算
1. 算法原理(K-Nearest Neighbor) 本质是通过距离判断两个样本是否相似,如果距离够近就认为他们足够相似属于同一类别 找到离其最近的 k 个样本,并将这些样本称
前言 K-means是一种经典的无监督学习算法,用于对数据进行聚类。K-means算法将数据集视为具有n个特征的n维空间,并尝试通过最小化簇内平方误差的总和来将数据点划分为簇。本文将介绍K-m
目录 前言 介绍LightGBM LightGBM的背景和起源 L
前言 可以说掌握了机器学习,你就具备了与机器对话,充分利用机器为人类服务的能力。在人工智能时代,这将成为一项必备技能,就好比十年前你是编程大牛,二十年前你英语超好一样。因此,无论你是什么专业的
几个贯穿始终的概念 当我们把人类学习简单事物的过程抽象为几个阶段,再将这些阶段通过不同的方法具体化为代码,依靠通过计算机的基础能力-- 计算 。我们就可以让机器能够“学会”一些简单的事物。
1、选题背景 人脸识别技术是模式识别和计算机视觉领域最富挑战性的研究课题之一,也是近年来的研究热点,人脸性别识别作为人脸识别技术
每当我们在公有云或者私有云发布训练好的大数据模型,为了方便大家辨识、理解和运用,参照huggingface所制定的标准制作一个Model Card展示页,是种非常好的模型展示和组织形式。 下面就是一
2. 支持向量机 对偶优化 拉格朗日乘数法可用于解决带条件优化问题,其基本形式为: \[\begin{gather} \min_w f(w),\\ \mathrm{s.t.} \quad
我正在尝试运行以下代码: https://github.com/opencv/opencv/blob/master/samples/dnn/classification.cpp 我在这里找到所有经过预
我是机器学习新手。当我使用 scikit-learn 模块中的波士顿数据集练习具有默认参数的决策树回归模型时。 在此链接解决方案( How to Build a Decision tree Regre
我有用于训练的数据。当我将其输入神经网络时,该数据出现 3% 的错误。 我知道这些数据有一定的过度代表性 - 例如,第 5 类的示例大约是其他类的十分之一。 我的作业指出,我可以通过偏置训练数据(即删
我在 Python 的多类分类中使用 SVM 时遇到问题。事实上,问题在于性别分类(来自图像),其中训练数据集仅包含“y=1”或“ y=-1”作为类标签(二进制)。但是,在预测中,如果是男性,我必须预
我是一名优秀的程序员,十分优秀!