百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

傻傻分不清楚的点积与矩阵乘法 Part1

itomcoil 2025-01-10 14:18 9 浏览

作者:Minkyung Kang

译者:知源觅流

原文链接:https://github.com/mkang32/python-basics/blob/master/numpy/dot_vs_multiply_vs_matmul_vs_at.ipynb

写在前面的话

当我第一次从头实现梯度下降(gradient descent)时,我对在点积(dot product)和矩阵乘法(matrix multiplications)中使用哪种方法感到非常困惑 :是用np.multiplynp.dot还是np.matmul呢?我应该将权重数组(weight array)保留为1D数组还是2D数组?我应该将其保留为行向量还是列向量?因此,我决定调查所有的选择,并提出最佳的方法。

在这个笔记中,我将回顾点积和矩阵乘法是什么,并比较Python和NumPy中的5个不同选项(*np.multiplynp.dotnp.matmul@),以了解它们之间的差异。

目录

1.什么是点积?

2.什么是矩阵乘法?

3.NumPy 数组提供哪些功能?
(1) 逐元素乘法:* 和 sum

(2) 逐元素乘法:np.multiply 和 sum

(3) 点积:np.dot

(4) 矩阵乘法:np.matmul

(5) 矩阵乘法:@

4.np.not 和 np.matmul (@) 有什么区别?

5.总结

6.参考文献

1. 什么是点积?

点积是一种代数运算(algebraic operation),它取两个相同大小的向量,并返回一个数字。

代数定义

点积是两个数列中对应项的乘积之和(The dot product is the sum of the products of the corresponding entries of the two sequences of numbers.)。参见Wikipedia(https://en.wikipedia.org/wiki/Dot_product)。


如果 ab 是行矩阵(row matrices),则点积可以写成矩阵积(matrix product)。

例如,如果 , 那么它们的点积是

几何定义

在几何上,点积是两个向量的欧几里得幅度和两者之间夹角的余弦的乘积。 从几何角度来说,点积是两个向量的欧几里得模的乘积和两个向量之间的夹角的余弦的乘积(Geometrically, the dot product is the product of the Euclidean magnitudes of two vectors and the cosine of the angle between two. )。参见Wikipedia (https://en.wikipedia.org/wiki/Dot_product)。

请注意,它是基于一个向量在另一个向量方向上的投影的大小。例如,在下图中,AB 方向上的分量是 ∣A∣cosθ。这里,如果 A=(x,y) 并且起始点是原点,则 A 的大小可以由∣ 计算。

(图片来源:https://en.wikipedia.org/wiki/Dot_product)

还要注意,如果两个向量在同一个方向上,,那么它就简单地变成了两个向量大小的乘积:。另一方面,如果两个向量垂直,,则整个点积变为0。

真实世界的例子

那么点积对我们来说到底意味着什么呢?我们如何在现实生活中使用它? 想象一下你在一家杂货店。你想买一个苹果,两个桔子和三个香蕉。单价分别为$1、$2和$0.5。

(图片来源:https://www.thestar.com/life/food_wine/2013/11/04/apples_oranges_or_bananas_which_fruit_is_nutritionally_the_best.html)

您可以定义项目数量向量(a)和单价向量(b)。


总成本将是两个向量量的点积:





荟萃知识,滋养你我。

相关推荐

tesseract-ocr 实现图片识别功能

最近因为项目需要,接触了一下关于图像识别的相关内容,例如Tesseract。具体如何安装、设置在此不再赘述。根据项目要求,我们需要从省平台获取实时雨水情况数据,原以为获取这样的公开数据比较简单,上去一...

跨平台Windows和Linux(银河麒麟)操作系统OCR识别应用

1运行效果在银河麒麟桌面操作系统V10(SP1)上运行OCR识别效果如下图:2在Linux上安装TesseractOCR引擎2.1下载tesseract-ocr和leptonicahttps:...

JAVA程序员自救之路——SpringAI文档解析tika

ApacheTika起源于2007年3月,最初是ApacheLucene项目的子项目,于2010年5月成为Apache组织的顶级项目。它利用现有的解析类库,能够侦测和提取多种不同格式文档中的元数据...

Python印刷体文字识别教程

在Python中实现印刷体文字识别(OCR),通常使用TesseractOCR引擎结合Python库。以下是详细步骤和示例:1.安装依赖库bashpipinstallpytesseractp...

图片转文字--四种OCR工具的安装和使用

本文仅测试简单的安装和使用,下一步应该是测试不同数据集下的检测准确率和检测效率,敬请期待。作者的系统环境是:笔记本:ThindPadP520OS:win11显卡:QuadroP520一、EasyO...

mac 安装tesseract、pytesseract以及简单使用

一.tesseract-OCR的介绍1.tesseract-OCR是一个开源的OCR引擎,能识别100多种语言,专门用于对图片文字进行识别,并获取文本。但是它的缺点是对手写的识别能力比较差。2.用te...

【Python深度学习系列】Win10下CUDA+cuDNN+Tensorflow安装与配置

这是我的第292篇原创文章。一、前置知识安装GPU版本的pytorch和tensorflow之前需要理清楚这几个关系:显卡(电脑进行数模信号转换的设备,有的电脑可能是双显卡,一个是inter的集成显卡...

手把手教你本地部署AI绘图Stable Diffusion!成功率100%!

导语:无需每月付费订阅,无需高性能服务器!只需一台普通电脑,即可免费部署爆火的AI绘图工具StableDiffusion。本文提供“极速安装包”和“手动配置”双方案,从环境搭建到模型调试,手把手教你...

本地AI Agent Hello World(Python版): Ollama + LangChain 快速上手指南

概要本文将用最简洁的Python示例(后续还会推出Java版本),带你逐步完成本地大模型Agent的“HelloWorld”:1、介绍核心工具组件:Ollama、LangChain和...

python解释器管理工具pyenv使用说明

简介pyenv可以对python解释器进行管理,可以安装不同版本的python,管理,切换不同版本很方便,配置安装上比anaconda方便。pyenv主要用来对Python解释器进行管理,可以...

Deepseek实战:企业别只会用Ollama,也可以用SGLang

SGLang:企业级的“性能之王”优点吞吐量碾压级优势通过零开销批处理调度器、缓存感知负载均衡器等核心技术,SGLang的吞吐量提升显著。例如,在处理共享前缀的批量请求时,其吞吐量可达158,59...

用LLaMA-Factory对Deepseek大模型进行微调-安装篇

前面的文章已经把知识库搭建好了,还通过代码的形式做完了RAG的实验。接下来呢,咱们要通过实际操作来完成Deepseek的另一种优化办法——微调。一、环境因为我这台电脑性能不太好,所以就在Au...

碎片时间学Python-03包管理器

一、pip(Python官方包管理器)1.基础命令操作命令安装包pipinstallpackage安装特定版本pipinstallnumpy==1.24.0升级包pipinstall-...

ubuntu22/24中利用国内源部署大模型(如何快速安装必备软件)

本地AI部署的基础环境,一般会用到docker,dockercompose,python环境,如果直接从官网下载,速度比较慢。特意记录一下ubuntu使用国内源快速来搭建基础平台。一,docke...

还不会deepseek部署到本地?这篇教程手把手教会你

一、为什么要把DeepSeek部署到本地?新手必看的前置知识近期很多读者在后台询问AI工具本地部署的问题,今天以国产优质模型DeepSeek为例,手把手教你实现本地化部署。本地部署有三大优势:数据隐私...