矩阵求导的本质与分子布局、分母布局的本质

这篇具有很好参考价值的文章主要介绍了矩阵求导的本质与分子布局、分母布局的本质。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

大佬讲解的实在太吊了。
就拿大佬的总结说明一下:

矩阵求导结果,无非就是分子的转置、向量化,分母的转置、向量化,它们的各种组合而已。
1、分子布局的本质:分子是标量、列向量、矩阵向量化后的列向量;分母是标量、列向量转置后的行向量、矩阵的转置矩阵、矩阵向量化后的列向量转置后的行向量。
2、分母布局的本质:分子是标量、列向量转置后的行向量、矩阵向量化后的列向量转置后的行向量;分母是标量、列向量、矩阵自己、矩阵向量化后的列向量。
3.矩阵求导的本质就是每个f对变元中的每个元素逐个求导。

T代表的是转置

对分子布局公式的展开
∂ f 2 × 1 T ( x ) ∂ x 3 × 1 T = [ f 1 ( x ) f 2 ( x ) ] [ x 1 x 2 x 3 ] \frac{\partial f^{T}_{2\times1}(x)}{\partial x^{T}_{3\times1}}=\frac{\begin{bmatrix} f_1(x) \\ f_2(x) \end{bmatrix}}{\begin{bmatrix} x_1 \\ x_2 \\ x_3 \end{bmatrix}} x3×1Tf2×1T(x)= x1x2x3 [f1(x)f2(x)]
展开过后我们就可以按照上述总结的第三点逐个求偏导即可文章来源地址https://www.toymoban.com/news/detail-726489.html

到了这里,关于矩阵求导的本质与分子布局、分母布局的本质的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包赞助服务器费用

相关文章

  • 动手学深度学习——矩阵求导之矩阵的迹和微分

    动手学深度学习——矩阵求导之矩阵的迹和微分

    目录 一、矩阵的迹 1. 迹的定义 2. 迹的性质 二、微分与全微分 1. (全)微分的表达式 2. (全)微分的法则 三、 矩阵的微分 1. 矩阵微分的实质 2. 矩阵微分的意义 3. 矩阵微分的法则 4. 矩阵微分的常用公式 四、矩阵求导实例 1. 迹在微分中的应用 2. 利用微分求导 本篇博客总

    2024年02月05日
    浏览(14)
  • pytorch入门2--数据预处理、线性代数的矩阵实现、求导

    pytorch入门2--数据预处理、线性代数的矩阵实现、求导

    数据预处理是指将原始数据读取进来使得能用机器学习的方法进行处理。 首先介绍csv文件: CSV 代表逗号分隔值(comma-separated values),CSV 文件就是使用逗号分隔数据的文本文件。 一个 CSV 文件包含一行或多行数据,每一行数据代表一个记录。每个记录包含一个或多个数值,

    2024年02月04日
    浏览(14)
  • 线性代数-矩阵的本质

    线性代数-矩阵的本质

    2024年02月11日
    浏览(16)
  • 线性代数的本质(十一)——复数矩阵

    矩阵 A A A 的元素 a i j ∈ C a_{ij}inComplex a ij ​ ∈ C ,称为复矩阵。现将实数矩阵的一些概念推广到复数矩阵,相应的一些性质在复数矩阵同样适用。 定义 :设复矩阵 A = ( a i j ) m × n A=(a_{ij})_{mtimes n} A = ( a ij ​ ) m × n ​ 矩阵 A ˉ = ( a i j ‾ ) bar A=(overline{a_{ij}}) A ˉ = ( a i

    2024年02月03日
    浏览(15)
  • 线性代数本质系列(一)向量,线性组合,线性相关,矩阵

    线性代数本质系列(一)向量,线性组合,线性相关,矩阵

    本系列文章将从下面不同角度解析线性代数的本质,本文是本系列第一篇 向量究竟是什么? 向量的线性组合,基与线性相关 矩阵与线性相关 矩阵乘法与线性变换 三维空间中的线性变换 行列式 逆矩阵,列空间,秩与零空间 克莱姆法则 非方阵 点积与对偶性 叉积 以线性变换

    2024年02月04日
    浏览(18)
  • 线性代数本质系列(二)矩阵乘法与复合线性变换,行列式,三维空间线性变换

    线性代数本质系列(二)矩阵乘法与复合线性变换,行列式,三维空间线性变换

    本系列文章将从下面不同角度解析线性代数的本质,本文是本系列第二篇 向量究竟是什么? 向量的线性组合,基与线性相关 矩阵与线性相关 矩阵乘法与复合线性变换 三维空间中的线性变换 行列式 逆矩阵,列空间,秩与零空间 克莱姆法则 非方阵 点积与对偶性 叉积 以线性

    2024年02月02日
    浏览(15)
  • <3>【深度学习 × PyTorch】必会 线性代数 (含详细分析):点积 | 矩阵-向量积 | Hadamard积 | 矩阵乘法 | 范数/矩阵范数

      拍照的意义在于你按下快门的那一刻,万里山河的一瞬间变成了永恒。   🎯作者主页: 追光者♂🔥          🌸个人简介:   💖[1] 计算机专业硕士研究生💖   🌟[2] 2022年度博客之星人工智能领域TOP4🌟   🏅[3] 阿里云社区特邀专家博主🏅   🏆[4] CSDN-人工智能领域

    2024年02月05日
    浏览(18)
  • 线性代数的学习和整理9:线性代数的本质(未完成)

    线性代数的学习和整理9:线性代数的本质(未完成)

    目录 1 相关英语词汇 1.1 元素 1.2 计算 1.3 特征 1.4 线性相关 1.5 各种矩阵 1.6 相关概念 2 可参考经典线性代数文档 2.1 学习资料 2.2 各种文章和视频 2.3 各种书 2.4 下图是网上找的思维导图 3 线性代数的本质 3.1 线性代数是第2代数学模型 一般的看法 大牛总结说法: 3.2   线性代

    2024年02月09日
    浏览(27)
  • 机器学习&&深度学习——向量求导问题

    机器学习&&深度学习——向量求导问题

    👨‍🎓作者简介:一位即将上大四,正专攻机器学习的保研er 🌌上期文章:机器学习深度学习——图像分类数据集 📚订阅专栏:机器学习深度学习 希望文章对你们有所帮助 这篇文章的本意还是再一次复盘一下向量求导问题,很多时候的例子都直接推着就过去了,但是重新

    2024年02月15日
    浏览(11)
  • 【机器学习-03】矩阵方程与向量求导方法

    【机器学习-03】矩阵方程与向量求导方法

      在铺垫了基础矩阵和线性代数的相关知识后,我们现在尝试将【机器学习-01】中提到的方程组表示形式转化为矩阵形式,并利用矩阵方法来求解相关方程。同时,在【机器学习-01】中,我们已经初步探讨了最小二乘法这一优化算法的基本思想。最小二乘法是一个基础而重

    2024年03月20日
    浏览(8)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包