小法的量子位报告来自奥菲斯| QbitAI，微信官方账号 　　

　　

　　学习机器学习离不开线性代数。对于初学者来说，矩阵和向量很容易理解，张量的概念就变得复杂了。 　　

　　

　　因为张量的乘法足迹太多，让人觉得大。张量是NumPy、TensorFlow等工具中不可或缺的变量。怎么理解呢？ 　　

　　

　　有一位来自纽约城市大学的泰小姐姐，她用手绘的方式介绍了张量乘法的直观方法。这篇博文很受初学者的欢迎。 　　

　　

　　 　　

　　

　　之后，另一位来自印度理工学院的小哥哥使用3blue1brown的数学动画工具manim,将张量乘法动画化，演示了张量乘法's运算过程，简单易懂。 　　

　　

　　让我们看看他们是如何说明张量运算的。 　　

　　

　　爱因斯坦的求和约定在理解张量运算之前，先解释一下爱因斯坦的求和约定。 　　

　　

　　这是爱因斯坦求和约定爱因斯坦在研究相对论时提出的。因为相对论中经常用到张量积运算，爱因斯坦发明了一种简化的写法，后来经常用到。 　　

　　

　　例如，两个矩阵的乘积定义为： 　　

　　

　　 　　

　　

　　 　　

　　

　　仔细看可以看到矩阵A的第二个脚痕和矩阵B的第一个脚痕是一样的，都是k。 　　

　　

　　也就是A的第K行乘以b的第K列对应的元素，最后乘积相加在一起，最后结果显示K消失，所以求和K的符号完全多余。 　　

　　

　　因此，爱因斯坦规定，每当脚标相同时，就意味着对脚标求和，去掉求和符号： 　　

　　

　　 　　

　　

　　张量运算的公式因此大大简化了。 　　

　　

　　Rajat发现，如果把一个矩阵的两个维度换成两个“触角”，连接同一个脚痕的“触角”就是矩阵乘法： 　　

　　

　　 　　

　　

　　对用图形表示张量Rajat的张量积动画有了自己的理解。其实早在他之前，就已经有人推出了“张量网络”，用一个节点和几条延伸线来表示张量。 　　

　　

　　行数等于张量的阶，矩阵是二阶张量，所以有两行： 　　

　　

　　 　　

　　

　　这是泰-沈佳凝的手绘。此外，标量可视为零阶张量，向量可视为一阶张量，矩阵可视为二阶张量，以此类推： 　　

　　

　　 　　

　　

　　在上面的矩阵乘法中，对于同一个脚标，等于一条线，所以M和N两个矩阵相连： 　　

　　

　　 　　

　　

　　相乘后得到的张量只有两条向外的边，可以把中间的两个节点压缩成一个节点： 　　

　　

　　 　　

　　

　　所以矩阵乘以矩阵还是矩阵(二阶张量)。 　　

　　

　　张量的乘积的图形显示，Rajat在“张量网络”概念的基础上增加了一组视频，更加形象地展示了几种常见的张量运算。 　　

　　

　　矩阵向量： 　　

　　

　　 　　

　　

　　矩阵矩阵： 　　

　　

　　 　　

　　

　　Dama产品： 　　

　　

　　 　　

　　

　　外部产品： 　　

　　

　　 　　

　　

　　最后，还有一种特殊情况，那就是矩阵的“痕迹”: 　　

　　

　　 　　

　　

　　就是把M中行数和列数相同的元素相加，相当于把你的两个“触角”连接起来，形成一个闭环。 　　

　　

　　 　　

　　

　　矩阵的迹满足以下循环规律： 　　

　　

　　tr(ABC)=tr(CAB)=tr(BCA) 　　

　　

　　如果你用图解的方法，你可以更好地理解它： 　　

　　

　　 　　

　　

　　参考链接： 　　

　　

　　https://rajatvd.github.io/Factor-Graphs/ 　　

　　

　　https://www . math3ma . com/blog/matrix-as-tensor-network-diagrams 　　

　　

　　―完― 　　

　　

　　量子Qbitai头数签名 　　

　　

　　关注我们，第一时间获悉前沿科技动态。