机器心脏报告 　　

　　编辑：陈萍 　　

　　期待即将到来的篇章。 　　

　　深度学习这个领域，对于初学者来说，编程已经是令人望而生畏，更让人无法接受的是深度学习中的数学知识难度更大。 　　

　　对于这种困惑，已经有人提前替你想到了。这也是我今天给大家推荐一本新书的原因，这本书介绍了深度学习中的数学工程。书名是《The Mathematical Engineering of Deep Learning》。顾名思义，是一本专门研究数学知识的书。 　　

　　然而，这本书仍在不断更新。目前前两章的内容已经发布，大家可以参考一下。 　　

　　这本书提供了深度学习领域的数学工程内容。除了介绍深度学习的基础，本书还将介绍卷积神经网络、递归神经网络、变换器、生成对抗网络、强化学习及其各种技巧。 　　

　　值得一提的是，这本书的重点是介绍深度学习模型、算法和方法的基本数学描述。此外，作者已经友好地公开了书中使用的源代码。 　　

　　书籍地址：https://deeplearningmath.org/电码地址：3359github.com/yoninazarathy/Mathematicalengineringdeebling书籍介绍 　　

　　这本书由十章和三个附录组成。第1-4章介绍了深度学习领域，概述了机器学习的关键概念，深度学习所需的优化概念，并重点介绍了基本模型和概念。第5-8章涉及深度学习的核心模型和架构，包括全连接网络、卷积网络和循环网络，并概述了模型调整和应用的所有方面。第9-10章涉及特定领域，即生成对抗网络和深度强化学习。附录A-C提供了数学支持。 　　

　　具体来说： 　　

　　第1章简介：这一章是关于深度学习的概述,展示其关键应用和调查与高性能计算相关的生态系统。此外，本章还讨论了大数据和高维数据的关键术语，包括数据科学、机器学习和统计学习，并将这些术语放在本书的上下文中。 　　

　　第2章机器学习原理:深度学习可以视为机器学习的一个子学科，因此本章概述了机器学习的关键概念和范式。向读者介绍监督学习、无监督学习和迭代学习优化的一般概念。此外，本章还介绍了训练集和测试集的概念，以及交叉验证和模型选择的原则。本章重点介绍线性模型，该模型可以通过迭代优化来训练。 　　

　　第三章简单神经网络:本章重点介绍二元分类的logistic回归和相关的多类问题的softmax回归模型。本文介绍了深度学习的原理，如交叉熵损失、决策边界和简单的反向传播案例。本章还介绍了一个简单的非线性自动编码器架构。此外，还讨论了模型调整的各个方面， 　　

第 4 章优化算法：深度学习模型的训练涉及对学习参数的优化。因此，需要对优化算法有扎实的理解，以及对适用于深度学习模型（如 ADAM 算法）的专门优化技术的理解。本章将重点介绍这些技术以及正在慢慢进入实践的更高级的二阶方法。

第 5 章前馈深度网络：本章是本书的核心，定义和介绍了一般的前馈深度神经网络。在探索了深度神经网络的表达能力之后，本章通过了解用于梯度评估的反向传播算法并探索其他方面（例如权重初始化、dropout 和批归一化）来深入了解训练的细节。

第 6 章卷积神经网络：深度学习的成功可归功于卷积神经网络。本章将探索卷积概念，然后在深度学习模型的背景下了解它。本章介绍了通道和滤波器设计的概念，然后探索了具有重大影响且至今仍在使用的常见最先进架构。此外本章还探索了一些与图像相关的关键任务，例如目标定位。

第 7 章序列模型：序列模型在 NLP 中至关重要。本章探索了循环神经网络及其泛化，其中包括长短期记忆模型、门控循环单元、用于端到端语言翻译的自动编码器以及带有 transformer 的注意力模型。

第 8 章 Trade 技巧：在介绍了前馈网络、卷积网络和各种形式的循环网络之后，本章探索了在应用程序中调整和集成这些模型的常用方法。

第 9 章生成对抗网络：本章调查和探索生成对抗网络（GAN），这些模型能够合成看起来真实的假数据。本章讨论了几种 GAN 架构以及在调整损失函数时出现的有趣的数学方面。

第 10 章深度强化学习：最后一章将探讨深度强化学习的原理。

作者简介

从左到右依次为 Benoit Liquet 、Sarat Moka、Yoni Nazarathy

Benoit Liquet 为麦考瑞大学数理学院数理统计教授。主要研究包括模型选择和变量选择、多状态模型和生存分析、降维方法、贝叶斯建模、机器学习、计算生态学和环境科学的统计方法等。

Sarat Moka 为麦考瑞大学的博士后，研究重点是概率论在数据科学、统计学和蒙特卡洛模拟中的应用。其研究内容与深度学习、监督学习、无监督学习、MCMC 方法、贝叶斯推理、无偏估计、大偏差理论、方差减少技术等息息相关。

Yoni Nazarathy 为昆士兰大学数学与物理学院的副教授，擅长机器学习、应用概率、统计学、运筹学、模拟、科学计算、控制理论等。此外，Nazarathy 还与 Julia 合著了一本新书《Statistics with Julia: Fundamentals for Data Science, Machine Learning and Artificial Intelligence》。

最后附上书籍目录：