一直以来，研究人员和开发人员经常在GitHub宝库中搜索有趣的项目和实现，但我们可能需要一个确切的主题，并做一些筛选。最近有开发者发布了一个模型聚合平台，在这个平台上我们可以搜索到不同领域最流行的开源模型。作者根据GitHub项目集合、项目域和实现框架的特点对这些模型进行了分类，这样我们可以快速定位合适的模型。 　　

　　

　　项目地址：https://modelzoo.co/ 　　

　　

　　最近，深度学习是机器学习中最热门的子领域。由于其对高维数据强大的建模能力，它已经在许多不同的任务和领域开花结果，如计算机视觉、自然语言处理和代理学习。深度学习模型是一种表征学习方法，即根据模型学习表征本身，而不是像传统机器学习那样只是将表征映射到输出。 　　

　　

　　目前，深度学习主要是通过不同级别的神经元从原始数据中自动提取特征，其学习到的表示往往比传统ML人工设计的表示具有更好的性能。目前GitHub上关注的ML实现大多是深度学习模型，他们用不同的层次结构和网络架构来建立模型解决具体问题。比如分层叠加的2D卷积层可以从简单到复杂提取2D数据(如图像)的特征，循环单元的叠加适合处理机器翻译等序列标注问题。再加上剩余连接、门控机制和注意机制，就可以针对特定的任务学习特定的知识。 　　

　　

　　最近，有许多关于分层表示的这些深度模型的研究，许多开发人员和研究人员分享了他们的代码和想法。ModelZoo旨在提供一个搜索优秀深度模型的集中平台，并希望为复制论文、构建复杂神经网络、学习模型代码和直接使用预训练模型提供资源。 　　

　　

　　Model Zoo是一个新搭建的平台，所以它包含的模型库还会继续发展。如果读者发现其他一些优秀的模型没有被收录，可以在网站上提交并通知作者。另外，这个网站的开发者只是新加坡的本科生，他希望通过这样的平台帮助更多的学习者。 　　

　　

　　模型动物园收集的所有模型都可以在GitHub中找到。作者余婧根据GitHub项目集合、项目域、实现框架等特点对模型进行了梳理。此外，我们还可以使用关键字搜索来确定我们需要找到的模型。每个模型都在页面上显示对应GitHub项目的README文档，读者可以快速判断项目的基本信息和需求。此外，作者还搭建了简讯模块，每月整理一次当月最热门、最重要的机型。 　　

　　

　　 　　

　　

　　目前，该项目中的深度学习模型有五种：计算机视觉、自然语言处理、生成模型、强化学习和无监督学习。这些类别或字段相互交叉。例如，许多生成模型可以归类为无监督学习。事实上，许多模型确实属于多个类别。 　　

　　

　　 　　

　　

　　目前包含的实现框架有Tensorflow、Caffe、Caffe2、PyTorch、MXNet、Keras等。虽然还有很多框架没有包括在内，比如CycleGAN的原始实现，它使用了Lua语言和Torch框架，即使这个项目的集合达到6453，这个平台也没有包括在内。 　　

　　

　　 　　

　　

　　您可以分别从浏览框架和浏览类别进入上述框架分类界面和模型分类界面，根据其分类进行浏览。下面的搜索框支持搜索型号名称。 　　

　　

　　 　　

　　

　　模型基本按照GitHub的集合排序(比如Magenta的10164 star)，预览界面还包含项目介绍、实现框架、分类等信息。点击进入项目详情(即GitHub项目对应的README文档)。稍后，我们将简要介绍各个领域中最受欢迎的项目： 　　

　　

　　计算机视觉 　　

　　

　　GitHub star:10164实现框架：TensorFlowMagenta是一个探索机器学习在艺术和音乐创作中的作用的研究项目，因为它被很多作者划分为计算机视觉和强化学习领域。主要涉及开发新的深度学习和强化学习算法，用于生成歌曲、图像、草图等。但它也试图建立智能工具和界面，以帮助艺术家和音乐家扩展他们使用这些模型的方式。Magenta是由谷歌大脑团队的一些研究人员和工程师发起的，但也有许多其他人对该项目做出了重要贡献。 　　

　　

　　 　　

　　

　　目前这个项目有很多应用。 　　

现与演示，读者可查看 https://magenta.tensorflow.org/blog。

　　

Mask-RCNN

　　

GitHub star：6104实现框架：KerasMask R-CNN 是一个两阶段的框架，第一个阶段扫描图像并生成候选区域（proposals，即有可能包含一个目标的区域），第二阶段分类候选区域并生成边界框和掩码。Mask R-CNN 扩展自 Faster R-CNN，由同一作者在去年提出。Faster R-CNN 是一个流行的目标检测框架，Mask R-CNN 将其扩展为实例分割框架。

　　

　　

该项目是 Mask R-CNN 的在 Python3、Keras 和 TensorFlow 上的实现。该模型可以为图像中的目标实例生成边框和分割掩码。其架构基于特征金字塔网络（FPN）和 ResNet101 骨干网络。

　　

该 repo 包含：Mask R-CNN 建立在 FPN 和 ResNet101 上的源代码；数据集 MS COCO 的训练代码；MS COCO 的预训练权重；可视化检测流程的每个步骤的 Jupyter notebook；多 GPU 训练的 ParallelModel 类；在 MS COCO 指标（AP）上的评估；训练自定义数据集的示例。

　　

　　

自然语言处理

　　

WaveNet

　　

GitHub star：3692实现框架：TensorFlow下图展示了 WaveNet 的主要结构，这是一个完全卷积的神经网络，其中的卷积层有不同的扩张系数（dilation factors），这让其感受野可根据层级深度指数式地增长并可覆盖数千个时间步骤。此外 Wave Net 还是第一个提出因果卷积的模型，从直观上来说，它类似于将卷积运算「劈」去一半，令其只能对过去时间步的输入进行运算。其实后来很多使用卷积网络处理序列标注问题的模型都借鉴了 WaveNet 所提出的这两个结构。

　　

　　

DeepMind 提出的 WaveNet 神经网络架构可以直接生成新的音频波形，在文本到语音转换和音频生成中有优越的表现。在训练时间，其输入序列是由人类说话者录制的真实波形。训练之后，我们可以对这个网络进行采样以生成合成话语。在采样的每一个时间步骤，都会从该网络所计算出的概率分布中取出一个值。然后这个值会被反馈进入输入，并为下一个步骤生成一个新的预测。像这样一次一步地构建样本具有很高的计算成本，但这对生成复杂的、听起来真实感强的音频而言至关重要。

　　

Sentence Classification with CNN

　　

GitHub star：3416实现框架：TensorFlow论文《Convolutional Neural Networks for Sentence Classification》的简化版 TensorFlow 实现。

　　

　　

生成模型

　　

DCGAN-tensorflow

　　

GitHub star：4263实现框架：TensorFlowGoodfellow 等人提出来的 GAN 是通过对抗过程估计生成模型的新框架。在这种框架下，我们需要同时训练两个模型，即一个能捕获数据分布的生成模型 G 和一个能估计数据来源于真实样本概率的判别模型 D。生成器 G 的训练过程是最大化判别器犯错误的概率，即判别器误以为数据是真实样本而不是生成器生成的假样本。因此，这一框架就对应于两个参与者的极小极大博弈（minimax game）。而 DCGAN 主要使用卷积神经网络作为生成器 G 与判别器 D 的架构，因此能生成比较清晰与优秀的图像。

　　

论文《Deep Convolutional Generative Adversarial Networks》的 TensorFlow 实现，这是一个稳定的生成对抗网络。

　　

　　

上图展示了生成器 G 的架构，它使用四个转置卷积进行上采样，即将 100 维的随机变量恢复到图像。这个项目为了防止判别器器网络收敛过快，当判别器迭代一次生成器网络会连续迭代两次，这和原论文不太一样。

　　

Image-to-Image Translation with Conditional Adversarial Networks

　　

GitHub star：4242实现框架：PyTorch因为 CycleGAN 的原实现是用 Lua 写的，因此很多研究者使用该项目复现图像到图像的转换。CycleGAN 的主要想法是训练两对生成器-判别器模型以将图像从一个领域转换为另一个领域。在这过程中我们要求循环一致性，即在对图像应用生成器后，我们应该得到一个相似于原始 L1 损失的图像。因此我们需要一个循环损失函数（cyclic loss），它能确保生成器不会将一个领域的图像转换到另一个和原始图像完全不相关的领域。

　　

该项目是配对、非配对的图像到图像转换的 PyTorch 实现。

　　

强化学习

　　

Deep Reinforcement Learning for Keras

　　

GitHub star：2639实现框架：Keras

　　

keras-rl 让人们可以轻松使用当前最佳的深度强化学习算法，使用 Keras 实现，并结合了 OpenAI Gym 来构建项目。

　　

目前该项目实现了以下算法：

　　

Deep Q Learning (DQN)Double DQNDeep Deterministic Policy Gradient (DDPG)Continuous DQN (CDQN or NAF)Cross-Entropy Method (CEM)Dueling network DQN (Dueling DQN)Deep SARSADQN-tensorflow

　　

GitHub star：1610实现框架：TensorFlow论文《Human-Level Control through Deep Reinforcement Learning》的 TensorFlow 实现。

　　

　　

该实现包括：Deep Q-network 和 Q-learning

　　

经验重放记忆减少持续更新的相关性用于 Q-learning 目标的网络由于区间问题而经过修改减少目标和预测 Q 值之间的关联无监督学习

　　

MUSE: Multilingual Unsupervised and Supervised Embeddings

　　

GitHub star：1298实现框架：PyTorch

　　

MUSE 是一个多语言词嵌入的 Python 库，其目的是为社区提供当前最佳的基于 fastText 的多语言词嵌入，以及用于训练和评估的大规模高质量双语词典。

　　

该项目使用了两种方法，一种是使用双语词典或相同字符串的监督方法，另一种是没有使用任何平行数据的无监督方法。

　　

Domain Transfer Network (DTN)

　　

GitHub star：654实现框架：TensorFlow论文《Unsupervised Cross-Domain Image Generation》的 TensorFlow 实现，下图是其模型架构概览。

　　

　　

以上是各类别主要流行的模型简介，还有很多优秀的项目并没有展示，读者根据该平台与具体的需求筛选模型。