神经网络在过去几年中取得了惊人的进步，现在已成为图像识别和自动翻译领域最先进的技术。TensorFlow是 Google 为数字计算和神经网络发布的新框架。在这篇博文中，我们将演示如何使用 TensorFlow 和 Spark 一起来训练和应用深度学习模型。

你可能会想：当大多数高性能深度学习实现只是单节点时，Apache Spark 在这里使用什么?为了回答这个问题，我们将通过两个用例来解释如何使用 Spark 和 TensorFlow 的集群机器来改进深度学习流程：

超参数调整：使用 Spark 找到神经网络训练的最佳超参数，使得训练时间减少 10 倍并且错误率降低 34 %。

大规模部署模型：使用 Spark，在大量数据上应用训练后神经网络模型。

超参数调优

深度学习机器学习(ML)技术的一个例子是人工神经网络。它们采取复杂的输入，例如图像或音频记录，然后对这些信号应用复杂的数学变换。该变换的输出是数值向量，其更容易被其他 ML 算法运算。人工神经网络通过模仿人脑视觉皮质中的神经元(以简化形式)执行这种转化。

正如人类学习解释他们所看到的那样，人工神经网络需要被训练来识别「有趣」的特定模式。例如，这些可以是简单的图案，例如，边缘，圆形，但是它们可能要复杂。在这里，我们将使用由 NIST 组合的经典数据集，并训练神经网络来识别这些数字：

TensorFlow 库自动化训练各种形状和大小的神经网络算法的创建。然而，构建神经网络的实际过程比仅在数据集上运行一些函数更复杂。通常会有许多非常重要的影响模型训练效果的超参数(外行人术语中的配置参数)设置。选择正确的参数会导致高性能，而不良参数会导致训练时间长，性能不佳。在实践中深度学习分类，机器学习从业者用不同的超参数多次重复运行相同的模型，以便找到最佳超参数集。这是一种称为超参数优化的经典技术。

建立神经网络时，有很多要慎重选择的超参数。例如：

有趣的是，即使 TensorFlow 本身没有分布，超参数调整过程也是「尴尬并行」，可以使用 Spark 进行分布。在这种情况下，我们可以使用 Spark 来 broadcast 诸如数据和模型描述之类的常见元素，然后在整个机器群集之间以容错方式调度各个重复计算。

使用Spark如何提高准确性?超级参数的默认设置精度为 99.2%。通过超参数调优，在测试集上最好的结果是具有 99.47% 的精度，这减少 34% 的测试误差。分配添加到集群的节点数呈线性关系的计算：使用 13 节点集群，我们能够并行训练 13 个模型深度学习分类，这相当于在一台机器上一次训练一个模型的 7 倍速度。以下是关于机器集群数量的计算时间(以秒为单位)的图表：

更重要的是，我们深入了解训练过程的各种训练超参数的敏感性。例如，对于不同数量的神经元，我们绘制关于学习率的最终测试性能：

这显示了神经网络的典型权衡曲线：

通过使用稀疏的参数样本，我们可以对最有希望的参数集进行归零。

我该怎么用?

由于 TensorFlow 可以使用每个机器的所有核心，因此我们一次只能在每个机器运行一个任务，并将它们批处理以限制竞争。TensorFlow 库可以作为常规 Python 库安装在 Spark 集群上，遵循 TensorFlow 网站上的说明。以下笔记本显示如何安装 TensorFlow，让用户重新运行此博客的实验：

使用TensorFlow分布式处理图像

使用TensorFlow测试图像的分布处理

规模部署模型

TensorFlow 模型可以直接嵌入到管道中，以对数据集执行复杂的识别任务。例如，我们展示了如何从已经训练的股票神经网络模型中标注一组图像。

该模型首先使用 Spark 的内置 broadcasting 机制分配给集群的机器：

然后将该模型加载到每个节点上并应用于图像。这是每个节点上运行代码的草图：

来源【首席数据官】，更多内容/合作请关注「辉声辉语」公众号，送10G营销资料！