AutoML :无人驾驶机器学习模型设计自动化

资源分类

2019-10-17 |

59 |

原标题：AutoML :无人驾驶机器学习模型设计自动化来源：AI研习社

链接：https://www.toutiao.com/a6652647743258886668/

在Waymo，机器学习几乎在自动驾驶系统的每个部分都起着关键作用。它可以让汽车看到周围环境，感知和了解世界，预测其他人的行为方式，并决定他们的下一步行动。

感知：我们的系统采用神经网络的组合，以便我们的车辆能够识别传感器数据、识别物体并随着时间的推移跟踪它们，以便它能够深入了解周围的世界。这些神经网络的构建通常是一项耗时的任务;优化神经网络架构以实现在自动驾驶汽车上运行所需的质量和速度是一个复杂的微调过程，我们的工程师要完成一项新任务可能要花费数月时间。

现在，通过与Brain团队的谷歌AI研究人员合作，我们将前沿研究付诸实践，用来自动生成神经网络。更重要的是，这些最先进的神经网络比工程师手动微调的质量更高，速度更快。

为了将我们的自动驾驶技术带到不同的城市和环境，我们需要以极快的速度优化我们的模型以适应不同的场景。AutoML使我们能够做到这一点，高效，持续地提供大量的ML解决方案。

传输学习：使用现有的AutoML架构

我们的合作始于一个简单的问题：AutoML能否为汽车生成高质量和低延迟的神经网络？

“质量”可以衡量神经网络产生结果的准确性。“延迟”可以测量网络提供答案的速度，也称为“推理时间”。由于驾驶是一项活动，要求我们的车辆使用实时反馈并考虑到我们系统的安全--关键性质，因此我们的神经网络需要低延迟运行。大多数直接在我们车上运行的网络都可以在不到10毫秒的时间内提供结果，这比在数千台服务器上运行的数据中心部署的许多网络更快。

在他们最初的AutoML论文[1]中，我们的Google AI同事能够自动探索出超过12,000种架构来解决CIFAR-10这种经典图像识别任务：将一张小图像识别为10个类别中的一种，如一辆汽车，一架飞机，一只狗等。在后续的一篇文章[2]中，他们发现了一系列神经网络构建块，称为NAS单元，它可自动构建出比手工制作的用于CIFAR-10以及相似任务更好的网络。通过这次合作，我们的研究人员决定使用这些单元自动构建用于自动驾驶特定任务的新模型，从而将在CIFAR-10上学习到的知识迁移到我们领域中。我们的第一个实验是使用语义分割任务：将LiDAR点云中的每个点识别为汽车，行人，树等。

One example of a NAS cell. This cell processes inputs from the two previous layers in a neural net.

为此，我们的研究人员搭建了一种自动搜索算法，用于在卷积网络架构（CNN）中探索数百种不同NAS单元的组合，为我们的LiDAR分割任务训练和评估模型。当我们的工程师手工对这些网络进行微调时，他们只能探索有限数量的架构，但是通过搭建自动搜索算法，我们可以自动探索数百种架构。我们发现模型较之前手工制作的模型有两方面的改进：

代理端到端搜索：在缩小的代理任务上探索数千种架构，将100种最佳架构应用于原始任务，验证和部署汽车上最好的架构。

我们使用了几种搜索算法，对质量和延迟进行了优化，因为这对车辆至关重要。我们观察了不同类型的CNN架构，并使用了不同的搜索策略，例如随机搜索和强化学习，我们能够为代理任务探索超过10000种不同的架构。通过使用代理任务，在一个Google TPU集群上花费一年的计算时间只花了两周。我们发现了比我们刚转移NAS细胞时更好的网络：

●神经网络具有20-30%的低潜伏期和相同质量的结果。

●神经网络的质量更高，错误率低至8-10%，与以前的体系结构具有相同的延迟。