automl 神经架构搜索(NAS) 综述

综述文章 Neural Architecture Search: A Survey (神经网络结构搜索survey) 神经架构搜索的几个研究视角 搜索空间/模型结构 搜索空间定义了NAS算法可以搜索的神经网络的类型,同时也定义了应该如何描述神经网络结构。神经网络所实现的计算可以抽象成一个无孤立节点的有向无环图(DAG),图的节点代表神经网络的层(卷积网络中的特征图),边代表数据的流动(进行的操作:卷积、池化等)。每个节点从其前驱节点(有边射入)接收数据,经过计算之后将数据输出到后续节点(有边射出)。理论上说,只要是无孤立节点的DAG,都是合法的神经网络结构。按照不同的尺度,神经网络的结构