在社会的日新月异中,网络结构搜索(NAS)技术正被广泛应用于自动化设计神经网络结构的领域。近年来,NAS已取得了显著成果,不仅减少了人们手动设计模型结构所需时间和精力,还能够通过优化得到性能更高的模型。在这个趋势下,一项名为DenseNAS的新方法被提出,它具有更高灵活性,可以适用于特定场景数据、特定性能需求以及不同设备部署。
DenseNAS是由地平线-华中科技大学计算机视觉联合实验室开发的一种Differentiable NAS方法。它可以搜索每个block的宽度和对应空间分辨率,使得网络结构搜索更加灵活。此外,这种方法还能够同时搜索网络规模,如宽度、深度以及全局深度,从而提高了模型性能。
DenseNAS通过构建一个密集连接的搜索空间来实现其目的,在这种空间中,每个block之间相互连接,并且可以根据优化后的转移概率选择最优路径。该方法不仅可以在ImageNet上获得75.9%的准确率,而且整个搜索过程只需要23小时即可完成,显示出其效率与效果并存。
由于其高灵活性和潜力,DenseNAS有望在各种任务如分类、检测等方面发挥作用,同时也能更好地适应不同硬件环境。此外,该技术还促进了研究者们探索更多元素进行搜素,如操作类型、层次信息等,为深度学习领域带来了新的可能。