近日，中国科学院沈阳自动化研究所机器人学国家重点实验室在深度学习泛化能力研究中取得进展，相关研究成果Depth selection for deep ReLU nets in feature extraction and generalization为题，发表在IEEE Transactions on Pattern Analysis and Machine Intelligence上。
深度学习是近年受到关注的研究领域，在人工智能与模式识别相关问题解决上表现出优越的性能。然而，随着求解问题复杂度的提升，网络深度也在加深。目前，该领域主要挑战之一是挖掘网络深度和求解问题复杂度之间的关系，明确网络深度及其泛化能力。中国科学院沈阳自动化研究所研究员韩志等联合西安交通大学教授林绍波、香港城市大学教授周定轩开展合作，通过在特征提取上深度-参数的平衡选择，给出特征与网络深度之间的相互适应性，证明了经典经验风险极小化可使深度网络达到学习任务最优泛化性能的结论。