谷歌大脑最新研究：AutoML方式自动学习Dropout模式

本文经AI新媒体量子位（公众号ID:QbitA谷歌I）授权转载，转载请联系出处。

深度神经网络往往存在过拟合大脑的问题，需要Dropout、权重衰减这样的正则化方最新法的加持。

而最近的研究表明，如果对Dropout研究“剪掉”的神经元的结构进行利用，就能实现比随机替换更好：A的效果。

问题是，实际应用中，针对不同的问题，利用结构的方ut法需要人工设计，对Dropout的模式进行调整oM，泛化能力不足。

那么，是否能设计一种针对CNN、L方Transformer这样的深度神经网络，自动学习D式自ropout模式的方法？

现在，谷歌大神Quoc V. Le动学的团队，就提出了一种名为AutoDropout的习D方法。

 ro;

https://arxiv.org/abspo/2101.01761

(责任编辑：碳中和行动)