Question: 要約すると、ドロップアウト率と正則?

との間の関係があり、我々は、理解ドロップアウトと正則関係、0.5のAドロップアウト率が最大正則化につながる、と。 GaussianDropoutにドロップアウトの一般化

我々は、ニューロンを維持する確率として脱落率が定義されていますアクティブ?

高いドロップアウト率は、より多くのニューロンがアクティブであることを述べています。だから、あまり正則があるでしょう。

はどのように正則?

正則でドロップアウトヘルプは損失関数にペナルティを追加することにより、オーバーフィッティングを低減ありません。このペナルティを追加することで、モデルは、機能の重みの相互依存のセットを学習しないように訓練されています。 ...ドロップアウトは、神経細胞間相互依存的な学習を減らすのに役立ちますニューラルネットワークにおける正則へのアプローチである。

正則?

ドロップアウトの形ドロップアウトです異なるとニューラルネットワークの多数を訓練近似正則化法であります並行してアーキテクチャ。

はドロップアウトよりも優れ正則ですか?

シングル隠し層ニューラルネットワークにおけるL2とドロップアウトの間正則のアン分析。 ...結果は、ドロップアウトが複雑なネットワークのためのより効果的なよりL 2ノルムは、隠されたニューロンの多数を含む、すなわちであることを示している。

Reach out

Find us at the office

Ribley- Wingren street no. 102, 47264 Santiago, Chile

Give us a ring

Mahki Crocetti
+34 902 786 883
Mon - Fri, 8:00-17:00

Contact us