xavierの初期値に関する論文
xavierの論文でわからない点が1つあります。
論文の3ページ目に以下のような記述がありました。
The big surprise is that for intermediate number of hidden layers (here four), the saturation regime may be escaped. At the same time that the top hidden layer moves out of satura- tion, the first hidden layer begins to saturate and therefore to stabilize.
この部分をうまく訳してくれないでしょうか?