pico-lm Jan 28, 2024; draft ニューラルネットワーク (NN) X→NN[f](W,B)Y\begin{CD} \boxed{X} @>{\displaystyle \operatorname{NN}[f](W,B)}>> \boxed{Y} \\ \end{CD}XNN[f](W,B)Y これは以下と等価である: X→WWX+B→ff(WX+B)=Y ↑ B\begin{CD} \boxed{X} @>{\displaystyle W}>> \boxed{WX + B} @>{\displaystyle f}>> \boxed{f(WX+B)} @= \boxed{Y} \\ @. @AAA \\ @. \boxed{B} \end{CD}X W WX+B⏐↑Bff(WX+B)Y 順伝播型ニューラルネットワーク (FNN) X→FNNN[f]({W},{B})Y\begin{CD} \boxed{X} @>{\displaystyle \operatorname{FNN}_N[f](\{W\},\{B\})}>> \boxed{Y} \\ \end{CD}XFNNN[f]({W},{B})Y これは以下と等価である: X=X(0)→⋯→X(l−1)→NN[f](W(l),B(l))X(l)→⋯→X(N)=Y\begin{CD} \boxed{X} @= \boxed{X^{(0)}} @>>> ⋯ @>>> \boxed{X^{(l-1)}} @>{\displaystyle \operatorname{NN}[f](W^{(l)},B^{(l)})}>> \boxed{X^{(l)}} @>>> ⋯ @>>> \boxed{X^{(N)}} @= \boxed{Y} \\ \end{CD}XX(0)⋯X(l−1)NN[f](W(l),B(l))X(l)⋯X(N)Y