pico-lm

; draft

ニューラルネットワーク (NN)

XNN[f](W,B)Y\begin{CD} \boxed{X} @>{\displaystyle \operatorname{NN}[f](W,B)}>> \boxed{Y} \\ \end{CD}

これは以下と等価である:

XWWX+Bff(WX+B)=Y B\begin{CD} \boxed{X} @>{\displaystyle W}>> \boxed{WX + B} @>{\displaystyle f}>> \boxed{f(WX+B)} @= \boxed{Y} \\ @. @AAA \\ @. \boxed{B} \end{CD}

順伝播型ニューラルネットワーク (FNN)

XFNNN[f]({W},{B})Y\begin{CD} \boxed{X} @>{\displaystyle \operatorname{FNN}_N[f](\{W\},\{B\})}>> \boxed{Y} \\ \end{CD}

これは以下と等価である:

X=X(0)X(l1)NN[f](W(l),B(l))X(l)X(N)=Y\begin{CD} \boxed{X} @= \boxed{X^{(0)}} @>>> ⋯ @>>> \boxed{X^{(l-1)}} @>{\displaystyle \operatorname{NN}[f](W^{(l)},B^{(l)})}>> \boxed{X^{(l)}} @>>> ⋯ @>>> \boxed{X^{(N)}} @= \boxed{Y} \\ \end{CD}