Metoda vzvratnega razširjanja
Metoda vzvratnega razširjanja () je ime algoritma za učenje umetnih nevronskih mrež oziroma za globoko učenje. Algoritem je prvi opisal Paul Werbos leta 1974, uveljavil pa se je šele leta 1986, ko so nevronske mreže doživele preporod. Spada med metode nadzorovanega učenja in velja za posplošitev pravila delta () na večplastne mreže. Pri učenju je prisoten učitelj, ki vhodnim podatkom priredi izhodno želeno vrednost. Metoda vzvratnega razširjanja je poseben primer splošne gradientne metode za optimizacijo, ki temelji na srednji kvadratni napaki.

Značilnosti 

Metoda je iterativna, saj rešitev nastaja postopoma, po številnih majhnih korakih. Delovanje metode spominja na spuščanje kroglice s hriba, ki se premika v smeri nagiba, pri čemer se ji zmanjšuje višina. Pri tem se ji lahko zgodi, da se ustavi v kotanji (lokalni minimum), še preden pride do vznožja (globalni minimum). Zato je metoda vzvratnega razširjanja počasna in nezanesljiva. Poleg tega ima še številne druge pomanjkljivosti, na primer: (1) neinformativnost – ne pove, kako pride do rezultata, (2) nekonstruktivnost – ne zna sama poiskati optimalne zgradbe nevronske mreže, (3) neučinkovitost – za učenje poleg koristnih uporablja tudi jalove učne vzorce, (4) ne odpravlja šuma, (5) ne roji učnih podatkov. Omenjene pomanjkljivosti učinkovito odpravljata algoritma bipropagation in metoda mejnih parov,

Glej tudi 

 bipropagation
 metoda mejnih parov
 perceptron
 u[Umetna inteligenca]]

Umetna inteligenca
1974 v znanosti
Metoda vzvratnega razširjanja ( ) je ime algoritma za učenje umetnih nevronskih mrež oziroma za globoko učenje . Algoritem je prvi opisal Paul Werbos leta uveljavil pa se je šele leta ko so nevronske mreže doživele preporod . Spada med metode nadzorovanega učenja in velja za posplošitev pravila delta ( ) na večplastne mreže . Pri učenju je prisoten učitelj , ki vhodnim podatkom priredi izhodno želeno vrednost . Metoda vzvratnega razširjanja je poseben primer splošne gradientne metode za optimizacijo , ki temelji na srednji kvadratni napaki . Značilnosti Metoda je iterativna , saj rešitev nastaja postopoma , po številnih majhnih korakih . Delovanje metode spominja na spuščanje kroglice s hriba , ki se premika v smeri nagiba , pri čemer se ji zmanjšuje višina . Pri tem se ji lahko zgodi , da se ustavi v kotanji ( lokalni minimum ) , še preden pride do vznožja ( globalni minimum ) . Zato je metoda vzvratnega razširjanja počasna in nezanesljiva . Poleg tega ima še številne druge pomanjkljivosti , na primer :neinformativnost – ne pove , kako pride do rezultata ,nekonstruktivnost – ne zna sama poiskati optimalne zgradbe nevronske mreže ,neučinkovitost – za učenje poleg koristnih uporablja tudi jalove učne vzorce ,ne odpravlja šuma ,ne roji učnih podatkov . Omenjene pomanjkljivosti učinkovito odpravljata algoritma bipropagation in metoda mejnih parov , Glej tudi bipropagation metoda mejnih parov perceptron u [ Umetna inteligenca ] ] Umetna inteligenca 1974 v znanosti