Baserat på den prediktiva kodningsteorin inom neurovetenskap har vi konstruerat ett tvåriktat och återkommande neuralt nät, nämligen djupprediktiva kodningsnät (PCN). Det har feedfore, feedback och återkommande anslutningar. Feedback anslutningar från ett högre skikt bär förutsägelsen om dess lägre lager representation; feedforward anslutningar bär förutsägelsefel till dess högre lager. Med tanke på bildinmatning kör PCN rekursiva cykler av nedifrån-och-upp-ned-beräkning för att uppdatera sina interna representationer och minska skillnaden mellan nedifrån-och-upp-ingång och uppifrån-ned-prognos på varje lager. Efter flera cykler av rekursiv uppdatering används representationen för bildklassificering. Med referensdata (CIFAR-10/100, SVHN och MNIST), fann man att PCN alltid överträffar sin feedforward-only motsvarighet: en modell utan någon mekanism för återkommande dynamik. Dess prestanda tenderade att förbättras med tanke på fler cykler av beräkning över tiden. Kort sagt, PCN återanvänder en enda arkitektur för att rekursivt köra nedifrån-och-upp-processer och uppifrån-och-ned-processer. Som ett dynamiskt system kan PCN utvecklas till en feedforward-modell som blir djupare och djupare över tiden, samtidigt som den förfinas representationen mot mer exakt och definitiv objektigenkänning.
Predictive Coding Network med global recurrent Processing Driven av prediktiv kodning teori, en dubbelriktad och återkommande neurala nätverk har föreslagits i REF.
Deep Predictive Coding Network for Object Recognition
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}