Vi presenterar en djupinlärningsmodell, DE-LSTM, för simulering av en stokastisk process med en underliggande ickelinjär dynamik. Den djupa inlärningsmodellen syftar till att approximera sannolikhetstäthetsfunktionen hos en stokastisk process via numerisk diskretisering och den underliggande ickelinjära dynamiken modelleras av nätverket Long Short-Term Memory (LSTM). Det visas att när numerisk diskretisering används kan problemet med funktionsuppskattning lösas genom ett flermärkt klassificeringsproblem. En straffbar maximal logsannolikhet metod föreslås för att införa en jämnhet villkor i förutsägelsen av sannolikhetsfördelningen. Vi visar att tidsutvecklingen av sannolikhetsfördelningen kan beräknas genom en högdimensionell integration av övergångssannolikheten för LSTM interna stater. En Monte Carlo algoritm för att approximera den högdimensionella integrationen beskrivs. De-LSTM:s beteende undersöks noggrant genom att använda Ornstein-Uhlenbeck-processen och bullriga observationer av ickelinjära dynamiska system; Mackey-Glass tidsserie och påtvingad Van der Pol oscillator. Det visas att DE-LSTM gör en bra förutsägelse om sannolikhetsfördelningen utan att anta några fördelningsegenskaper hos den stokastiska processen. För en flerstegsprognos av tidsserien Mackey-Glass, förutsägelsen osäkerhet, betecknar 95% konfidensintervall, först växer, sedan dynamiskt justerar efter utvecklingen av systemet, medan i simuleringen av den påtvingade Van der Pol oscillator, prognos osäkerheten växer inte i tid även för en 3.000-steg prognos.
Yeo och Melnyk REF presenterade en RNN-baserad modell utan något antagande för att direkt förutsäga sannolikhetstäthet för simulering av bullriga ickelinjära dynamiska system.
Deep learning algorithm for data-driven simulation of noisy dynamical system
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science', 'Physics']}