För närvarande utbildning av neurala nätverk bygger på data av jämförbar noggrannhet, men i verkliga tillämpningar endast en mycket liten uppsättning av hög-trohet data är tillgänglig, medan billig lägre trohet data kan vara riklig. Vi föreslår ett nytt sammansatt neuralt nätverk (NN) som kan tränas baserat på multi-fidelity data. Den består av tre NN, varav den första NN utbildades med hjälp av data med låg trohetsgrad och kopplade till två NN med hög trohet, en med aktiveringsfunktioner och en annan utan, för att upptäcka och utnyttja icke-linjära respektive linjära korrelationer, mellan data med låg trohet och data med hög trohet. Vi visar först exaktheten hos den nya multi-fidelity NN för approximering av vissa standard referensfunktioner men också en 20-dimensionell funktion som inte är lätt att approximera med andra metoder, t.ex. Gaussisk process regression. Därefter utökar vi de nyligen utvecklade fysik-informerade neurala nätverken (PINNs) som ska tränas med multi-fidelity dataset (MPINNs). MPINNs innehåller fyra fullt anslutna neurala nätverk, där den första approximerar låg-fidelity data, medan den andra och tredje konstruerar korrelationen mellan låg- och hög-fidelity data och producerar multi-fidelity approximation, som sedan används i den sista NN som kodar de partiella differentialekvationer (PDEs). Särskilt i de två högkvalitativa NNs införs en avslappningsparameter, som kan optimeras för att kombinera linjära och icke-linjära undernätverk. Genom att optimera denna parameter, den nuvarande modellen är kapabel att lära sig både linjära och komplexa icke-linjära korrelationer mellan låg- och hög-fidelitet data adaptivt. Genom att träna MPINNs, kan vi: (1) få korrelationen mellan låg- och hög-fidelity data, (2) spridda data, och (3) identifiera de okända parametrarna i PDEs. I synnerhet använder vi MPINN för att lära sig hydraulisk ledningsförmåga fält för omättade flöden samt reaktiva modeller för reaktiv transport. Resultaten visar att MPINN kan uppnå relativt hög noggrannhet baserat på en mycket liten uppsättning högfidelitetsdata. Trots den relativt låga dimensionen och det begränsade antalet trohetsnivåer (två trohetsnivåer) för referensproblemen i denna studie kan den föreslagna modellen utan svårighet utvidgas till att omfatta mycket högdimensionella regressions- och klassificeringsproblem som inbegriper data om flerfidelitet.
I REF, tre neurala nätverk, en för låg-fidelity data och de andra två för linjära och icke-linjära funktioner för hög-fidelity data, används genom att följa PINN-metoden.
A composite neural network that learns from multi-fidelity data: Application to function approximation and inverse PDE problems
{'venue': None, 'journal': 'Journal of Computational Physics', 'mag_field_of_study': ['Mathematics', 'Physics', 'Computer Science']}