In Bereichen wie der Physik und den Ingenieurwissenschaften werden partielle Differentialgleichungen (PDEs) zur Modellierung komplexer physikalischer Prozesse verwendet, um Einblicke in die Funktionsweise einiger der kompliziertesten physikalischen und natürlichen Systeme der Welt zu gewinnen.
Um diese schwierigen Gleichungen zu lösen, verwenden Forscher hochauflösende numerische Löser, deren Ausführung sehr zeitaufwändig und rechenintensiv sein kann. Die aktuellen vereinfachten alternativen, datengesteuerten Ersatzmodelle berechnen die Zieleigenschaft einer Lösung für PDEs und nicht die gesamte Lösung. Diese werden anhand eines Datensatzes trainiert, der vom High-Fidelity-Solver generiert wurde, um die Ausgabe der PDEs für neue Eingaben vorherzusagen. Dies ist datenintensiv und teuer, da komplexe physikalische Systeme eine große Anzahl von Simulationen erfordern, um genügend Daten zu generieren.
In einem neues Papier„Physics-enhanced deep surrogates for partielle Differentialgleichungen“, veröffentlicht im Dezember in Naturmaschinenintelligenzwird eine neue Methode zur Entwicklung datengesteuerter Ersatzmodelle für komplexe physikalische Systeme in Bereichen wie Mechanik, Optik, Wärmetransport, Fluiddynamik, physikalische Chemie und Klimamodelle vorgeschlagen.
Der Artikel wurde vom MIT-Professor für angewandte Mathematik Steven G. Johnson zusammen mit Payel Das und Youssef Mroueh vom MIT-IBM Watson AI Lab und IBM Research verfasst; Chris Rackauckas vom Julia Lab; und Raphaël Pestourie, ein ehemaliger MIT-Postdoc, der jetzt an der Georgia Tech ist. Die Autoren nennen ihre Methode „Physics-Enhanced Deep Surrogate“ (PEDS), die einen erklärbaren Physiksimulator mit niedriger Wiedergabetreue und einem neuronalen Netzwerkgenerator kombiniert. Der neuronale Netzwerkgenerator wird durchgehend trainiert, um mit der Ausgabe des numerischen High-Fidelity-Lösers übereinzustimmen.
„Mein Anspruch ist es, den ineffizienten Prozess von Versuch und Irrtum durch systematische, computergestützte Simulation und Optimierung zu ersetzen“, sagt Pestourie. „Jüngste Durchbrüche in der KI wie das große Sprachmodell von ChatGPT basieren auf Hunderten von Milliarden Parametern und erfordern enorme Mengen an Ressourcen zum Trainieren und Auswerten. Im Gegensatz dazu ist PEDS für alle erschwinglich, da es unglaublich effizient in den Rechenressourcen ist und über eine sehr hohe Rechenleistung verfügt geringe Hürde hinsichtlich der für die Nutzung erforderlichen Infrastruktur.“
In dem Artikel zeigen sie, dass PEDS-Surrogate bis zu dreimal genauer sein können als ein Ensemble von Feedforward-Neuronalen Netzen mit begrenzten Daten (ungefähr 1.000 Trainingspunkte) und die erforderlichen Trainingsdaten um mindestens den Faktor 100 reduzieren können, um a zu erreichen Zielfehler von 5 %. Diese wissenschaftliche Methode des maschinellen Lernens wurde mit der vom MIT entwickelten Programmiersprache Julia entwickelt und ist daher sowohl bei der Berechnung als auch bei der Dateneffizienz effizient.
Die Autoren berichten außerdem, dass PEDS eine allgemeine, datengesteuerte Strategie bietet, um die Lücke zwischen einer Vielzahl vereinfachter physikalischer Modelle und entsprechenden numerischen Brute-Force-Lösern zur Modellierung komplexer Systeme zu schließen. Diese Technik bietet Genauigkeit, Geschwindigkeit, Dateneffizienz und physikalische Einblicke in den Prozess.
Pestourie sagt: „Seit den 2000er Jahren, als sich die Rechenkapazitäten verbesserten, ging der Trend bei wissenschaftlichen Modellen dahin, die Anzahl der Parameter zu erhöhen, um die Daten besser anzupassen, manchmal auf Kosten einer geringeren Vorhersagegenauigkeit. PEDS macht das Gegenteil, indem es seine Parameter wählt.“ „Intelligent. Es nutzt die Technologie der automatischen Differenzierung, um ein neuronales Netzwerk zu trainieren, das ein Modell mit wenigen Parametern präzise macht.“
„Die größte Herausforderung, die eine breitere Verwendung von Ersatzmodellen in der Technik verhindert, ist der Fluch der Dimensionalität – die Tatsache, dass die zum Trainieren eines Modells benötigten Daten exponentiell mit der Anzahl der Modellvariablen ansteigen“, sagt Pestourie. „PEDS reduziert diesen Fluch, indem es Informationen aus den Daten und aus dem Feldwissen in Form eines Low-Fidelity-Modelllösers einbezieht.“
Die Forscher sagen, dass PEDS das Potenzial hat, einen ganzen Teil der Literatur aus der Zeit vor 2000, die sich mit Minimalmodellen beschäftigt, wiederzubeleben – intuitive Modelle, die PEDS genauer machen und gleichzeitig Vorhersagen für Ersatzmodellanwendungen treffen könnten.
„Die Anwendung des PEDS-Frameworks geht über das hinaus, was wir in dieser Studie gezeigt haben“, sagt Das. „Komplexe physikalische Systeme, die durch PDEs gesteuert werden, sind allgegenwärtig, von der Klimamodellierung bis zur seismischen Modellierung und darüber hinaus. Unsere von der Physik inspirierten schnellen und erklärbaren Ersatzmodelle werden in diesen Anwendungen von großem Nutzen sein und eine ergänzende Rolle zu anderen neuen Techniken wie Fundamentmodellen spielen.“ .“
Mehr Informationen:
Raphaël Pestourie et al, Physik-verstärkte tiefe Surrogate für partielle Differentialgleichungen, Naturmaschinenintelligenz (2023). DOI: 10.1038/s42256-023-00761-y. Open-Access-PDF: hdl.handle.net/1721.1/153164
Diese Geschichte wurde mit freundlicher Genehmigung von MIT News erneut veröffentlicht (web.mit.edu/newsoffice/), eine beliebte Website mit Neuigkeiten über MIT-Forschung, Innovation und Lehre.