Ingenieure nutzen maschinelles Lernen, um Chaos in Systemen zu messen

Wie messen wir Chaos und warum sollten wir das tun? Gemeinsam nutzen die Penn-Ingenieure Dani S. Bassett, der J. Peter Skirkanich-Professor für Bioingenieurwesen und Elektro- und Systemtechnik sowie der Postdoktorand Kieran Murphy die Leistungsfähigkeit des maschinellen Lernens, um chaotische Systeme besser zu verstehen und Türen für neue Informationsanalysen sowohl in der theoretischen Modellierung als auch in realen Szenarien zu öffnen.

Seit Tausenden von Jahren versuchen Menschen, chaotische Systeme wie Wettermuster, die Bewegung von Planeten und die Populationsökologie zu verstehen und vorherzusagen. Obwohl unsere Modelle im Laufe der Zeit immer besser wurden, wird es immer Hindernisse für eine perfekte Vorhersage geben.

Das liegt daran, dass diese Systeme von Natur aus chaotisch sind. Nicht in dem Sinne, dass sich blauer Himmel und Sonnenschein innerhalb einer Sekunde in Gewitter und sintflutartige Regenfälle verwandeln können, obwohl das durchaus vorkommt, sondern in dem Sinne, dass Wettermuster und andere chaotische Systeme mathematisch von physikalischen Gesetzen mit nichtlinearen Eigenschaften bestimmt werden.

„Diese Nichtlinearität ist für chaotische Systeme von grundlegender Bedeutung“, sagt Murphy. „Im Gegensatz zu linearen Systemen, bei denen die Informationen, mit denen man vorhersagt, was zu zukünftigen Zeitpunkten passieren wird, im Laufe der Zeit gleich bleiben, können Informationen in nichtlinearen Systemen im Laufe der Zeit sowohl verloren gehen als auch neu entstehen.“

Wie bei einem Stille-Post-Spiel, bei dem Informationen aus der Originalquelle verloren gehen, während sie von Person zu Person weitergegeben werden, während neue Wörter und Sätze hinzugefügt werden, um die Lücken zu füllen, werden Ergebnisse in chaotischen Systemen mit der Zeit immer schwerer vorherzusagen. Diese Informationsverzögerung vereitelt unsere besten Bemühungen, das Wetter mehr als ein paar Tage im Voraus genau vorherzusagen.

„Man könnte Millionen von Sonden in die Atmosphäre schicken, um Windgeschwindigkeit, Temperatur und Niederschlag zu messen, aber man kann nicht jedes einzelne Atom im System messen“, sagt Murphy.

„Es muss ein gewisses Maß an Unsicherheit geben, das dann wächst, und zwar schnell. Eine Wettervorhersage für ein paar Stunden kann also ziemlich genau sein, aber die wachsende Unsicherheit macht es mit der Zeit unmöglich, das Wetter in einem Monat vorherzusagen.“

In ihrer Aktuelles Papier veröffentlicht in Briefe zur körperlichen ÜberprüfungMurphy und Bassett haben maschinelles Lernen auf klassische Chaosmodelle angewendet, bei denen es sich um physikalische Reproduktionen chaotischer Systeme handelt, die weder externes Rauschen noch Modellierungsfehler aufweisen. Ziel war es, eine nahezu perfekte Messung chaotischer Systeme zu entwickeln, die eines Tages unser Verständnis von Systemen, einschließlich Wettermustern, verbessern soll.

„Diese kontrollierten Systeme sind Testumgebungen für unsere Experimente“, sagt Murphy.

„Sie ermöglichen uns einen Vergleich mit theoretischen Vorhersagen und eine sorgfältige Bewertung unserer Methode, bevor wir zu realen Systemen übergehen, wo alles chaotisch ist und viel weniger bekannt ist. Letztendlich ist es unser Ziel, ‚Informationskarten‘ von realen Systemen zu erstellen, die anzeigen, wo Informationen erstellt werden, und die identifizieren, welche Informationen in einem Meer scheinbar zufälliger Daten wichtig sind.“

Frühere Studien haben andere Arten von Messungen verwendet, um die Informationserzeugung in chaotischen Systemen zu beschreiben, wie etwa Ljapunow-Exponenten, die die exponentielle Divergenz oder Konvergenz von Punkten beschreiben, die sich in Raum und Zeit bewegen. Dieser Ansatz erfordert jedoch entweder die Kenntnis der maßgebenden Gleichungen in einem bestimmten System oder riesige Datenmengen. Durch den Einsatz maschinellen Lernens kann ein neuer Ansatz die Informationserzeugung in chaotischen Systemen mit viel weniger Daten beschreiben.

Maschinelles Lernen wird traditionell eingesetzt, um Muster in großen Datensätzen zu erkennen und dann Vorhersagen darüber zu treffen, wie sich diese Daten im Laufe der Zeit, an verschiedenen Orten oder unter Berücksichtigung anderer Variablen verhalten. In Murphys Studie zum Chaos verwendet er maschinelles Lernen nicht, um Vorhersagen zu treffen; vielmehr nutzt er maschinelles Lernen, um ein ganzes chaotisches System zu erfassen und auf eine einzige Messung zu reduzieren.

„Unsere Messungen basieren auf Deep Learning, einem Algorithmus, der zu jedem Zeitpunkt Informationen aus allen Zuständen des Systems extrahiert“, sagt er. „Wir sind in der Lage, diese komplexen Systeme zu nehmen und die Essenz ihrer Dynamik in Fällen herauszufiltern, die für unsere menschliche Intuition zu kompliziert wären, um sie auseinanderzunehmen und zu verstehen.“

Indem möglichst viele wichtige Informationen beibehalten und möglichst viele unwichtige Informationen verworfen werden, kommt die resultierende Messung einer perfekten Messung chaotischer Systeme näher und bringt uns der Entwicklung besserer Messungen für die Wettervorhersage und dem Verständnis der grundlegenden Hindernisse für Vorhersagen einen Schritt näher.

In seiner Arbeit verwendet Murphy maschinelles Lernen, um multivariate Informationstheorie zu betreiben, das heißt, er versucht, Systeme mit mehreren Informationsquellen zu verstehen (was für fast alle Systeme zutrifft). Normalerweise hat er diese Systeme zu einem Zeitpunkt untersucht, etwa in einem Szenario, in dem ein Patient in eine Arztpraxis kommt und viele verschiedene Tests zur Bestimmung seines Gesundheitszustands durchgeführt werden. Doch jetzt, mit seiner Arbeit über das Chaos, entwickelt Murphy Methoden, um Systeme über die Zeit hinweg zu verstehen, wobei die Zeit eine weitere Variable in dieser multivariaten Perspektive wird.

„Mit jedem System, das wir untersuchen, entwickeln wir ein leistungsstarkes Framework zur Darstellung der Informationen in Daten, das durch die einzigartigen Stärken des maschinellen Lernens möglich wird“, sagt er. „Ich bin immer wieder erstaunt über die Tiefe der Erkenntnisse, die wir aus Daten gewinnen können, und ich bin gespannt auf die neuen Richtungen, die dieses Chaosprojekt für die Untersuchung der Dynamik komplexer Systeme eröffnet.“

Die Arbeit von Murphy und Bassett zum Thema Chaos gab auch Anlass zur Untersuchung dynamischer Systeme im menschlichen Körper.

„Die Fähigkeit, die Informationserzeugung in komplexen dynamischen Systemen zu verstehen, motiviert nun neue Ansätze zu einer der Kernfragen des Labors: Wie ermöglicht das Gehirn den Geist?“, sagt Bassett. „Die Entschlüsselung der Informationserzeugung im menschlichen Gehirn verspricht bemerkenswerte Auswirkungen auf die geistige Gesundheit und das Wohlbefinden.“

Obwohl absolute Gewissheit nicht möglich ist, haben Menschen den angeborenen Wunsch, danach zu streben. Wenn wir unsere Fähigkeit verbessern, diese dynamischen Systeme vorherzusagen und zu verstehen, kommen wir dieser Gewissheit nicht nur näher, sondern das Streben danach und die neuen Werkzeuge, die wir darin integrieren, können uns auch dabei helfen, Muster und Daten über den Tellerrand hinaus zu interpretieren und so innovative Lösungen für reale Probleme zu finden, von der Wettervorhersage bis zur medizinischen Diagnostik und der Verbesserung unserer allgemeinen Lebensqualität.