Der US-Börsenaufsichtsbehörde (SEC) hat Bedenken hinsichtlich der möglichen Auswirkungen generativer KI auf die Finanzmärkte geäußert. Sprechen am Nationaler Presseclub am Montag, SEC-Vorsitzender Gary Gensler betonte, dass die jüngsten Fortschritte in der generativen KI zu Instabilität in der Weltwirtschaft führen könnten.
Gensler befürchtet, dass KI dazu führen könnte, dass Institutionen bei kritischen Entscheidungen auf denselben begrenzten Informationsbestand angewiesen sind, was zu einem Szenario ähnlich der Finanzkrise von 2008 führen könnte.
Laut Gensler würde der hohe Bedarf an Daten und Rechenleistung, die für die Entwicklung künstlicher Intelligenz für Finanzmärkte erforderlich sind, dazu führen, dass nur wenige große Technologieunternehmen diesen Bereich monopolisieren, was möglicherweise zu einer Destabilisierung der Weltwirtschaft führen würde.
Gensler warnte, dass ein zentralisierter Datensatz oder ein zentralisiertes Modell im Finanzwesen ähnliche Folgen haben könnte wie die Krise von 2008.
Wenn ein Modell ungenaue oder irrelevante Informationen liefert, könnten sich Finanzinstitute am Ende auf fehlerhafte Daten verlassen und schlechte Entscheidungen treffen, argumentiert Gensler. Dadurch entsteht ein ähnliches Risiko wie bei der Finanzkrise 2008, als Banken dem Beispiel von Kreditzinsen folgten, die auf fehlerhaften Informationen oder dem von Twitter angeheizten Ansturm beruhten Silicon Valley Bank.
„KI kann die finanzielle Fragilität erhöhen, da sie Herdenbildung fördern könnte, bei der einzelne Akteure ähnliche Entscheidungen treffen, weil sie das gleiche Signal von einem Basismodell oder Datenaggregator erhalten“, sagte Gensler. Darüber hinaus erwähnte er, dass das Aufkommen generativer KI und anderer Deep-Learning-Modelle die angeborene Netzwerkinterdependenz des weltweiten Finanzsystems verschlechtern könnte.
Gensler erwähnte, dass generative KI im Finanzbereich noch nicht weit verbreitet sei. Finanzinstitute setzen jedoch schon seit einiger Zeit auf KI. Unternehmen haben KI-Systeme für Aufgaben wie die Analyse von Finanzdaten und die Aufdeckung von Betrug eingesetzt, und sogar die SEC nutzt KI zur Marktüberwachung.
Der SEC-Vorsitzende hat in den letzten Monaten immer wieder gewarnt, dass eine Nichtregulierung der KI dem globalen Finanzsystem und der Wirtschaft schaden könnte. Sich ausschließlich auf Risikomanagement-Tools zu verlassen, wird nicht ausreichen, um die von fortschrittlichen KI-Tools ausgehenden Risiken zu mindern, sagt Gensler. Darüber hinaus fügte er hinzu, dass bestehende Sicherheitsvorkehrungen durch Durchbrüche in der Datenanalyse veraltet seien.
Wenn das KI-System einer Handelsplattform die Interessen sowohl der Plattform als auch ihrer Kunden berücksichtigt, können Interessenkonflikte entstehen, bemerkte Gensler. In seiner Rede erwähnte er, dass er die Mitarbeiter der SEC gebeten habe, neue Regulierungsvorschläge zur Lösung dieses Problems vorzulegen.
Die SEC unternimmt Schritte, um Vorschriften zu entwickeln, die den Einsatz von KI und maschinellem Lernen durch Anlageberater und Broker-Dealer regeln. Mögliche Regelvorschläge werden voraussichtlich noch in diesem Jahr bekannt gegeben. Diese Vorschriften zielen darauf ab, potenzielle Interessenkonflikte anzugehen, die durch den Einsatz von KI im Finanzwesen entstehen können.
Gensler befürchtet, dass KI dazu führen könnte, dass Institutionen bei kritischen Entscheidungen auf denselben begrenzten Informationsbestand angewiesen sind, was zu einem Szenario ähnlich der Finanzkrise von 2008 führen könnte.
Laut Gensler würde der hohe Bedarf an Daten und Rechenleistung, die für die Entwicklung künstlicher Intelligenz für Finanzmärkte erforderlich sind, dazu führen, dass nur wenige große Technologieunternehmen diesen Bereich monopolisieren, was möglicherweise zu einer Destabilisierung der Weltwirtschaft führen würde.
Gensler warnte, dass ein zentralisierter Datensatz oder ein zentralisiertes Modell im Finanzwesen ähnliche Folgen haben könnte wie die Krise von 2008.
Wenn ein Modell ungenaue oder irrelevante Informationen liefert, könnten sich Finanzinstitute am Ende auf fehlerhafte Daten verlassen und schlechte Entscheidungen treffen, argumentiert Gensler. Dadurch entsteht ein ähnliches Risiko wie bei der Finanzkrise 2008, als Banken dem Beispiel von Kreditzinsen folgten, die auf fehlerhaften Informationen oder dem von Twitter angeheizten Ansturm beruhten Silicon Valley Bank.
„KI kann die finanzielle Fragilität erhöhen, da sie Herdenbildung fördern könnte, bei der einzelne Akteure ähnliche Entscheidungen treffen, weil sie das gleiche Signal von einem Basismodell oder Datenaggregator erhalten“, sagte Gensler. Darüber hinaus erwähnte er, dass das Aufkommen generativer KI und anderer Deep-Learning-Modelle die angeborene Netzwerkinterdependenz des weltweiten Finanzsystems verschlechtern könnte.
Gensler erwähnte, dass generative KI im Finanzbereich noch nicht weit verbreitet sei. Finanzinstitute setzen jedoch schon seit einiger Zeit auf KI. Unternehmen haben KI-Systeme für Aufgaben wie die Analyse von Finanzdaten und die Aufdeckung von Betrug eingesetzt, und sogar die SEC nutzt KI zur Marktüberwachung.
Der SEC-Vorsitzende hat in den letzten Monaten immer wieder gewarnt, dass eine Nichtregulierung der KI dem globalen Finanzsystem und der Wirtschaft schaden könnte. Sich ausschließlich auf Risikomanagement-Tools zu verlassen, wird nicht ausreichen, um die von fortschrittlichen KI-Tools ausgehenden Risiken zu mindern, sagt Gensler. Darüber hinaus fügte er hinzu, dass bestehende Sicherheitsvorkehrungen durch Durchbrüche in der Datenanalyse veraltet seien.
Wenn das KI-System einer Handelsplattform die Interessen sowohl der Plattform als auch ihrer Kunden berücksichtigt, können Interessenkonflikte entstehen, bemerkte Gensler. In seiner Rede erwähnte er, dass er die Mitarbeiter der SEC gebeten habe, neue Regulierungsvorschläge zur Lösung dieses Problems vorzulegen.
Die SEC unternimmt Schritte, um Vorschriften zu entwickeln, die den Einsatz von KI und maschinellem Lernen durch Anlageberater und Broker-Dealer regeln. Mögliche Regelvorschläge werden voraussichtlich noch in diesem Jahr bekannt gegeben. Diese Vorschriften zielen darauf ab, potenzielle Interessenkonflikte anzugehen, die durch den Einsatz von KI im Finanzwesen entstehen können.