Der neueste Global Risks Report des Weltwirtschaftsforums identifiziert falsche und irreführende Informationen, die durch fortschrittliche künstliche Intelligenz hervorgerufen werden, als größtes Risiko für die Welt globale Wirtschaft. Der „Global Risks Report 2024“ der Weltwirtschaftsforum wurde am Mittwoch veröffentlicht. In der Top-10-Risikoliste der nächsten zwei Jahre wurden die mit KI-generierten Fehlinformationen und Desinformationen verbundenen Gefahren und deren Auswirkungen auf die soziale Polarisierung als bedeutender eingestuft als die Gefahren im Zusammenhang mit Klimawandel, Krieg und wirtschaftlicher Schwäche.
Für diesen Bericht wurden Experten, Branchenführer und politische Entscheidungsträger befragt, die hervorheben, wie technologische Fortschritte bestehende Probleme verschärfen und neue schaffen. Die Autoren sind besonders besorgt über KI-Chatbots wie ChatGPT, die komplexe Probleme schaffen können synthetischer Inhalt das manipuliert Menschen unabhängig von ihrem Fachwissen.
Der Bericht betont, wie wichtig es ist, dieses Problem anzugehen, insbesondere da in mehreren Ländern in den kommenden Jahren Wahlen anstehen. Die Möglichkeit, KI für Deepfakes und groß angelegte Fehlinformationskampagnen zu nutzen, könnte Gesellschaften weiter polarisieren und demokratische Prozesse untergraben.
„Durchbrüche bei der künstlichen Intelligenz werden die Risikoaussichten von Organisationen radikal verändern, da viele Schwierigkeiten haben, auf Bedrohungen zu reagieren, die durch Fehlinformationen, Desintermediation und strategische Fehleinschätzungen entstehen“, sagte Carolina Klint, Leiterin des Risikomanagements bei Marsh, dessen Muttergesellschaft Marsh McLennan Mitautorin des Buches ist Bericht mit der Zurich Insurance Group. „Es bedarf einer unermüdlichen Konzentration auf den Aufbau von Widerstandsfähigkeit auf Organisations-, Länder- und internationaler Ebene – und einer stärkeren Zusammenarbeit zwischen dem öffentlichen und dem privaten Sektor – um diese sich schnell entwickelnde Risikolandschaft zu meistern.“
KI wirft auch andere Anliegen auf, beispielsweise die Erleichterung Cyberangriffe durch die Automatisierung von Phishing-Versuchen und die Erstellung fortschrittlicher Malware. Darüber hinaus kann KI Vorurteile aufrechterhalten, indem sie Daten vergiftet, die zum Trainieren anderer KI-Systeme verwendet werden, was es äußerst schwierig macht, die Auswirkungen umzukehren.
Laut Klint könnten die Gesellschaften stärker gespalten werden, da die Menschen Schwierigkeiten haben, Informationen zu überprüfen. Falsche Informationen könnten auch dazu verwendet werden, Zweifel an der Legitimität gewählter Regierungen zu schüren, was zu einer Erosion demokratischer Prozesse und einer weiteren Spaltung der Gesellschaft führen könnte. Klint wies auch auf die Gefahren von KI hin, die es böswilligen Akteuren erleichtern kann, Cyberangriffe durchzuführen, einschließlich der Automatisierung von Phishing-Versuchen oder der Erstellung fortschrittlicher Malware. Laut Klint könnten auch Personen mit begrenztem Fachwissen KI zur Durchführung von Angriffen nutzen.
Diese Ergebnisse werden bei den kommenden Treffen in Davos diskutiert, bei denen führende Technologieunternehmen und Akteure der KI-Branche anwesend sein werden.
Für diesen Bericht wurden Experten, Branchenführer und politische Entscheidungsträger befragt, die hervorheben, wie technologische Fortschritte bestehende Probleme verschärfen und neue schaffen. Die Autoren sind besonders besorgt über KI-Chatbots wie ChatGPT, die komplexe Probleme schaffen können synthetischer Inhalt das manipuliert Menschen unabhängig von ihrem Fachwissen.
Der Bericht betont, wie wichtig es ist, dieses Problem anzugehen, insbesondere da in mehreren Ländern in den kommenden Jahren Wahlen anstehen. Die Möglichkeit, KI für Deepfakes und groß angelegte Fehlinformationskampagnen zu nutzen, könnte Gesellschaften weiter polarisieren und demokratische Prozesse untergraben.
„Durchbrüche bei der künstlichen Intelligenz werden die Risikoaussichten von Organisationen radikal verändern, da viele Schwierigkeiten haben, auf Bedrohungen zu reagieren, die durch Fehlinformationen, Desintermediation und strategische Fehleinschätzungen entstehen“, sagte Carolina Klint, Leiterin des Risikomanagements bei Marsh, dessen Muttergesellschaft Marsh McLennan Mitautorin des Buches ist Bericht mit der Zurich Insurance Group. „Es bedarf einer unermüdlichen Konzentration auf den Aufbau von Widerstandsfähigkeit auf Organisations-, Länder- und internationaler Ebene – und einer stärkeren Zusammenarbeit zwischen dem öffentlichen und dem privaten Sektor – um diese sich schnell entwickelnde Risikolandschaft zu meistern.“
KI wirft auch andere Anliegen auf, beispielsweise die Erleichterung Cyberangriffe durch die Automatisierung von Phishing-Versuchen und die Erstellung fortschrittlicher Malware. Darüber hinaus kann KI Vorurteile aufrechterhalten, indem sie Daten vergiftet, die zum Trainieren anderer KI-Systeme verwendet werden, was es äußerst schwierig macht, die Auswirkungen umzukehren.
Laut Klint könnten die Gesellschaften stärker gespalten werden, da die Menschen Schwierigkeiten haben, Informationen zu überprüfen. Falsche Informationen könnten auch dazu verwendet werden, Zweifel an der Legitimität gewählter Regierungen zu schüren, was zu einer Erosion demokratischer Prozesse und einer weiteren Spaltung der Gesellschaft führen könnte. Klint wies auch auf die Gefahren von KI hin, die es böswilligen Akteuren erleichtern kann, Cyberangriffe durchzuführen, einschließlich der Automatisierung von Phishing-Versuchen oder der Erstellung fortschrittlicher Malware. Laut Klint könnten auch Personen mit begrenztem Fachwissen KI zur Durchführung von Angriffen nutzen.
Diese Ergebnisse werden bei den kommenden Treffen in Davos diskutiert, bei denen führende Technologieunternehmen und Akteure der KI-Branche anwesend sein werden.