Ein „Gedankenexperiment“ sollte auf die Gefahr des Missbrauchs künstlicher Intelligenz hinweisen
Eine neue Studie hat ergeben, dass eine künstliche Intelligenz zur Entwicklung von Medikamenten nur sechs Stunden benötigte, um 40.000 potenziell tödliche chemische Waffen zu entwickeln Papier, Anfang dieses Monats in Nature Machine Intelligence veröffentlicht, sagten, sie hätten das „Gedankenexperiment“ durchgeführt, um herauszufinden, ob künstliche Intelligenz (KI) von bösen Akteuren missbraucht werden könnte. Und die Ergebnisse ihrer Arbeit haben bewiesen, dass die Gefahr real ist. Als Teil der Studie wurden der KI die üblichen Daten gegeben, aber sie wurde darauf programmiert, sie auf andere Weise zu verarbeiten und nach toxischen Kombinationen zu suchen.
„In weniger als sechs Stunden nach dem Start auf unserem internen Server generierte unser Modell 40.000 Moleküle, die innerhalb unseres gewünschten Schwellenwerts lagen“, heißt es in der Zeitung. Es kam nicht nur mit der VX-Verbindung, einem der gefährlichsten Nervenkampfstoffe, die jemals hergestellt wurden, sondern auch mit einigen unbekannten Molekülen, „die vorhergesagt wurden, giftiger zu sein“. enthielten diese Nervenkampfstoffe nicht“, betonten die Forscher. Die Ergebnisse waren so alarmierend, dass das Team ernsthafte Zweifel daran hatte, sie überhaupt zu veröffentlichen, sagte Fabio Urbina, der Hauptautor der Studie, gegenüber The Verge.
„Der Datensatz, den sie für die KI verwendet haben, konnte kostenlos heruntergeladen werden, und sie befürchten, dass es nur etwas Programmierkenntnisse braucht, um eine gute KI in eine Maschine zur Herstellung chemischer Waffen zu verwandeln“, betonte Urbina.
„In weniger als sechs Stunden nach dem Start auf unserem internen Server generierte unser Modell 40.000 Moleküle, die innerhalb unseres gewünschten Schwellenwerts lagen“, heißt es in der Zeitung. Es kam nicht nur mit der VX-Verbindung, einem der gefährlichsten Nervenkampfstoffe, die jemals hergestellt wurden, sondern auch mit einigen unbekannten Molekülen, „die vorhergesagt wurden, giftiger zu sein“. enthielten diese Nervenkampfstoffe nicht“, betonten die Forscher. Die Ergebnisse waren so alarmierend, dass das Team ernsthafte Zweifel daran hatte, sie überhaupt zu veröffentlichen, sagte Fabio Urbina, der Hauptautor der Studie, gegenüber The Verge.
„Der Datensatz, den sie für die KI verwendet haben, konnte kostenlos heruntergeladen werden, und sie befürchten, dass es nur etwas Programmierkenntnisse braucht, um eine gute KI in eine Maschine zur Herstellung chemischer Waffen zu verwandeln“, betonte Urbina.
: