Laut Yoshua Bengio könnte die Technologie intelligenter werden als Menschen und schließlich die Oberhand gewinnen
Die rasante Entwicklung der künstlichen Intelligenz (KI) könnte große Risiken für die Menschheit darstellen, da sie immer schwieriger zu kontrollieren sei, warnte der renommierte Informatiker Yoshua Bengio. Bengio, Professor an der Universität Montreal und Leiter des Montreal Institute for Learning Algorithms, sagte gegenüber CNBC Am Donnerstag sagte er, dass Maschinen bald über die meisten kognitiven Fähigkeiten von Menschen verfügen könnten. Der Wissenschaftler bezog sich auf künstliche allgemeine Intelligenz (AGI), eine Art KI-Technologie, die darauf abzielt, dem menschlichen Intellekt gleichzukommen oder ihn zu übertreffen. „Intelligenz gibt Macht. Wer wird also diese Macht kontrollieren?“ sagte Bengio.
„Wenn wir Einheiten schaffen, die schlauer sind als wir und ihre eigenen Ziele haben, was bedeutet das für die Menschheit? Sind wir in Gefahr?“ fragte er. Der Informatiker verwies auf eine weit verbreitete Befürchtung, dass die derzeit trainierten KI-Maschinen „zu Systemen führen würden, die sich gegen den Menschen wenden“. Er wies darauf hin, dass es sich nur eine begrenzte Anzahl von Organisationen und Regierungen leisten könne, leistungsstarke und kostspielige KI-Maschinen zu bauen. Dies würde zu einer Konzentration wirtschaftlicher, politischer und militärischer Macht führen und letztendlich die geopolitische Stabilität weltweit gefährden, warnte er.
„Es gibt Menschen, die diese Macht möglicherweise missbrauchen wollen, und es gibt Menschen, die sich darüber freuen könnten, dass die Menschheit durch Maschinen ersetzt wird“, sagte er und forderte eine strengere Regulierung. Laut dem Informatiker konkurrieren Unternehmen, die KI entwickeln, miteinander für die weltweite Vorherrschaft im Technologiebereich führen „einen Gefahrenwettlauf“ an und sollten für ihre Handlungen zur Verantwortung gezogen werden. Bengio ist vor allem für seine Pionierarbeit im Bereich Deep Learning bekannt, die ihm zusammen mit den Wissenschaftlern Geoffrey Hinton und Yann LeCun den AM Turing Award 2018 einbrachte, der als „Nobelpreis für Informatik“ bekannt ist. Im Jahr 2019 wurde er mit dem Killam-Preis ausgezeichnet und im Jahr 2022 zum Informatiker mit dem größten Einfluss weltweit, gemessen am H-Index. In den letzten Jahren haben hochkarätige Persönlichkeiten der Technologiebranche Bedenken hinsichtlich des Potenzials geäußert Gefahren, die durch die unregulierte Einführung der KI-Technologie entstehen. Hinton, der als Pionier der KI gilt, hat gewarnt, dass die Welt mit großen Katastrophen rechnen könnte, bevor der Einsatz von KI-Waffen ordnungsgemäß reguliert wird. Bengio gehörte dazu die führenden Persönlichkeiten der Branche, darunter Elon Musk, CEO von Tesla, und Steve Wozniak, Mitbegründer von Apple, die letztes Jahr einen Brief mitunterzeichnet haben, in dem sie eine aggressive Regulierung des KI-Sektors forderten. Im Juni befürwortete er einen weiteren offenen Brief über die „ernsthaften Risiken“ der Technologie. Der Brief wurde von Mitarbeitern von Open AI, dem Erfinder des viralen KI-Chatbots ChatGPT, unterzeichnet.
„Wenn wir Einheiten schaffen, die schlauer sind als wir und ihre eigenen Ziele haben, was bedeutet das für die Menschheit? Sind wir in Gefahr?“ fragte er. Der Informatiker verwies auf eine weit verbreitete Befürchtung, dass die derzeit trainierten KI-Maschinen „zu Systemen führen würden, die sich gegen den Menschen wenden“. Er wies darauf hin, dass es sich nur eine begrenzte Anzahl von Organisationen und Regierungen leisten könne, leistungsstarke und kostspielige KI-Maschinen zu bauen. Dies würde zu einer Konzentration wirtschaftlicher, politischer und militärischer Macht führen und letztendlich die geopolitische Stabilität weltweit gefährden, warnte er.
„Es gibt Menschen, die diese Macht möglicherweise missbrauchen wollen, und es gibt Menschen, die sich darüber freuen könnten, dass die Menschheit durch Maschinen ersetzt wird“, sagte er und forderte eine strengere Regulierung. Laut dem Informatiker konkurrieren Unternehmen, die KI entwickeln, miteinander für die weltweite Vorherrschaft im Technologiebereich führen „einen Gefahrenwettlauf“ an und sollten für ihre Handlungen zur Verantwortung gezogen werden. Bengio ist vor allem für seine Pionierarbeit im Bereich Deep Learning bekannt, die ihm zusammen mit den Wissenschaftlern Geoffrey Hinton und Yann LeCun den AM Turing Award 2018 einbrachte, der als „Nobelpreis für Informatik“ bekannt ist. Im Jahr 2019 wurde er mit dem Killam-Preis ausgezeichnet und im Jahr 2022 zum Informatiker mit dem größten Einfluss weltweit, gemessen am H-Index. In den letzten Jahren haben hochkarätige Persönlichkeiten der Technologiebranche Bedenken hinsichtlich des Potenzials geäußert Gefahren, die durch die unregulierte Einführung der KI-Technologie entstehen. Hinton, der als Pionier der KI gilt, hat gewarnt, dass die Welt mit großen Katastrophen rechnen könnte, bevor der Einsatz von KI-Waffen ordnungsgemäß reguliert wird. Bengio gehörte dazu die führenden Persönlichkeiten der Branche, darunter Elon Musk, CEO von Tesla, und Steve Wozniak, Mitbegründer von Apple, die letztes Jahr einen Brief mitunterzeichnet haben, in dem sie eine aggressive Regulierung des KI-Sektors forderten. Im Juni befürwortete er einen weiteren offenen Brief über die „ernsthaften Risiken“ der Technologie. Der Brief wurde von Mitarbeitern von Open AI, dem Erfinder des viralen KI-Chatbots ChatGPT, unterzeichnet.
: