Apple hat seinen KI-generierten Nachrichtenbenachrichtigungsdienst aufgrund von Beschwerden über gefälschte Inhalte eingestellt. Mehreren Medienberichten zufolge hat der US-amerikanische Technologieriese am Donnerstag ein Software-Update veröffentlicht, das die Funktion für Nachrichten- und Unterhaltungsbenachrichtigungen deaktiviert. Auslöser für den Schritt waren mehrere Fälle, in denen die KI-Funktion irreführende Benachrichtigungen erzeugte. Insbesondere wurde in einer Zusammenfassung fälschlicherweise darauf hingewiesen, dass Luigi Mangione, der des Mordes an Brian Thompson, CEO von UnitedHealthcare, beschuldigt wurde, sich selbst erschossen hatte – eine falsche Behauptung, die der BBC zugeschrieben wurde. Zu den weiteren fehlerhaften Warnungen gehörte eine Benachrichtigung, dass der Dartspieler Luke Littler die PDC World Darts Championship vor dem Ereignis gewonnen hatte, und eine weitere, in der fälschlicherweise behauptet wurde, Tennisstar Rafael Nadal habe sich als schwul geoutet. Diese Ungenauigkeiten führten dazu, dass die BBC im Dezember eine formelle Beschwerde bei Apple einreichte und ihre Besorgnis über die falsche Darstellung ihrer Nachrichteninhalte zum Ausdruck brachte. Die von der KI generierten Zusammenfassungen wurden mit dem Logo der BBC angezeigt, was die Benutzer zu der Annahme verleitete, dass die Informationen direkt vom Sender stammten. „Mit den neuesten Beta-Softwareversionen von iOS 18.3, iPadOS 18.3 und macOS Sequoia 15.3 werden Benachrichtigungszusammenfassungen für die Kategorie „Nachrichten und Unterhaltung“ vorübergehend nicht verfügbar sein“, zitierte BBC am Freitag einen Apple-Sprecher.
„Wir arbeiten an Verbesserungen und werden diese in einem zukünftigen Software-Update verfügbar machen“, fügte der Sprecher hinzu. Laut BBC spricht die Entscheidung, die Funktion einzustellen, „Bände darüber, wie schädlich die Fehler sind, die durch die vielbeschworene neue KI-Funktion verursacht werden.“ Nach dem Vorfall mit der BBC im Dezember warnte die Pressefreiheitsgruppe Reporter ohne Grenzen, dass „generative KI-Dienste noch zu unausgereift sind, um verlässliche Informationen für die Öffentlichkeit zu produzieren, und für solche Zwecke nicht auf den Markt gebracht werden sollten.“ Eine Studie vom Juli 2024 von der Cornell University in New York beschrieb die vorherrschenden „Halluzinationen“ von Top-KI-Modellen als „eine große Herausforderung“.
„Wir arbeiten an Verbesserungen und werden diese in einem zukünftigen Software-Update verfügbar machen“, fügte der Sprecher hinzu. Laut BBC spricht die Entscheidung, die Funktion einzustellen, „Bände darüber, wie schädlich die Fehler sind, die durch die vielbeschworene neue KI-Funktion verursacht werden.“ Nach dem Vorfall mit der BBC im Dezember warnte die Pressefreiheitsgruppe Reporter ohne Grenzen, dass „generative KI-Dienste noch zu unausgereift sind, um verlässliche Informationen für die Öffentlichkeit zu produzieren, und für solche Zwecke nicht auf den Markt gebracht werden sollten.“ Eine Studie vom Juli 2024 von der Cornell University in New York beschrieb die vorherrschenden „Halluzinationen“ von Top-KI-Modellen als „eine große Herausforderung“.
LESEN SIE MEHR: „Der Pate der KI“ warnt die Menschheit erneut
Die Integration von KI in den Journalismus wird immer häufiger. Eine im Jahr 2023 von der London School of Economics durchgeführte Umfrage ergab, dass fast drei von vier Nachrichtenorganisationen KI entweder bei der Nachrichtensammlung, -produktion oder -verbreitung einsetzen.
: