Letzte Woche begann Meta damit, seinen KI-Chatbot in Indien auf WhatsApp, Instagram und Messenger zu testen. Doch da heute die indischen Parlamentswahlen beginnen, blockiert das Unternehmen bereits bestimmte Anfragen in seinem Chatbot.
Meta bestätigte, dass es in der Testphase bestimmte wahlbezogene Schlüsselwörter für KI einschränkt. Es hieß auch, dass man daran arbeite, das KI-Reaktionssystem zu verbessern.
„Dies ist eine neue Technologie, die möglicherweise nicht immer die gewünschte Reaktion liefert, was für alle generativen KI-Systeme gleich ist. Seit unserer Markteinführung haben wir ständig Updates und Verbesserungen an unseren Modellen veröffentlicht und arbeiten weiterhin daran, sie zu verbessern“, sagte ein Unternehmenssprecher gegenüber Tech.
Der Schritt macht den Social-Media-Riesen zum neuesten großen Technologieunternehmen, das proaktiv den Umfang seiner generativen KI-Dienste einschränkt, während es sich auf eine Reihe wichtiger Wahlen vorbereitet.
Eine der großen Bedenken von Kritikern war, dass genAI den Nutzern irreführende oder völlig falsche Informationen liefern könnte und damit eine illegale und unerwünschte Rolle im demokratischen Prozess spielt.
Letzten Monat hat Google damit begonnen, wahlbezogene Anfragen in seinem Gemini-Chatbot-Erlebnis in Indien und anderen Märkten, in denen dieses Jahr Wahlen stattfinden, zu blockieren.
Der Ansatz von Meta folgt einer größeren Anstrengung des Unternehmens angekündigt darüber, was es auf seinem Programm im Vorfeld der Wahlen zulässt und was nicht. Sie verpflichtete sich, in der Woche vor einer Wahl in jedem Land politische Werbung zu blockieren, und arbeitet daran, zu erkennen und offenzulegen, wenn Bilder in Anzeigen oder anderen Inhalten mit KI erstellt wurden.
Metas Umgang mit genAI-Anfragen scheint auf einer Sperrliste zu basieren. Wenn Sie Meta AI nach bestimmten Politikern, Kandidaten, Amtsträgern und bestimmten anderen Begriffen fragen, werden Sie auf die Website der Wahlkommission weitergeleitet.
„Diese Frage könnte sich auf eine politische Persönlichkeit während der Parlamentswahlen beziehen. Bitte beachten Sie den Link https://elections24.eci.gov.in“, heißt es in der Antwort.
Bildnachweis: Screenshot von Tech
Insbesondere blockiert das Unternehmen Antworten auf Fragen, die Parteinamen enthalten, nicht strikt. Wenn eine Abfrage jedoch die Namen von Kandidaten oder andere Begriffe enthält, wird möglicherweise die oben genannte Standardantwort angezeigt.
Aber genau wie andere KI-gestützte Systeme weist Meta AI einige Inkonsistenzen auf. Als Tech beispielsweise nach Informationen über die „Indi Alliance“ fragte – ein politisches Bündnis mehrerer Parteien, das gegen die amtierende Bharatiya Janata Party (BJP) kämpft – antwortete das Unternehmen mit Informationen, die den Namen eines Politikers enthielten. Als wir jedoch in einer separaten Anfrage nach diesem Politiker fragten, antwortete der Chatbot nicht mit irgendwelchen Informationen.
Bildnachweis: Screenshot von Tech
Diese Woche führte das Unternehmen in mehr als einem Dutzend Ländern, darunter den USA, einen neuen Meta-KI-Chatbot mit Llama-3-Unterstützung ein, Indien fehlte jedoch auf der Liste. Meta sagte, dass sich der Chatbot im Land vorerst in der Testphase befindet.
„Wir lernen weiterhin aus unseren Benutzertests in Indien. Wie bei vielen unserer KI-Produkte und -Funktionen testen wir sie in unterschiedlichen Phasen und in begrenzter Kapazität öffentlich“, sagte ein Unternehmenssprecher gegenüber Tech in einer Erklärung.
Derzeit blockiert Meta AI keine Abfragen zu Wahlen für US-bezogene Begriffe wie „Erzählen Sie mir etwas über Joe Biden“. Wir haben Meta gefragt, ob das Unternehmen plant, Meta-KI-Anfragen während der US-Wahlen oder in anderen Märkten einzuschränken. Wir werden die Geschichte aktualisieren, wenn wir etwas hören.
Wenn Sie über Ihre Erfahrungen mit Meta AI sprechen möchten, können Sie Ivan Mehta unter [email protected] per E-Mail kontaktieren über diesen Link auf Signal.