Im Zuge der jüngsten Kontroverse rund um Google KI-Plattform „Zwillinge“ machen unangenehme Bemerkungen darüber Premierminister Narendra ModiDie Indische Regierung hat eine neue Empfehlung für Social-Media-Unternehmen und andere Online-Plattformen herausgegeben. Der Schritt zielt darauf ab, die Transparenz und Rechenschaftspflicht in Bezug auf die im Land eingesetzten Modelle der künstlichen Intelligenz (KI) zu erhöhen.
Das Ministerium für Elektronik und Informationstechnologie (MeitY) veröffentlichte die Empfehlung am 1. März und warnte Plattformen, dass eine Nichteinhaltung rechtliche Schritte nach sich ziehen könnte. In der Empfehlung wird der Schwerpunkt auf die Verhinderung der Verbreitung rechtswidriger Inhalte gelegt und konkrete Maßnahmen beschrieben:
Kennzeichnung von im Test befindlicher KI: Plattformen müssen alle Modelle der künstlichen Intelligenz, Large Language Models (LLMs) oder generativen KI-Tools, die sich noch in der Entwicklung befinden, deutlich kennzeichnen. Dieses Label soll Benutzer über die „mögliche und inhärente Fehlbarkeit oder Unzuverlässigkeit“ der von diesen Modellen generierten Ergebnisse informieren.
Regierungsgenehmigung für unzuverlässige KI: Social-Media-Unternehmen und andere Plattformen müssen die Genehmigung der Regierung einholen, bevor sie KI-Modelle einsetzen, die als „nicht ausreichend getestet“ oder unzuverlässig gelten.
Einwilligung des Nutzers: Plattformen müssen die ausdrückliche Zustimmung der Benutzer einholen, bevor sie sie in der Erprobung befindlichen oder unzuverlässigen KI-Modellen aussetzen. Dabei könnte es sich um einen „Einwilligungs-Popup“-Mechanismus handeln, der die Möglichkeit ungenauer oder irreführender Ausgaben erläutert.
Der Hinweis folgt heftigen Reaktionen der indischen Regierung, nachdem Googles KI-Plattform Gemini kontroverse Antworten auf Anfragen zu Premierminister Modi hervorgebracht hatte. Der Staatsminister für IT, Rajeev Chandrasekhar, nannte dies einen Verstoß gegen die Gesetze zur Informationstechnologie (IT) und betonte, dass eine „spätere Entschuldigung“ keine Entschuldigung sei.
„Die Folge von Google Gemini ist sehr peinlich“, erklärte Chandrasekhar. Er betonte außerdem die Bedeutung „sicherer und vertrauenswürdiger“ Plattformen innerhalb des indischen Internet-Ökosystems.
Diese neue Empfehlung baut auf früheren Bemühungen von MeitY auf. Im Dezember 2023 gab das Ministerium eine Empfehlung heraus, die sich auf die Bekämpfung von Deepfakes und Fehlinformationen im Internet konzentrierte.
Der Schritt hat Diskussionen über das Gleichgewicht zwischen Innovation und Regulierung im sich schnell entwickelnden Bereich der KI entfacht. Während einige darin einen notwendigen Schritt hin zu einer verantwortungsvollen KI-Entwicklung sehen, äußern andere Bedenken hinsichtlich möglicher Einschränkungen des technologischen Fortschritts.
Das Ministerium für Elektronik und Informationstechnologie (MeitY) veröffentlichte die Empfehlung am 1. März und warnte Plattformen, dass eine Nichteinhaltung rechtliche Schritte nach sich ziehen könnte. In der Empfehlung wird der Schwerpunkt auf die Verhinderung der Verbreitung rechtswidriger Inhalte gelegt und konkrete Maßnahmen beschrieben:
Kennzeichnung von im Test befindlicher KI: Plattformen müssen alle Modelle der künstlichen Intelligenz, Large Language Models (LLMs) oder generativen KI-Tools, die sich noch in der Entwicklung befinden, deutlich kennzeichnen. Dieses Label soll Benutzer über die „mögliche und inhärente Fehlbarkeit oder Unzuverlässigkeit“ der von diesen Modellen generierten Ergebnisse informieren.
Regierungsgenehmigung für unzuverlässige KI: Social-Media-Unternehmen und andere Plattformen müssen die Genehmigung der Regierung einholen, bevor sie KI-Modelle einsetzen, die als „nicht ausreichend getestet“ oder unzuverlässig gelten.
Einwilligung des Nutzers: Plattformen müssen die ausdrückliche Zustimmung der Benutzer einholen, bevor sie sie in der Erprobung befindlichen oder unzuverlässigen KI-Modellen aussetzen. Dabei könnte es sich um einen „Einwilligungs-Popup“-Mechanismus handeln, der die Möglichkeit ungenauer oder irreführender Ausgaben erläutert.
Der Hinweis folgt heftigen Reaktionen der indischen Regierung, nachdem Googles KI-Plattform Gemini kontroverse Antworten auf Anfragen zu Premierminister Modi hervorgebracht hatte. Der Staatsminister für IT, Rajeev Chandrasekhar, nannte dies einen Verstoß gegen die Gesetze zur Informationstechnologie (IT) und betonte, dass eine „spätere Entschuldigung“ keine Entschuldigung sei.
„Die Folge von Google Gemini ist sehr peinlich“, erklärte Chandrasekhar. Er betonte außerdem die Bedeutung „sicherer und vertrauenswürdiger“ Plattformen innerhalb des indischen Internet-Ökosystems.
Diese neue Empfehlung baut auf früheren Bemühungen von MeitY auf. Im Dezember 2023 gab das Ministerium eine Empfehlung heraus, die sich auf die Bekämpfung von Deepfakes und Fehlinformationen im Internet konzentrierte.
Der Schritt hat Diskussionen über das Gleichgewicht zwischen Innovation und Regulierung im sich schnell entwickelnden Bereich der KI entfacht. Während einige darin einen notwendigen Schritt hin zu einer verantwortungsvollen KI-Entwicklung sehen, äußern andere Bedenken hinsichtlich möglicher Einschränkungen des technologischen Fortschritts.