Indien hat sich in die globale KI-Debatte eingemischt, indem es eine Empfehlung herausgegeben hat, die von Technologiefirmen verlangt, vor der Einführung neuer Modelle eine staatliche Genehmigung einzuholen.
Das indische Ministerium für Elektronik und IT hat die Empfehlung am Freitag an Unternehmen herausgegeben. In dem nicht öffentlich zugänglichen Gutachten, von dem Tech jedoch eine Kopie überprüft hat, werden Technologiefirmen außerdem aufgefordert, sicherzustellen, dass ihre Dienstleistungen oder Produkte „keine Voreingenommenheit oder Diskriminierung zulassen oder die Integrität des Wahlprozesses gefährden“.
Obwohl das Ministerium zugibt, dass die Empfehlung nicht rechtsverbindlich ist, sagt Indiens stellvertretender IT-Minister Rajeev Chandrasekhar, dass die Bekanntmachung „signalisiert, dass dies die Zukunft der Regulierung ist“.
Er fügt hinzu: „Wir tun dies heute als Empfehlung und bitten Sie, sich daran zu halten.“
Das Ministerium verweist in seiner Stellungnahme auf die ihm durch das IT-Gesetz von 2000 und die IT-Regeln von 2021 verliehenen Befugnisse. Es strebt eine Einhaltung mit „sofortiger Wirkung“ an und fordert Technologiefirmen auf, dem Ministerium innerhalb von 15 Tagen einen „Maßnahmen-mit-Statusbericht“ vorzulegen.
Der neue Hinweis, der Technologiefirmen auch auffordert, die „mögliche und inhärente Fehlbarkeit oder Unzuverlässigkeit“ der von ihren KI-Modellen generierten Ergebnisse „angemessen“ zu kennzeichnen, markiert eine Kehrtwende gegenüber Indiens bisherigem, unkomplizierten Ansatz bei der KI-Regulierung. Vor weniger als einem Jahr hatte das Ministerium es abgelehnt, das KI-Wachstum zu regulieren, und stattdessen den Sektor als entscheidend für die strategischen Interessen Indiens identifiziert.
Der Schritt Indiens hat viele Führungskräfte der Branche überrascht. Viele indische Start-ups und VCs geben an, dass sie durch die neue Empfehlung verunsichert wurden und glauben, dass eine solche Regulierung die Fähigkeit des Landes beeinträchtigen wird, im globalen Wettlauf mitzuhalten, wo es bereits hinterherhinkt.
„Ich war so dumm zu glauben, ich würde daran arbeiten, GenAI von San Francisco in die indische Landwirtschaft zu bringen.“ schrieb Pratik Desai, Gründer des Startups Kisan AI. „Wir haben ein multimodales, kostengünstiges Schädlings- und Krankheitsmodell trainiert und waren davon sehr begeistert. Das ist schrecklich und demotivierend, nachdem man vier Jahre lang Vollzeit daran gearbeitet hat, KI in diesem Bereich in Indien einzuführen.“
Auch viele Führungskräfte aus dem Silicon Valley kritisierten den politischen Wandel Indiens. Aravind Srinivas, Mitbegründer und Geschäftsführer von Perplexity AI, einem der angesagtesten KI-Startups, sagte, die neue Beratung aus Neu-Delhi sei ein „schlechter Schachzug Indiens.“
Martin Casado, Partner bei der Venture-Firma Andreessen Horowitz, sagte, „Guter verdammter Herr. Was für eine Travestie.“
Der Hinweis folgt darauf, dass Chandrasekhar seine Enttäuschung über eine bestimmte Reaktion von Googles Gemini im letzten Monat zum Ausdruck brachte. Letzten Monat fragte ein Benutzer Gemini, früher bekannt als Bard, ob Indiens Premierminister Narendra Modi ein Faschist sei.
Als Reaktion darauf sagte Gemini – unter Berufung auf Experten, die es nicht identifizierte –, Modi sei vorgeworfen worden, eine Politik umgesetzt zu haben, die einige als faschistisch bezeichnet hatten. Chandrasekhar reagierte auf den Austausch, indem er Google warnte, dass solche Antworten „direkte Verstöße“ gegen die IT-Regeln 2021 sowie „mehrere Bestimmungen des Strafgesetzbuchs“ seien.
Die Nichteinhaltung der Bestimmungen des IT-Gesetzes und der IT-Regeln hätte „potenzielle strafrechtliche Folgen für die Vermittler oder Plattformen oder deren Nutzer, wenn sie identifiziert werden“, heißt es in der Empfehlung weiter.