Das KI-Startup Anthropic ändert seine Richtlinien, um Minderjährigen die Nutzung seiner generativen KI-Systeme zu ermöglichen – zumindest unter bestimmten Umständen.
Angekündigt in a Post Auf dem offiziellen Blog des Unternehmens am Freitag wird Anthropic damit beginnen, Teenagern und Jugendlichen die Nutzung von Drittanbieter-Apps (aber nicht notwendigerweise seiner eigenen Apps) zu gestatten, die auf seinen KI-Modellen basieren, solange die Entwickler dieser Apps bestimmte Sicherheitsfunktionen implementieren und den Benutzern offenlegen, welche Anthropische Technologien, die sie nutzen.
In einem Support-ArtikelAnthropic listet mehrere Sicherheitsmaßnahmen auf, die Entwickler, die KI-gestützte Apps für Minderjährige erstellen, einschließen sollten, wie Altersverifizierungssysteme, Inhaltsmoderation und -filterung sowie Bildungsressourcen zur „sicheren und verantwortungsvollen“ KI-Nutzung für Minderjährige. Das sagt das Unternehmen auch Mai Bereitstellung „technischer Maßnahmen“, die darauf abzielen, die Erfahrung von KI-Produkten auf Minderjährige zuzuschneiden, wie z. B. eine „Eingabeaufforderung für Kindersicherheitssysteme“, die von Entwicklern für Minderjährige implementiert werden müsste.
Entwickler, die die KI-Modelle von Anthropic verwenden, müssen auch „geltende“ Kindersicherheits- und Datenschutzbestimmungen einhalten, wie zum Beispiel den Children’s Online Privacy Protection Act (COPPA), das US-Bundesgesetz, das die Online-Privatsphäre von Kindern unter 13 Jahren schützt. Anthropic sagt, dass dies geplant ist Apps „regelmäßig“ auf Konformität zu überprüfen, die Konten derjenigen zu sperren oder zu sperren, die wiederholt gegen die Compliance-Anforderung verstoßen, und zu verlangen, dass Entwickler auf öffentlich zugänglichen Websites oder in Dokumentationen „klar angeben“, dass sie die Compliance einhalten.
„Es gibt bestimmte Anwendungsfälle, in denen KI-Tools jüngeren Benutzern erhebliche Vorteile bieten können, beispielsweise bei der Prüfungsvorbereitung oder der Nachhilfeunterstützung“, schreibt Anthropic in dem Beitrag. „Vor diesem Hintergrund erlaubt unsere aktualisierte Richtlinie Organisationen, unsere API in ihre Produkte für Minderjährige zu integrieren, wenn sie sich bereit erklären, bestimmte Sicherheitsfunktionen zu implementieren und ihren Benutzern offenzulegen, dass ihr Produkt ein KI-System nutzt.“
Die Änderung der Politik von Anthropic erfolgt, da Kinder und Jugendliche nicht nur bei der Unterstützung generativer KI-Tools zunehmend auf Hilfe zurückgreifen Schularbeit aber persönliche Probleme, und da konkurrierende Anbieter generativer KI – darunter Google und OpenAI – Anwendungsfälle für Kinder erforschen. In diesem Jahr hat OpenAI ein neues Team zur Untersuchung der Kindersicherheit gebildet und eine Partnerschaft mit Common Sense Media angekündigt, um an kinderfreundlichen KI-Richtlinien zusammenzuarbeiten. In der Zwischenzeit hat Google seinen Chatbot Bard (inzwischen in Gemini umbenannt) für Jugendliche in ausgewählten Ländern auf Englisch verfügbar gemacht.
Laut a Umfrage Laut dem Center for Democracy and Technology geben 29 % der Kinder an, generative KI wie ChatGPT von OpenAI zur Bewältigung von Ängsten oder psychischen Problemen genutzt zu haben, 22 % für Probleme mit Freunden und 16 % für familiäre Konflikte.
Im vergangenen Sommer beeilten sich Schulen und Hochschulen, generative KI-Apps – insbesondere ChatGPT – zu verbieten, weil sie Plagiate und Fehlinformationen befürchteten. Seitdem haben es einige getan umgedreht ihre Verbote. Aber nicht alle sind vom Potenzial der generativen KI für etwas Gutes überzeugt, heißt es Umfragen Wie das britische Safer Internet Centre, das herausfand, dass mehr als die Hälfte der Kinder (53 %) berichten, dass sie gesehen haben, wie Menschen in ihrem Alter generative KI auf negative Weise nutzen – zum Beispiel durch die Erstellung glaubwürdiger falscher Informationen oder durch die Erstellung von Bildern, die dazu dienen, jemanden zu verärgern (einschließlich pornografischer Deepfakes).
Die Forderungen nach Richtlinien für die Nutzung generativer KI durch Kinder nehmen zu.
Die UN-Organisation für Erziehung, Wissenschaft und Kultur (UNESCO) Ende letzten Jahres geschoben dass Regierungen den Einsatz generativer KI im Bildungswesen regulieren, einschließlich der Einführung von Altersgrenzen für Benutzer und Richtlinien zum Datenschutz und zur Privatsphäre der Benutzer. „Generative KI kann eine enorme Chance für die menschliche Entwicklung sein, aber sie kann auch Schaden und Vorurteile verursachen“, sagte Audrey Azoulay, Generaldirektorin der UNESCO, in einer Pressemitteilung. „Ohne öffentliches Engagement und die notwendigen Schutzmaßnahmen und Vorschriften der Regierungen kann es nicht in die Bildung integriert werden.“