OpenAI hofft, das Vertrauen von Eltern – und politischen Entscheidungsträgern – zu gewinnen, indem es mit Organisationen zusammenarbeitet, die sich dafür einsetzen, Schäden durch Technologie und Medien für Kinder, Jugendliche und Jugendliche zu minimieren.
So gab OpenAI heute eine Partnerschaft mit Common Sense Media bekannt, der gemeinnützigen Organisation, die die Eignung verschiedener Medien und Technologien für Kinder prüft und bewertet, um an KI-Richtlinien und Bildungsmaterialien für Eltern, Pädagogen und junge Erwachsene zusammenzuarbeiten.
Im Rahmen der Partnerschaft wird OpenAI mit Common Sense Media zusammenarbeiten, um „familienfreundliche“ GPTs – Chatbot-Apps, die auf den GenAI-Modellen von OpenAI basieren – im GPT Store, dem GPT-Marktplatz von OpenAI, basierend auf den Bewertungs- und Bewertungsstandards von Common Sense, OpenAI, zu kuratieren Sagt CEO Sam Altman.
„KI bietet unglaubliche Vorteile für Familien und Jugendliche, und unsere Partnerschaft mit Common Sense wird unsere Sicherheitsarbeit weiter stärken und sicherstellen, dass Familien und Jugendliche unsere Werkzeuge mit Zuversicht nutzen können“, fügte Altman in einer vorgefertigten Erklärung hinzu.
Der Start der Partnerschaft erfolgt, nachdem OpenAI bekannt gegeben hat, dass es sich an dem im September eingeführten neuen Framework von Common Sense für Bewertungen und Rezensionen zur Bewertung der Sicherheit, Transparenz, ethischen Nutzung und Wirkung von KI-Produkten beteiligen wird. Laut James Steyer, Mitbegründer und CEO von Common Sense, zielt das Framework von Common Sense darauf ab, eine „Nährwertkennzeichnung“ für KI-gestützte Apps zu erstellen, um Licht auf die Kontexte zu werfen, in denen die Apps verwendet werden, und um Bereiche hervorzuheben, in denen potenzielle Chancen und Risiken bestehen eine Reihe von Grundsätzen des „gesunden Menschenverstandes“.
Das OpenAI-Logo wird auf einem Smartphone-Bildschirm vor einem Computerbildschirm mit dem ChatGPT-Logo angezeigt.
In einer Pressemitteilung wies Steyer darauf hin, dass die heutigen Eltern im Allgemeinen immer noch weniger über GenAI-Tools – zum Beispiel den viralen KI-gestützten Chatbot ChatGPT von OpenAI – wissen als jüngere Generationen. Eine Ende letzten Jahres von Common Sense Media in Auftrag gegebene Impact Research-Umfrage ergab, dass 58 % der Schüler im Alter von 12 bis 18 Jahren ChatGPT verwendet haben, verglichen mit 30 % der Eltern von Kindern im schulpflichtigen Alter.
„Gemeinsam werden Common Sense und OpenAI daran arbeiten, sicherzustellen, dass KI einen positiven Einfluss auf alle Teenager und Familien hat“, sagte Steyer in einer per E-Mail gesendeten Erklärung. „Unsere Leitfäden und Kuratoren sollen Familien und Pädagogen über den sicheren und verantwortungsvollen Umgang mit Wasser aufklären [OpenAI tools like] ChatGPT, damit wir gemeinsam alle unbeabsichtigten Folgen dieser neuen Technologie vermeiden können.“
OpenAI steht unter dem Druck der Regulierungsbehörden, zu zeigen, dass seine GenAI-basierten Apps, einschließlich ChatGPT, insgesamt ein Segen für die Gesellschaft sind – und kein Nachteil für sie. Erst letzten Sommer leitete die US-amerikanische Federal Trade Commission eine Untersuchung zu OpenAI ein, in der es darum ging, ob ChatGPT den Verbrauchern durch die Sammlung von Daten und die Veröffentlichung falscher Angaben zu Einzelpersonen Schaden zugefügt hat. Auch europäische Datenbehörden haben ihre Besorgnis über den Umgang mit privaten Informationen durch OpenAI geäußert.
Die Tools von OpenAI neigen, wie alle GenAI-Tools, dazu, Dinge selbstbewusst zu erfinden und grundlegende Fakten falsch zu verstehen. Und sie sind voreingenommen – ein Spiegelbild der Daten, die zu ihrer Schulung verwendet wurden.
Kinder und Jugendliche wenden sich zunehmend an sie, ob sie sich der Einschränkungen der Tools bewusst sind oder nicht, nicht nur bei Schularbeiten, sondern auch bei persönlichen Problemen. Laut a Umfrage Laut dem Center for Democracy and Technology geben 29 % der Kinder an, ChatGPT zur Bewältigung von Angstzuständen oder psychischen Problemen genutzt zu haben, 22 % für Probleme mit Freunden und 16 % für familiäre Konflikte.