Die Schöpfer eines ChatGPT-Bots, der für Aufsehen sorgte, weil er menschliches Schreiben nachahmen konnte, haben am Dienstag ein Tool veröffentlicht, das erkennen soll, wann schriftliche Arbeiten von künstlicher Intelligenz verfasst wurden.
Die Ankündigung erfolgte inmitten intensiver Debatten an Schulen und Universitäten in den Vereinigten Staaten und auf der ganzen Welt über Bedenken, dass die Software verwendet werden könnte, um Schülern bei Aufgaben zu helfen und ihnen beim Schummeln bei Prüfungen zu helfen.
Das US-basierte OpenAI sagte in a Blogeintrag Dienstag, dass es ist Erkennungstool wurde trainiert, „zwischen Texten, die von einem Menschen geschrieben wurden, und Texten, die von KIs verschiedener Anbieter geschrieben wurden, zu unterscheiden“.
Der Bot von OpenAI, der kürzlich eine massive Geldspritze von Microsoft erhalten hat, antwortet auf einfache Eingabeaufforderungen mit Unmengen von Text, der von im Internet gesammelten Daten inspiriert ist.
OpenAI warnte davor, dass sein Tool Fehler machen kann, insbesondere bei Texten mit weniger als 1.000 Zeichen.
„Obwohl es unmöglich ist, alle KI-geschriebenen Texte zuverlässig zu erkennen, glauben wir, dass gute Klassifikatoren Abhilfemaßnahmen für falsche Behauptungen treffen können, dass KI-generierter Text von einem Menschen geschrieben wurde“, sagte OpenAI in dem Beitrag.
„Zum Beispiel die Durchführung automatisierter Fehlinformationskampagnen, die Verwendung von KI-Tools für akademische Unehrlichkeit und die Positionierung eines KI-Chatbots als Mensch.“
Eine französische Spitzenuniversität hat Studenten letzte Woche verboten, ChatGPT zu verwenden, um Aufgaben zu erledigen, was das erste derartige Verbot an einem College des Landes war.
Die Entscheidung fiel kurz nachdem bekannt wurde, dass ChatGPT Prüfungen an einer US-amerikanischen juristischen Fakultät bestanden hatte, nachdem es Aufsätze zu Themen geschrieben hatte, die vom Verfassungsrecht bis zur Besteuerung reichten.
ChatGPT macht immer noch sachliche Fehler, aber Bildungseinrichtungen haben sich beeilt, das KI-Tool zu verbieten.
„Wir erkennen an, dass die Identifizierung von KI-geschriebenem Text ein wichtiger Diskussionspunkt unter Pädagogen war, und ebenso wichtig ist es, die Grenzen und Auswirkungen von KI-generierten Textklassifikatoren im Klassenzimmer zu erkennen“, sagte OpenAI in dem Beitrag.
„Wir arbeiten mit Pädagogen in den USA zusammen, um zu erfahren, was sie in ihren Klassenzimmern sehen, und um die Möglichkeiten und Grenzen von ChatGPT zu diskutieren.“
Beamte in New York und anderen Gerichtsbarkeiten haben seine Verwendung in Schulen verboten.
Eine Gruppe australischer Universitäten hat angekündigt, die Prüfungsformate zu ändern, um KI-Tools zu verbannen und sie als Betrug zu betrachten.
OpenAI empfiehlt, den Klassifikator nur mit englischem Text zu verwenden, da er in anderen Sprachen schlechter abschneidet.
© 2023