WASHINGTON: OpenAIder Schöpfer des beliebten Chatbots ChatGTP, hat ein Software-Tool veröffentlicht, um von künstlicher Intelligenz generierten Text zu identifizieren, teilte das Unternehmen am Mittwoch in einem Blogbeitrag mit.
ChatGPT ist ein kostenloses Programm, das Text als Reaktion auf eine Eingabeaufforderung generiert, darunter Artikel, Essays, Witze und sogar Gedichte, das seit seinem Debüt im November große Popularität erlangt hat und gleichzeitig Bedenken hinsichtlich Urheberrecht und Plagiat aufwirft.
Der KI-Klassifikator, ein Sprachmodell, das auf dem Datensatz von Paaren aus von Menschen geschriebenen und trainiert wurde KI-geschriebener Text zum gleichen Thema, zielt darauf ab, Text zu unterscheiden, der von KI geschrieben wurde. Es nutzt eine Vielzahl von Anbietern, um Probleme wie automatisierte Fehlinformationskampagnen und akademische Unehrlichkeit anzugehen, sagte das Unternehmen.
In seinem öffentlichen Beta-Modus erkennt OpenAI an, dass das Erkennungstool bei Texten unter 1.000 Zeichen sehr unzuverlässig ist und von der KI geschriebener Text bearbeitet werden kann, um den Klassifikator auszutricksen.
„Wir stellen diesen Klassifikator öffentlich zur Verfügung, um Feedback darüber zu erhalten, ob unvollkommene Tools wie dieses nützlich sind“, sagte OpenAI.
„Wir erkennen an, dass die Identifizierung von KI-geschriebenem Text ein wichtiger Diskussionspunkt unter Pädagogen war, und ebenso wichtig ist es, die Grenzen und Auswirkungen von KI-generierten Textklassifikatoren im Klassenzimmer zu erkennen.“
Seit ChatGPT im November debütierte und bei Millionen von Nutzern große Popularität erlangte, haben einige der größten US-Schulbezirke, darunter New York City, den KI-Chatbot wegen Bedenken verboten, dass Schüler den Textgenerator zum Schummeln oder Plagiieren verwenden würden.
Andere haben Erkennungstools von Drittanbietern entwickelt, darunter GPTZeroX, um Pädagogen dabei zu helfen, KI-generierten Text zu erkennen.
OpenAI sagte, es arbeite mit Pädagogen zusammen, um die Fähigkeiten und Einschränkungen von ChatGPT zu diskutieren, und werde weiterhin an der Erkennung von KI-generiertem Text arbeiten.
ChatGPT ist ein kostenloses Programm, das Text als Reaktion auf eine Eingabeaufforderung generiert, darunter Artikel, Essays, Witze und sogar Gedichte, das seit seinem Debüt im November große Popularität erlangt hat und gleichzeitig Bedenken hinsichtlich Urheberrecht und Plagiat aufwirft.
Der KI-Klassifikator, ein Sprachmodell, das auf dem Datensatz von Paaren aus von Menschen geschriebenen und trainiert wurde KI-geschriebener Text zum gleichen Thema, zielt darauf ab, Text zu unterscheiden, der von KI geschrieben wurde. Es nutzt eine Vielzahl von Anbietern, um Probleme wie automatisierte Fehlinformationskampagnen und akademische Unehrlichkeit anzugehen, sagte das Unternehmen.
In seinem öffentlichen Beta-Modus erkennt OpenAI an, dass das Erkennungstool bei Texten unter 1.000 Zeichen sehr unzuverlässig ist und von der KI geschriebener Text bearbeitet werden kann, um den Klassifikator auszutricksen.
„Wir stellen diesen Klassifikator öffentlich zur Verfügung, um Feedback darüber zu erhalten, ob unvollkommene Tools wie dieses nützlich sind“, sagte OpenAI.
„Wir erkennen an, dass die Identifizierung von KI-geschriebenem Text ein wichtiger Diskussionspunkt unter Pädagogen war, und ebenso wichtig ist es, die Grenzen und Auswirkungen von KI-generierten Textklassifikatoren im Klassenzimmer zu erkennen.“
Seit ChatGPT im November debütierte und bei Millionen von Nutzern große Popularität erlangte, haben einige der größten US-Schulbezirke, darunter New York City, den KI-Chatbot wegen Bedenken verboten, dass Schüler den Textgenerator zum Schummeln oder Plagiieren verwenden würden.
Andere haben Erkennungstools von Drittanbietern entwickelt, darunter GPTZeroX, um Pädagogen dabei zu helfen, KI-generierten Text zu erkennen.
OpenAI sagte, es arbeite mit Pädagogen zusammen, um die Fähigkeiten und Einschränkungen von ChatGPT zu diskutieren, und werde weiterhin an der Erkennung von KI-generiertem Text arbeiten.