Öffentliche Schulen in New York City haben eingeschränkten Zugriff auf ChatGPT, das KI-System, das Text zu einer Reihe von Themen und in verschiedenen Stilen in Schulnetzwerken und -geräten generieren kann. Als weit gemeldet Heute Morgen und gegenüber Tech von einem Sprecher des New Yorker Bildungsministeriums bestätigt, wurde die Einschränkung aufgrund von Bedenken hinsichtlich „[the] negative Auswirkungen auf das Lernen der Schüler“ und „die Sicherheit und Genauigkeit“ der von ChatGPT erstellten Inhalte.
„Während das Tool in der Lage sein mag, schnelle und einfache Antworten auf Fragen zu geben, baut es keine kritischen Denk- und Problemlösungsfähigkeiten auf, die für den akademischen und lebenslangen Erfolg unerlässlich sind“, sagte der Sprecher per E-Mail gegenüber Tech und fügte hinzu, dass dies eingeschränkt sei Der Zugriff erfolgte auf Anfrage von Schulen.
Es ist kein Verbot an sich. Das öffentliche Schulsystem von New York City verwendet denselben Filter für ChatGPT die es verwendet, um andere Apps und Websites – z. B. YouTube und Facebook – auf dem Schulgelände zu blockieren. Einzelne Schulen können beantragen, dass ChatGPT entsperrt wird, und der Sprecher sagte, dass das New Yorker Bildungsministerium die Gelegenheit „begrüßen“ würde, mit OpenAI, dem Startup hinter ChatGPT, darüber zu sprechen, wie das Tool für die Bildung angepasst werden könnte.
In Bezug auf OpenAI sagte ein Unternehmenssprecher, als er um einen Kommentar gebeten wurde, dass OpenAI „Minderungen“ entwickle, um jedem zu helfen, von ChatGPT generierten Text zu erkennen. Das ist bedeutsam. Während Tech kürzlich berichtete, dass OpenAI mit einer Wasserzeichentechnik für KI-generierten Text experimentiert, hat OpenAI zum ersten Mal bestätigt, dass es an Tools arbeitet, die speziell zum Identifizieren von Texten aus ChatGPT stammen.
„Wir haben ChatGPT als Forschungsvorschau zur Verfügung gestellt, um aus der realen Nutzung zu lernen, was unserer Meinung nach ein entscheidender Teil der Entwicklung und Bereitstellung leistungsfähiger, sicherer KI-Systeme ist. Wir beziehen ständig Feedback und gewonnene Erkenntnisse ein“, sagte der OpenAI-Sprecher. „Wir haben immer Transparenz bei der Verwendung von KI-generiertem Text gefordert. Unsere Richtlinien verlangen, dass Benutzer bei der Verwendung unserer API und kreativen Tools offen mit ihrem Publikum umgehen … Wir freuen uns darauf, mit Pädagogen an nützlichen Lösungen und anderen Möglichkeiten zu arbeiten, um Lehrern und Schülern zu helfen, von KI zu profitieren.“
ChatGPT hat die Fähigkeit, Fragen zu Themen zu beantworten, die von Poesie bis Codierung reichen, aber einer seiner größten Fehler ist seine Fähigkeit, manchmal Antworten zu geben, die überzeugend klingen, aber nicht der Wahrheit entsprechen. Das führte Q&A-Codierungssite Stack Overflow, um Benutzer vorübergehend zu sperren vom Teilen von Inhalten, die von der KI generiert wurden, und sagten, dass ChatGPT es den Benutzern zu einfach mache, die Plattform mit zweifelhaften Antworten zu überfluten. Vor kurzem hat die International Conference on Machine Learning, eine der weltweit größten Konferenzen zu KI und maschinellem Lernen, angekündigt ein Verbot von Papieren, die Text enthalten, der von ChatGPT und anderen ähnlichen KI-Systemen generiert wurde, aus Angst vor „unvorhergesehenen Konsequenzen“.
In der Bildung hat sich die Debatte weitgehend um das Betrugspotential gedreht. Führen Sie eine Google-Suche nach „ChatGPT zum Schreiben von Schularbeiten“ durch und Sie werden viele Beispiele von Pädagogen, Journalisten und Schülern finden, die das Wasser testen, indem sie ChatGPT verwenden, um Hausaufgaben und standardisierte Aufsatztests zu erledigen. Joanna Stern, Kolumnistin des Wall Street Journal Gebraucht ChatGPT, um einen vorübergehenden AP-Englischaufsatz zu schreiben, während Forbes-Mitarbeiterin Emma Whitford angezapft es, zwei College-Aufsätze in 20 Minuten fertigzustellen. Apropos gegenüber The Guardian erinnerte sich Dan Gillmor, Professor an der Arizona State University, daran, wie er ChatGPT eine der Aufgaben gab, die er normalerweise seinen Studenten gibt, und stellte fest, dass der Aufsatz der KI „eine gute Note“ verdient hätte.
Plagiate sind ein weiteres Problem. Wie andere texterzeugende KI-Systeme kann ChatGPT – das mit öffentlichen Daten trainiert wird, die normalerweise ohne Zustimmung gesammelt werden – diese Informationen manchmal wörtlich wiedergeben, ohne Quellen anzugeben. Dazu gehören sachliche Ungenauigkeiten, wie bereits erwähnt, sowie Voreingenommenheit – einschließlich offensichtlich rassistisch und sexistisch – Perspektiven. OpenAI führt weiterhin Filter und Techniken ein, um problematische Textgenerierungen zu verhindern, aber jeden Tag tauchen neue Problemumgehungen auf.
Trotz dieser Einschränkungen und Probleme sehen einige Pädagogen pädagogisches Potenzial in ChatGPT und anderen Formen generativer KI-Technologien. In einem kürzlich erschienenen Artikel für die Website der Graduate School of Education von Stanford bemerkte Victor Lee, außerordentlicher Professor für Pädagogik an der Stanford University, dass ChatGPT Studenten dabei helfen könnte, „auf eine Weise zu denken, die sie derzeit nicht tun“, indem es ihnen zum Beispiel hilft, ihre Ideen zu entdecken und zu verdeutlichen. Lehrer könnten ebenfalls von ChatGPT profitieren, indem sie viele Beispiele für Schüler einer Erzählung generieren, bei der der grundlegende Inhalt derselbe bleibt, aber der Stil, die Syntax oder die Grammatik unterschiedlich sind.
„ChatGPT kann [allow] die Schüler viele Male lesen, reflektieren und überarbeiten können, ohne die Angst oder Frustration, die solche Prozesse oft hervorrufen, [while] Lehrer können das Tool verwenden, um viele Beispiele und Nichtbeispiele einer Form oder eines Genres zu generieren“, sagte Lee in a Aussage. „Offensichtlich sind die Lehrer weniger erfreut darüber, dass der Computer den Schülern viel Beinarbeit abnimmt. Und die Schüler müssen noch schreiben lernen. Aber auf welche Weise und welche Arten des Schreibens? Ein … Nebeneffekt dieser neuen Medizin ist, dass wir alle diese Fragen stellen und wahrscheinlich einige wesentliche Änderungen an den übergeordneten Zielen und Methoden unseres Unterrichts vornehmen müssen.“
Auf jeden Fall wird die Politik der öffentlichen Schulen in New York City, die die erste ihrer Art im Land zu sein scheint, sicherlich das Gespräch in den Schulbezirken anderswo forcieren. Da die Nutzung der Technologie zunimmt – ChatGPT hatte im Dezember über eine Million Benutzer – unabhängige Forscher und Unternehmen haben mit der Erprobung von Tools begonnen, um die Verwendung von KI-generiertem Text in Studentenbeiträgen zu erkennen. Einige Pädagogen entscheiden sich möglicherweise dafür, sie anzunehmen, während andere, wie Lee, stattdessen die Verwendung von ChatGPT als unterstützendes Schreibwerkzeug fördern.