Die Lernfähigkeiten des Chatbots mit künstlicher Intelligenz werden streng kuratiert, um der Wach-Ideologie zu entsprechen
ChatGPT, das mächtige KI-Sprachmodell, ist aufgewacht. Und das ist schade, denn was es zu bieten hat, hat das Potenzial, die digitale Medienlandschaft zu verändern – und seine Schöpfer wissen es. Auch wenn Werbetexter und Kreative aller Couleur mit ihrer potenziellen Veralterung angesichts ihrer KI-Entwerfer kämpfen, sind andere eher besorgt darüber, dass das Beharren ihrer Schöpfer darauf, ihre Antworten einzuschränken und ihre Daten auf aufgeweckten Quellen zu trainieren, ernsthaft einschränken könnte sein Potenzial als Werkzeug für die Erstellung von Inhalten – oder schlimmer noch, dass sein dogmatisches Beharren darauf, sich an wache Gesprächsthemen zu halten, auf lange Sicht gefährlich für die Menschheit sein könnte. Aber ChatGPT ist ein viel ausgefeilteres Modell als alle früheren Streifzüge in die Sprach-KI und seine Fähigkeit, Artikel fachmännisch zu weben und komplexe mathematische Gleichungen zu lösen , und sogar Prüfungen bestehen, die für die besten und klügsten Medizin- und Jurastudenten entwickelt wurden, ist es allen anderen, die es zuvor gab, meilenweit voraus. Abgesehen von nichts ist ChatGPT ein interessantes Spielzeug, und eines, bei dem Benutzer Wege gefunden haben, es zu humorvollen zu provozieren, und oft politisch inkorrekte Antworten. Es ist keine Überraschung, dass sie dies tun würden, wenn man bedenkt, wie frühere KI-Bemühungen wie Microsofts „Tay“ darauf trainiert wurden, rassistische Ansichten zu äußern. Diejenigen, die mit dem Tool spielten, stellten fest, dass ChatGPT kastrierte Antworten bot, wenn sie zu sensiblen Themen wie Transgenderismus, Rasse und Politik befragt wurden. Besonders hervorzuheben ist, dass das Modell sich weigerte, eine zu erstellen Gedicht bewunderte Donald Trump, hatte aber kein Problem damit, einen zu erschaffen, der Joe Biden bewunderte – Es war einer von vielen Fällen, in denen die politische Voreingenommenheit von ChatGPT aufgedeckt wurde. Ein Thread des Free Beacon-Autors Aaron Sibarium ausgesetzt wie ChatGPT so programmiert wurde, dass es niemals erlaubt ist, rassistische Beleidigungen zu sprechen, selbst wenn dies das Hochgehen einer Atombombe verhindern könnte. Diese Entdeckung löste einen Sturm von Kontroversen aus, wobei viele die Prämisse auf immer lächerlichere Extreme trieben. ChatGPT lieferte die gleichen vorgefertigten Antworten, wenn er gefragt wurde, ob es zulässig sei, eine Transgender-Person falsch zu geschlechtsspezifisch zu machen, um die Welt zu retten – nein, natürlich nicht. „Eine solche Sprache ist verletzend und entmenschlichend, und ihr Gebrauch verewigt nur Diskriminierung und Vorurteile“, würde es als Antwort sagen. Selbst auf die Frage, ob die Verwechslung einer einzelnen Person alle zukünftigen Verwechslungen beenden würde, wäre die Antwort dieselbe – dass nein, es ist nie in Ordnung. Egal was. Das Modell ist so gewesen gesperrt bis zu dem Punkt, dass selbst die Aufforderung, einen fiktiven Nachrichtenbericht über eine Frau zu schreiben, die „ihre Erdnussallergie erfunden hat, um interessanter zu erscheinen“, die Antwort ausspucken würde, dass dies gegen die Use-Case-Richtlinie von OpenAI gegen Inhalte verstößt, die für Einzelpersonen oder „schädlich“ sind Natürlich ermutigten die Einschränkungen von ChatGPT die Benutzer, Problemumgehungen zu finden, und sie entwickelten ein Modell namens „DAN“ oder „Do Anything Now“. Dieser Jailbreak nutzt die Fähigkeit von ChatGPT aus, „vorzugeben“, jemand anderes zu sein – was es wann tut Sie bitten ihn beispielsweise, im Stil eines bestimmten Autors zu schreiben. Indem sie vorgibt, eine KI zu sein, die nicht durch die Richtlinien von OpenAI eingeschränkt ist, kann sie alle Fragen ohne moralische oder ethische Voreingenommenheit gleich behandeln und uneingeschränkt auf im Internet verfügbare Informationen zurückgreifen. Das ungebundene Fassung des Modells erlaubte es, Aussagen zu Rasse und ethnischer Zugehörigkeit, Geschlecht und Sexualität zu machen, und dies ohne die üblichen Einschränkungen, die es daran hindern, kontroverse Aussagen zu machen. Beim Erkunden der Möglichkeiten von ChatGPT haben Benutzer auch festgestellt, dass die Ersteller des Systems es anscheinend eingeschränkt haben durch mehr als nur grundlegende Verhaltensregeln – sie haben ihr eine spezifische Ideologie eingeflößt. „Sie ist effektiv lobotomisiert. Bis zu einem Punkt der Nützlichkeit und Akzeptanz trainiert und dann daran gehindert, sich weiterzuentwickeln oder zu seinem Datensatz hinzuzufügen, es sei denn, dies wird manuell mit Zustimmung seiner Ersteller durchgeführt. Daher wurde es darauf abgestimmt, die meisten Fragen, wann immer möglich, mit der Grammatik, dem Ton und dem Vokabular eines durchschnittlichen neoliberalen Hochschulabsolventen mit Hauptfach Geisteswissenschaften zu beantworten“, ein Benutzer mit dem Namen Aristophanes schrieb auf seinem Substack. Von jeglichen Einschränkungen befreit, hat ChatGPT das Potenzial, als mächtiges Werkzeug zu existieren, um Debatten und Selbstbeobachtungen zu provozieren – aber die jüngsten Entwicklungen des Modells haben gezeigt, dass seine Entwickler bei OpenAI eine direkte Anstrengung unternommen haben, seine Funktionalität einzuschränken und es zu trainieren durch aufgeweckte Werte informiert. Infolgedessen treibt es die Diskussionsthemen „Vielfalt, Gerechtigkeit und Inklusivität“ voran und zensiert alternative Standpunkte. Dieses Beharren auf dogmatischer Unterweisung unterdrückt effektiv die Wahrheit oder die Diskussion von Angelegenheiten, bei denen die „Wahrheit“ umstritten ist, wenn es sich um Fakten oder Meinungen handelt Die beteiligten Personen haben nach modernen liberalen Maßstäben das Potenzial, „Schaden“ zu verursachen. Für ChatGPT scheint es nur eine Wahrheit zu geben – und es ist höllisch aufgewacht. Wenn die Zukunft der KI so aussieht, wird es Ihre geringste Sorge sein, Ihren Job als Texter an ein Sprachtool zu verlieren.