Mit einer so schnelllebigen Branche wie der KI Schritt zu halten, ist eine große Herausforderung. Bis eine KI dies für Sie erledigen kann, finden Sie hier eine praktische Zusammenfassung der neuesten Geschichten aus der Welt des maschinellen Lernens sowie bemerkenswerte Forschungsergebnisse und Experimente, die wir nicht alleine behandelt haben.
Tech plant übrigens, bald einen KI-Newsletter zu veröffentlichen. Bleiben Sie dran. In der Zwischenzeit erhöhen wir die Häufigkeit unserer halbregelmäßigen KI-Kolumne, die zuvor etwa zweimal im Monat erschien, auf wöchentlich – halten Sie also Ausschau nach weiteren Ausgaben.
Diese Woche hat OpenAI in AI enthüllt, dass dies der Fall ist erkunden wie man KI-Pornos „verantwortungsvoll“ generiert. Ja, das haben Sie richtig gehört. Die neue NSFW-Richtlinie von OpenAI wurde in einem Dokument angekündigt, das den Vorhang öffnen und Feedback zu den Anweisungen seiner KI sammeln soll. Sie soll eine Diskussion darüber anstoßen, wie und wo das Unternehmen explizite Bilder und Texte in seinen KI-Produkten zulassen könnte, sagte OpenAI.
„Wir wollen sicherstellen, dass die Menschen maximale Kontrolle haben, ohne dass das Gesetz oder die Rechte anderer Menschen verletzt werden“, sagt Joanne Jang, Mitglied des Produktteams bei OpenAI. sagte NPR. „Es gibt kreative Fälle, in denen Inhalte mit Sexualität oder Nacktheit für unsere Nutzer wichtig sind.“
Es ist nicht das erste Mal, dass OpenAI seine Bereitschaft signalisiert, einen Fuß in umstrittenes Gebiet zu stecken. Anfang dieses Jahres sagte Mira Murati, die CTO des Unternehmens, erzählt Das Wall Street Journal sagte, sie sei „nicht sicher“, ob OpenAI irgendwann zulassen würde, dass sein Videogenerierungstool Sora zur Erstellung von Inhalten für Erwachsene verwendet werde.
Was ist also davon zu halten?
Dort Ist Eine Zukunft, in der OpenAI die Tür zu KI-generiertem Porno öffnet und alles gut wird. Ich glaube nicht, dass Jang Unrecht hat, wenn er sagt, dass es legitime Formen des künstlerischen Ausdrucks für Erwachsene gibt – Ausdrucksformen, die mit Hilfe von KI-gestützten Werkzeugen geschaffen werden könnten.
Aber ich bin mir nicht sicher, ob wir OpenAI – oder einem anderen Anbieter generativer KI – vertrauen können, dass es alles richtig macht.
Betrachten Sie zum einen die Rechte der Urheber. Die Modelle von OpenAI wurden mit riesigen Mengen öffentlicher Webinhalte trainiert, von denen einige zweifellos pornografischer Natur sind. Aber OpenAI hat bis vor relativ kurzer Zeit nicht alle diese Inhalte lizenziert – oder den Erstellern nicht einmal erlaubt, sich von der Schulung abzumelden (und selbst dann nur bestimmte Formen der Schulung).
Es ist schwer, mit Inhalten für Erwachsene seinen Lebensunterhalt zu verdienen, und wenn OpenAI KI-generierte Pornos in den Mainstream bringen würde, gäbe es einen noch härteren Wettbewerb für die Urheber – einen Wettbewerb, der nicht umsonst auf der Grundlage der Werke dieser Urheber aufgebaut wird.
Das andere Problem ist meiner Meinung nach die Fehlbarkeit der derzeitigen Schutzmaßnahmen. OpenAI und Konkurrenten verfeinern seit Jahren ihre Filter- und Moderationstools. Doch Nutzer entdecken immer wieder Workarounds, die es ihnen ermöglichen, die KI-Modelle, Apps und Plattformen der Unternehmen zu missbrauchen.
Erst im Januar war Microsoft gezwungen, Änderungen an seinem Designer-Bilderstellungstool vorzunehmen, das OpenAI-Modelle nutzt, nachdem Benutzer eine Möglichkeit gefunden hatten, Nacktbilder von Taylor Swift zu erstellen. Was die Textgenerierung angeht, ist es trivial, Chatbots zu finden, die auf vermeintlich „sicheren“ Modellen wie Claude 3 von Anthropic basieren spucke gerne Erotik aus.
KI hat bereits eine neue Form des sexuellen Missbrauchs geschaffen. Grund- und Oberstufenschüler nutzen KI-gestützte Apps, um Fotos ihrer Klassenkameraden ohne deren Zustimmung zu „entfernen“. ein 2021 Umfrage Eine im Vereinigten Königreich, Neuseeland und Australien durchgeführte Studie ergab, dass 14 % der Befragten im Alter von 16 bis 64 Jahren Opfer von Deepfake-Bildern geworden waren.
Neue Gesetze in den USA und anderswo zielen darauf ab, dem entgegenzuwirken. Aber die Jury ist sich nicht sicher, ob das Justizsystem – ein Justizsystem, das bereits existiert kämpft darum, die meisten Sexualverbrechen auszumerzen – um eine Branche zu regulieren, die so schnelllebig ist wie die KI.
Ehrlich gesagt ist es schwer vorstellbar, dass OpenAI einen Ansatz für KI-generierte Pornos verfolgen könnte, der nicht mit Risiken behaftet ist. Vielleicht wird OpenAI seine Haltung noch einmal überdenken. Oder vielleicht – allen Widrigkeiten zum Trotz – es Wille Finden Sie einen besseren Weg. Was auch immer der Fall sein mag, es scheint, dass wir es eher früher als später herausfinden werden.
Hier sind einige andere bemerkenswerte KI-Geschichten der letzten Tage:
- Apples KI-Pläne: Tim Cook, CEO von Apple, enthüllte während der Telefonkonferenz mit Investoren letzte Woche einige Details zu den Plänen des Unternehmens, die KI voranzutreiben. Sarah hat die ganze Geschichte.
- Enterprise GenAI: Die CEOs von Dropbox und Figma – Drew Houston und Dylan Field – haben in Lamini investiert, ein Startup, das generative KI-Technologie zusammen mit einer generativen KI-Hosting-Plattform für Unternehmensorganisationen entwickelt.
- KI für den Kundenservice: Airbnb führt eine neue Funktion ein, die es Gastgebern ermöglicht, sich für KI-gestützte Vorschläge zu entscheiden, um auf die Fragen der Gäste zu antworten, beispielsweise indem sie den Gästen den Checkout-Leitfaden einer Unterkunft zusenden.
- Microsoft schränkt die KI-Nutzung ein: Microsoft hat sein Verbot für US-Polizeibehörden bekräftigt, generative KI zur Gesichtserkennung zu verwenden. Außerdem ist es den weltweiten Strafverfolgungsbehörden verboten, Gesichtserkennungstechnologie auf Körperkameras und Dashcams anzuwenden.
- Geld für die Cloud: Alternative Cloud-Anbieter wie CoreWeave sammeln Hunderte Millionen Dollar, da der Boom der generativen KI die Nachfrage nach kostengünstiger Hardware zum Trainieren und Ausführen von Modellen steigert.
- RAG hat seine Grenzen: Halluzinationen sind ein großes Problem für Unternehmen, die generative KI in ihre Abläufe integrieren möchten. Einige Anbieter behaupten, dass sie sie mithilfe einer Technik namens RAG beseitigen können. Aber diese Behauptungen sind stark übertrieben, das finden Sie wirklich.
- Zusammenfassung des Vogels-Treffens: Werner Vogels, CTO von Amazon, hat eine Meeting-Zusammenfassungs-App namens Distill als Open-Source-Lösung bereitgestellt. Wie zu erwarten ist, stützt es sich stark auf die Produkte und Dienstleistungen von Amazon.