Im Anschluss an die anhaltenden Probleme darüber, wie große Technologiekonzerne sich Daten aneignen Einzelpersonen und Unternehmen bei der Schulung von KI-Diensten, braut sich unter Slack-Benutzern ein Sturm zusammen, der darüber verärgert ist, wie die Salesforce-eigene Chat-Plattform ihre KI-Vision vorantreibt.
Das Unternehmen nutzt wie viele andere seine eigenen Benutzerdaten, um einige seiner neuen KI-Dienste zu trainieren. Es stellt sich jedoch heraus, dass Sie, wenn Sie nicht möchten, dass Slack Ihre Daten nutzt, eine E-Mail an das Unternehmen senden müssen, um sich abzumelden.
Und die Bedingungen dieser Vereinbarung verbergen sich in einer scheinbar veralteten, verwirrenden Datenschutzrichtlinie, die niemand beachtet hat. Das war bei Slack der Fall, bis eine verärgerte Person auf einer Community-Seite, die bei Entwicklern sehr beliebt war, darüber postete und dieser Beitrag dann viral ging … und genau das ist hier passiert.
Alles begann letzte Nacht, als eine Anmerkung zu Hacker News warf die Frage auf, wie Slack seine KI-Dienste durch eine direkte Verbindung zu seinen trainiert DatenschutzgrundsätzeEs war kein zusätzlicher Kommentar erforderlich. Dieser Beitrag löste eine längere Diskussion aus – und was für aktuelle Slack-Benutzer wie eine Neuigkeit schien –, dass Slack Benutzer standardmäßig für sein KI-Training anmeldet und dass Sie eine E-Mail an eine bestimmte Adresse senden müssen, um sich abzumelden.
Dieser Hacker-News-Thread sorgte dann für Aufsehen mehrere Gespräche und Fragen zu andere Plattformen: Es gibt ein neues, allgemein benanntes Produkt namens „Slack-KI„Damit können Benutzer unter anderem nach Antworten suchen und Konversationsthreads zusammenfassen. Aber warum wird das auf der Seite mit den Datenschutzgrundsätzen nicht ein einziges Mal namentlich erwähnt, auch nicht, um klarzustellen, ob die Datenschutzrichtlinie darauf zutrifft? Und warum verweist Slack sowohl auf „globale Modelle“ als auch auf „KI-Modelle“?
Zwischen den Leuten, die darüber verwirrt sind, wo Slack seine KI-Datenschutzgrundsätze anwendet, und den Leuten, die überrascht und verärgert über die Idee sind, sich per E-Mail abzumelden – bei einem Unternehmen, das großen Wert darauf legt, dass „Sie die Kontrolle über Ihre Daten haben“ – Slack tut es nicht gut weggekommen.
Der Schock mag neu sein, die Bedingungen jedoch nicht. Laut Seiten auf der InternetarchivDie Bedingungen gelten seit mindestens September 2023. (Wir haben das Unternehmen um Bestätigung gebeten.)
Gemäß der Datenschutzrichtlinie verwendet Slack Kundendaten speziell zum Trainieren „globaler Modelle“, die Slack verwendet, um Kanal- und Emoji-Empfehlungen sowie Suchergebnisse zu unterstützen. Slack teilt uns mit, dass die Nutzung der Daten bestimmten Grenzen unterliegt.
„Slack verfügt über maschinelle Lernmodelle auf Plattformebene für Dinge wie Kanal- und Emoji-Empfehlungen und Suchergebnisse. Wir bauen oder trainieren diese Modelle nicht so, dass sie einen Teil der Kundendaten lernen, sich merken oder reproduzieren können“, sagte ein Unternehmenssprecher gegenüber Tech. Die Richtlinie scheint jedoch nicht den Gesamtumfang und die umfassenderen Pläne des Unternehmens für das Training von KI-Modellen zu berücksichtigen.
In seinen Worten sagt Slack, dass Kunden, wenn sie sich von der Datenschulung abmelden, immer noch von den „weltweit geschulten KI/ML-Modellen“ des Unternehmens profitieren würden. Aber auch in diesem Fall ist nicht klar, warum das Unternehmen Kundendaten überhaupt verwendet, um Funktionen wie Emoji-Empfehlungen zu ermöglichen.
Das Unternehmen sagte außerdem, dass es keine Kundendaten zum Trainieren der Slack-KI verwende.
„Slack AI ist ein separat erworbenes Add-on, das Large Language Models (LLMs) verwendet, diese LLMs jedoch nicht anhand von Kundendaten trainiert. Slack AI nutzt LLMs, die direkt in der AWS-Infrastruktur von Slack gehostet werden, sodass Kundendaten intern bleiben und nicht an LLM-Anbieter weitergegeben werden. Dadurch wird sichergestellt, dass Kundendaten unter der Kontrolle dieser Organisation bleiben und ausschließlich für die Verwendung durch diese Organisation bestimmt sind“, sagte ein Sprecher.
Ein Teil der Verwirrung dürfte eher früher als später behoben werden. In einer Antwort auf eine kritische Sicht auf Threads des Ingenieurs und Autors Gergely Orosz, Slack-Ingenieur Aaron Maurer zugegeben dass das Unternehmen die Seite aktualisieren muss, um widerzuspiegeln, „wie diese Datenschutzgrundsätze mit Slack AI zusammenwirken“.
Maurer fügte hinzu, dass diese Bedingungen zu einer Zeit verfasst wurden, als das Unternehmen noch nicht über Slack AI verfügte, und dass diese Regeln die Arbeit des Unternehmens rund um Suche und Empfehlungen widerspiegeln. Angesichts der Verwirrung darüber, was Slack derzeit mit seiner KI macht, wird es sich lohnen, die Bedingungen für zukünftige Updates zu prüfen.
Die Probleme bei Slack sind eine deutliche Erinnerung daran, dass in der schnelllebigen Welt der KI-Entwicklung die Privatsphäre der Benutzer keine Nebensache sein sollte und die Nutzungsbedingungen eines Unternehmens klar darlegen sollten, wie und wann Daten verwendet werden und ob dies nicht der Fall ist.