KI ist „nicht „Der Kampf um die Verschlüsselung ist in jeder Hinsicht offen“, warnte die Präsidentin des Unternehmens, Meredith Whittaker. Aber es sind nicht nur schlechte Nachrichten.
(Eigentlich sind das alles schlechte Nachrichten, denn die guten Nachrichten habe ich separat aufgeschrieben.)
Ich spreche mit mir auf der Bühne bei Strictly VC LAbezeichnete Whittaker ein Wiederaufleben gesetzgeberischer Angriffe auf die Verschlüsselung als „magisches Denken“.
„Wir sehen eine Reihe, würde ich sagen, provinzieller und sehr politisch motivierter Gesetzesentwürfe, die sich oft mit der Idee des Kinderschutzes befassen. Und diese wurden genutzt, um etwas durchzusetzen, das eigentlich ein sehr alter Wunsch der Sicherheitsdienste und der Autokraten der Regierungen ist.“ , das darin besteht, eine starke Verschlüsselung systematisch durch Hintertüren zu ersetzen“, sagte Whittaker. „Oft, glaube ich, kann dies, wenn es von wohlmeinenden Menschen vorangetrieben wird, die einfach nicht über das Wissen oder die Bildung verfügen, um die Auswirkungen ihrer Tätigkeit zu verstehen, die Möglichkeit, privat digital zu kommunizieren, grundlegend zerstören.“
Ironischerweise, oder vielleicht zynisch, war einer der belebenden Faktoren ein Jahrzehnt voller Forderungen an Technologieunternehmen, mehr Verantwortung zu übernehmen.
„Das allgemeine Thema, das ich sehe, ist ein tiefer Wunsch nach Verantwortung in der Technologie, der Mitte der 2010er Jahre gewissermaßen lebhaft zu beobachten war. Das wurde dann als Waffe eingesetzt; und ich denke, wir sehen Überwachungswein in Flaschen mit Verantwortung“, sagte sie.
„‚Rechenschaftspflicht‘ sieht nach mehr Kontrollen, mehr Aufsicht, mehr Hintertüren, mehr Eliminierung von Orten aus, an denen Menschen sich frei äußern oder kommunizieren können, anstatt tatsächlich die Geschäftsmodelle zu überprüfen, die, wissen Sie, riesige Plattformen geschaffen haben, deren Überwachungs- und Werbemodalitäten sein können.“ leicht zu einer Waffe für Informationsoperationen oder Doxing oder was auch immer es ist, oder? Es besteht eine mangelnde Bereitschaft, das Problem an der Wurzel zu packen. Und stattdessen sehen wir faktisch Vorschläge, die Überwachung im Namen der Rechenschaftspflicht auf Regierungs- und NGO-Sektoren auszudehnen.“
Ein konkreter solcher Vorschlag ist der Investigatory Powers Act im Vereinigten Königreich, der der dortigen Regierung unterliegt droht, jegliche App-Updates zu verhindern – weltweit – dass es eine Bedrohung für seine nationale Sicherheit ansieht.
„[The IPA] Damit beansprucht das Vereinigte Königreich faktisch die Möglichkeit, von jedem Technologieunternehmen in allen Gerichtsbarkeiten zu verlangen, dass es sich bei der britischen Regierung meldet, bevor es einen Sicherheitspatch ausliefert, da es diesen Patch möglicherweise irgendwo für ein Geschäft ausnutzt, das es weiterführen möchte. Auch hier handelt es sich um eine Form des provinziellen, magischen Denkens“, sagte Whittaker.
„Es ist sehr gefährlich, weil uns eine Rückkehr vor der Liberalisierung der Verschlüsselung im Jahr 1999 droht, eine Art Paradigma der frühen 90er Jahre, in dem die Regierung ein Monopol auf Verschlüsselung und das Recht auf digitale Privatsphäre hat. Und wenn die Möglichkeit, Verschlüsselungs- oder Datenschutzaktualisierungen oder irgendetwas anderes bereitzustellen, das Ihren Dienst sichert und härtet, zu etwas wird, wozu Sie die Erlaubnis der Regierung einholen müssen.“
„Und ehrlich gesagt“, fügte sie hinzu, „denke ich, dass wir die VC-Community und die größeren Technologieunternehmen stärker einbeziehen müssen, um zu benennen, welche Bedrohung dies für die Branche darstellt, und um dagegen vorzugehen.“
Signal-Präsidentin Meredith Whittaker und Devin Coldewey bei StrictlyVC LA.
Eine Regulierung, die sinnvoll erscheinen könnte, ist das Mandat zur Messaging-Interoperabilität, das in der EU mit dem Digital Markets Act verfolgt wird. Aber auch dies birgt versteckte Gefahren.
„Ich denke, der Geist macht sehr viel Sinn. Aber natürlich kann Signal nicht mit einer anderen Messaging-Plattform zusammenarbeiten, ohne dass diese ihre Privatsphäre erheblich anhebt“, selbst solche wie WhatsApp, die Ende-zu-Ende-Verschlüsselung unterstützen und das Protokoll bereits teilweise nutzen. „Denn wir verschlüsseln nicht nur den Inhalt von Nachrichten mit dem Signal-Protokoll. Wir verschlüsseln Metadaten, wir verschlüsseln Ihren Profilnamen, Ihr Profilfoto, wer in Ihrer Kontaktliste steht, mit wem Sie sprechen, wenn Sie mit ihnen sprechen. Das müsste das Maß an Privatsphäre und Sicherheit sein, das allgemein mit jedem vereinbart wurde, mit dem wir zusammengearbeitet haben, bevor wir einer Zusammenarbeit zustimmen könnten.“
Es bestehe die Gefahr, erklärte sie, dass das Gegenteil eintrete und Sicherheit und Privatsphäre im Namen der Bequemlichkeit verwässert würden. „Es könnte den Datenschutzstandard tatsächlich senken und eine Art interoperablen Monolithen schaffen, der diejenigen, die einen Datenschutzstandard mit viel Integrität fordern, noch weiter in eine marginale Position drängt.“ (Übrigens verspottete sie die Idee, dass Apple einen Pass bekommen und ein solches Regime hoffnungslos zersplittert zurücklassen würde.)
Im privaten Sektor bezeichnete Whittaker den aufstrebenden Nvidia schnell als Monopolisten.
„Es ist das Chip-Monopol – und das CUDA-Monopol“, sagte sie und bezog sich dabei auf die proprietäre Computerarchitektur, die heute im Mittelpunkt vieler Hochleistungsrechner steht.
Ich fragte sie, ob sie der Meinung sei, dass das Unternehmen durch seine Machtanhäufung gefährlich geworden sei.
„Ich meine, bei uns zeigen viele Spider-Men aufeinander, oder? Ich sehe, wie Microsoft jetzt mit dem Finger auf Nvidia zeigt und sagt: Wenn Sie Angst vor einem Monopol haben, schauen Sie nicht auf das arme Microsoft, sondern auf Nvidia, sie sind es, und Sie schauen auch auf Google. Google hat letzte Woche eine solche PR-Meldung veröffentlicht, eine Art KI-Zugriffsprinzipien, und sie sprachen davon, dass Google das einzige vertikal integrierte Unternehmen sei, vom App Store bis zu den Chips. Und das stimmt, oder? Aber dann veröffentlichte Google ein paar Tage später, dass Microsoft tatsächlich das Monopol habe, weil es OpenAI und eine Art Azure-Monopol habe, oder?
„Also, hier ist niemand unschuldig. Es gibt viele wie: ‚Wir versuchen alle, den Kerl zu finden, der das getan hat …‘“ (d. h. die berühmtes „Hot-Dog-Typ“-Meme entnommen aus I Think You Should Leave mit Tim Robinson.)
„Ich denke, wir müssen erkennen, dass KI von Big Tech abhängig ist. Es erfordert große technische Ressourcen. Es ist in keiner Weise offen“, sagte sie. „Wir können ehrlich sein: Wenn Sie 100 Millionen US-Dollar für einen Trainingslauf benötigen, ist das keine offene Ressource, oder? Ob Sie 100 Millionen US-Dollar benötigen, um einen Monat lang in großem Maßstab bereitzustellen, das ist nicht offen, oder? Wir müssen also ehrlich sein, wie wir diese Begriffe verwenden. Aber ich möchte nicht, dass die Ablenkung hin zu Nvidia als Übeltäter der Woche davon ablenkt, womit wir es mit dieser massiv konzentrierten Macht zu tun haben.“
Das vollständige Interview können Sie sich unten ansehen.