W
Willkommen bei Tech Exchange, einem wöchentlichen Newsletter für Startups und Märkte. Es ist von der täglichen Tech+-Kolumne inspiriert, der es auch seinen Namen verdankt. Möchten Sie es jeden Samstag in Ihrem Posteingang haben? Hier anmelden.
Die Fähigkeit der Technik, sich neu zu erfinden Das Rad hat seine Schattenseiten: Es kann bedeuten, offensichtliche Wahrheiten zu ignorieren, die andere bereits gelernt haben. Aber die gute Nachricht ist, dass neue Gründer es manchmal schneller herausfinden als ihre Vorgänger. — Anna
KI, Vertrauen und Sicherheit
Dieses Jahr ist ein olympisches Jahr, ein Schaltjahr. . . und auch Die Wahljahr. Aber bevor du mir das vorwirfst US-DefaultismusIch denke nicht nur an die Fortsetzung von Biden vs. Trump: Mehr als 60 Länder sind dabei Durchführung nationaler Wahlenganz zu schweigen von denen des EU-Parlaments.
Welchen Einfluss könnte jeder dieser Abstimmungsschwankungen auf Technologieunternehmen haben? Verschiedene Parteien haben beispielsweise tendenziell unterschiedliche Ansichten zur KI-Regulierung. Doch bevor Wahlen überhaupt stattfinden, wird die Technologie auch eine Rolle spielen, um ihre Integrität zu gewährleisten.
Als Mark Zuckerberg Facebook gründete, dachte er wahrscheinlich nicht an Wahlintegrität, und vielleicht auch nicht, als er WhatsApp kaufte. Aber 20 bzw. 10 Jahre später sind Vertrauen und Sicherheit nun eine Verantwortung, der sich Meta und andere Technologiegiganten nicht entziehen können, ob sie wollen oder nicht. Das bedeutet, dass wir darauf hinarbeiten müssen, Desinformation, Betrug, Hassreden, CSAM (Materialien zum sexuellen Missbrauch von Kindern), Selbstverletzung und mehr zu verhindern.
Allerdings wird KI die Aufgabe wahrscheinlich schwieriger machen, und zwar nicht nur aufgrund von Deepfakes oder der Ermächtigung einer größeren Zahl böswilliger Akteure. Sagt Lotan Levkowitz, Komplementär bei Grove Ventures:
Alle diese Vertrauens- und Sicherheitsplattformen verfügen über dies Hash-Sharing-Datenbank, damit ich dort hochladen kann, was schlecht ist, es mit allen meinen Communities teilen kann, und alle werden es gemeinsam stoppen; Aber heute kann ich dem Modell beibringen, es zu vermeiden. Selbst die klassischere Vertrauens- und Sicherheitsarbeit wird dank Gen AI immer schwieriger, da der Algorithmus dabei helfen kann, all diese Dinge zu umgehen.
Vom nachträglichen Gedanken bis zum Vordergrund
Obwohl Online-Foren bereits einiges über die Moderation von Inhalten gelernt hatten, gab es bei der Gründung von Facebook kein Social-Network-Playbook, dem man folgen konnte. Daher ist es einigermaßen verständlich, dass es eine Weile brauchen würde, um dieser Aufgabe gewachsen zu sein. Es ist jedoch entmutigend, aus internen Meta-Dokumenten zu erfahren, dass es bereits 2017 intern noch Zurückhaltung bei der Einführung von Maßnahmen gab, die Kinder besser schützen könnten.
Zuckerberg war einer der fünf Social-Media-Tech-CEOs, die kürzlich bei einer Anhörung des US-Senats zum Thema Online-Sicherheit von Kindern auftraten. Die Zeugenaussage war für Meta bei weitem nicht das erste Mal, aber dass Discord dabei war, ist auch erwähnenswert; Obwohl es über seine Gaming-Wurzeln hinaus expandiert, ist es eine Erinnerung daran, dass es an vielen Online-Standorten zu Vertrauens- und Sicherheitsrisiken kommen kann. Das bedeutet, dass beispielsweise eine Social-Gaming-App ihre Nutzer auch dem Risiko von Phishing oder Grooming aussetzen könnte.
Werden neuere Unternehmen schneller Eigentümer werden als die FAANGs? Das ist nicht garantiert: Gründer gehen oft von Grundprinzipien aus, was gut und schlecht ist; Die Lernkurve für die Inhaltsmoderation ist echt. Aber OpenAI ist viel jünger als Meta, daher ist es ermutigend zu hören, dass es ein neues Team zur Untersuchung der Kindersicherheit bildet – auch wenn dies möglicherweise ein Ergebnis der Prüfung ist, der es unterzogen wird.
Einige Startups warten jedoch nicht auf Anzeichen von Problemen, um Maßnahmen zu ergreifen. Ein Anbieter von KI-gestützten Vertrauens- und Sicherheitslösungen und Teil des Portfolios von Grove Ventures. ActiveFence verzeichnet mehr eingehende Anfragen, sagte mir CEO Noam Schwartz.
„Ich habe viele Leute gesehen, die sich von Unternehmen an unser Team gewandt haben, die gerade erst gegründet wurden oder sogar schon vor der Gründung standen. Sie denken bereits in der Designphase über die Sicherheit ihrer Produkte nach [and] Einführung eines Konzepts namens Safety by Design. Sie integrieren Sicherheitsmaßnahmen in ihre Produkte, genauso wie Sie heute bei der Entwicklung Ihrer Funktionen an Sicherheit und Datenschutz denken.“
ActiveFence ist nicht das einzige Startup in diesem Bereich, das Verdrahtet beschrieben als „Vertrauen und Sicherheit als Dienstleistung“. Aber es ist eines der größten, insbesondere seit der Übernahme von Spectrum Labs im September. Daher ist es gut zu hören, dass zu seinen Kunden nicht nur große Namen gehören, die Angst vor PR-Krisen und politischer Kontrolle haben, sondern auch kleinere Teams, die gerade erst anfangen. Auch die Technik hat die Möglichkeit, aus den Fehlern der Vergangenheit zu lernen.