Künstliche Intelligenz ist in der Fadenkreuze von Regierungen, die darüber besorgt sind, dass es für Betrug, Desinformation und andere böswillige Online-Aktivitäten missbraucht werden könnte; Jetzt bereitet sich eine Regulierungsbehörde in Großbritannien darauf vor, zu untersuchen, wie KI im Kampf gegen einige dieser Fälle eingesetzt wird, insbesondere im Zusammenhang mit Inhalten, die für Kinder schädlich sind.
Ofcomdie Regulierungsbehörde, die für die Durchsetzung der britischen Vorschriften zuständig ist Online-Sicherheitsgesetzkündigte an, dass es plant, eine Konsultation darüber einzuleiten, wie KI und andere automatisierte Tools heute und in Zukunft eingesetzt werden können, um illegale Online-Inhalte proaktiv zu erkennen und zu entfernen, insbesondere um Kinder vor schädlichen Inhalten zu schützen und sexuellen Missbrauch von Kindern zu erkennen Material, das zuvor schwer zu erkennen war.
Die Tools wären Teil einer umfassenderen Reihe von Vorschlägen, die Ofcom mit dem Schwerpunkt auf Online-Kindersicherheit zusammenstellt. Die Konsultationen zu den umfassenden Vorschlägen werden in den kommenden Wochen beginnen, die KI-Konsultation soll später in diesem Jahr stattfinden, sagte Ofcom.
Mark Bunting, Direktor der Online Safety Group von Ofcom, sagt, dass sein Interesse an KI mit einem Blick darauf beginnt, wie gut sie heute als Screening-Tool eingesetzt wird.
„Einige Dienste nutzen diese Tools bereits, um Kinder zu identifizieren und vor diesen Inhalten zu schützen“, sagte er in einem Interview mit Tech. „Aber es gibt nicht viele Informationen darüber, wie genau und effektiv diese Tools sind. Wir wollen nach Wegen suchen, wie wir sicherstellen können, dass die Industrie die Bewertungen durchführt [that] Wenn sie sie verwenden, stellen Sie sicher, dass Risiken für die freie Meinungsäußerung und die Privatsphäre gemanagt werden.“
Ein wahrscheinliches Ergebnis wird sein, dass Ofcom empfiehlt, wie und welche Plattformen bewerten sollten, was möglicherweise nicht nur dazu führen könnte, dass die Plattformen ausgefeiltere Tools einführen, sondern möglicherweise auch Geldstrafen verhängt, wenn sie keine Verbesserungen liefern, sei es beim Blockieren von Inhalten oder bei der Schaffung besserer Möglichkeiten, um jüngere Benutzer zu halten davon, es zu sehen.
„Wie bei vielen Vorschriften zur Online-Sicherheit liegt die Verantwortung bei den Unternehmen, sicherzustellen, dass sie geeignete Maßnahmen ergreifen und geeignete Tools zum Schutz der Benutzer verwenden“, sagte er.
Es wird sowohl Kritiker als auch Befürworter der Maßnahmen geben. KI-Forscher finden immer ausgefeiltere Möglichkeiten, KI zu nutzen zum Beispiel Deepfakes erkennensowie zur Online-Verifizierung von Benutzern. Dabei sind es genauso viele Skeptiker die feststellen, dass die KI-Erkennung alles andere als narrensicher ist.
Ofcom kündigte die Konsultation zu KI-Tools gleichzeitig mit der Veröffentlichung seiner neuesten Untersuchung darüber an, wie Kinder im Vereinigten Königreich online interagieren. Diese ergab, dass insgesamt mehr jüngere Kinder vernetzt sind als je zuvor, so dass Ofcom nun pleitegeht zunehmende Aktivität in immer jüngeren Altersgruppen.
Fast ein Viertel, 24 %, aller 5- bis 7-Jährigen besitzen mittlerweile ein eigenes Smartphone, und wenn man Tablets mit einbezieht, sind es laut einer Umfrage unter US-Eltern sogar 76 %. Dieselbe Altersgruppe nutzt Medien auch viel häufiger auf diesen Geräten: 65 % haben Sprach- und Videoanrufe getätigt (gegenüber 59 % vor einem Jahr), und die Hälfte der Kinder (gegenüber 39 % vor einem Jahr) schaut sich gestreamte Medien an .
Die Altersbeschränkungen für einige Mainstream-Social-Media-Apps werden immer niedriger, doch wie hoch diese auch sein mögen, im Vereinigten Königreich scheinen sie ohnehin nicht beachtet zu werden. Laut Ofcom nutzen etwa 38 % der 5- bis 7-Jährigen soziale Medien. Metas WhatsApp ist mit 37 % die beliebteste App unter ihnen. Und möglicherweise zum ersten Mal, dass Metas Flaggschiff-Bild-App erleichtert darüber war, weniger beliebt zu sein als die virale Sensation ByteDance, wurde festgestellt, dass TikTok von 30 % der 5- bis 7-Jährigen genutzt wird, während Instagram bei „nur“ 22 % liegt. Discord rundete die Liste ab, ist aber mit nur 4 % deutlich weniger beliebt.
Etwa ein Drittel, 32 %, der Kinder in diesem Alter gehen alleine online, und 30 % der Eltern gaben an, dass sie damit einverstanden seien, wenn ihre minderjährigen Kinder Social-Media-Profile hätten. YouTube Kids bleibt mit 48 % das beliebteste Netzwerk für jüngere Nutzer.
Gaming, ein Dauerbrenner bei Kindern, wird mittlerweile von 41 % der 5- bis 7-Jährigen genutzt, wobei 15 % der Kinder dieser Altersgruppe Shooter-Spiele spielen.
Während 76 % der befragten Eltern angaben, dass sie mit ihren kleinen Kindern über die Sicherheit im Internet gesprochen haben, gibt es laut Ofcom Fragezeichen zwischen dem, was ein Kind sieht, und dem, was dieses Kind möglicherweise berichten könnte. Bei der Untersuchung älterer Kinder im Alter von 8 bis 17 Jahren befragte Ofcom diese direkt. Es stellte sich heraus, dass 32 % der Kinder angaben, besorgniserregende Inhalte im Internet gesehen zu haben, aber nur 20 % ihrer Eltern gaben an, etwas gemeldet zu haben.
Selbst wenn man einige Inkonsistenzen bei der Berichterstattung berücksichtigt, „deuten die Untersuchungen auf eine Diskrepanz zwischen der Exposition älterer Kinder gegenüber potenziell schädlichen Online-Inhalten und dem, was sie ihren Eltern über ihre Online-Erlebnisse mitteilen“, schreibt Ofcom. Und besorgniserregende Inhalte sind nur eine Herausforderung: Auch Deepfakes sind ein Thema. Laut Ofcom gaben 25 % der Kinder im Alter von 16 bis 17 Jahren an, dass sie sich nicht sicher seien, ob sie im Internet Fälschungen von echten unterscheiden könnten.