OpenAI, la société de développement à l’origine du très réussi ChatGPT, a fait face à plusieurs controverses concernant la confidentialité des utilisateurs en Espagne. En décembre dernier, une astuce simple a été révélée pour révéler des milliers de données privées. On a maintenant découvert qu’OpenAI n’avait pas seulement été piraté, mais elle n’a pas signalé aux autorités qu’elle avait été agressée.
C’est comme ça qu’il le dit il Le New York Times, ce qui explique qu’au début de l’année dernière 2023, un attaquant a réussi à accéder aux messageries internes d’OpenAI. Une fois à l’intérieur, ce hacker serait devenu avec des informations vitales sur la conception qui sous-tend les principales technologies d’IA de la société de Sam Altman, comme ChatGPT.
L’aspect le plus frappant de ce fait est que loin de signaler cette affaire aux autorités, OpenAI a décidé de se limiter d’informer eux-mêmes les salariés lors d’une assemblée générale. De plus, ils n’ont pas averti les autorités compétentes car aucune donnée sensible de client ou de partenaire n’avait été volée. Cet incident a cependant fait naître certaines craintes d’espionnage chez certains salariés de l’entreprise.
OpenAI a subi un piratage
Tout aurait été il y a plus d’un an et demi, début 2023. Un attaquant d’identité inconnue a accédé frauduleusement aux systèmes qui régulent la messagerie interne entre les employés d’OpenAI et a volé des données faisant référence aux conceptions des IA d’OpenAI.
Plus précisément, et selon le portail, le hacker aurait obtenu des données d’un forum dans lequel les employés discutaient des dernières avancées technologiques de l’entreprise. Malgré cela, le cybercriminel ne s’est pas « infiltré » dans les systèmes qui prennent en charge les principaux systèmes d’IA, tels que ChatGPT ; il n’a pas non plus volé d’informations sur ces systèmes.
Sam Altman, co-fondateur d’OpenAI. Reuters | Mariia Chalabaïeva Omicrono
À la suite de l’attaque, OpenAI a tenu une assemblée générale dans ses bureaux de San Francisco en avril de l’année dernière. On a parlé d’informations totalement classifiées et la nature de l’attaque a été révélée par les directeurs exécutifs d’OpenAI. L’essentiel est qu’aucun de ces dirigeants n’a décidé de révéler la nouvelle, car il n’y avait aucune preuve de vol de données sensibles auprès d’utilisateurs ou de partenaires commerciaux.
Puisqu’il n’y a eu aucun vol de ces informations privées, les dirigeants ont décidé ne qualifiez pas cet incident comme une menace et ils ont gardé le problème dans les portes d’OpenAI. Aucun dirigeant impliqué dans le dossier n’a contacté les autorités compétentes qui pourraient considérer ce piratage comme une question de sécurité nationale.
Le problème est que les employés d’OpenAI ne sont pas restés calmes. Depuis des mois, les principales sphères politiques américaines s’inquiètent sur les cybermenaces perpétrés par des pays ennemis, comme la Chine. Certains employés craignaient que des agents étrangers puissent voler des données d’intelligence artificielle, posant même un problème de sécurité nationale.
D’un autre côté, des inquiétudes ont également été soulevées parmi les employés quant à la manière dont OpenAI traitait ces questions. Les dirigeants ne pensaient pas que le pirate informatique avait des relations avec un gouvernement ennemi des États-Unis, ce qui les a motivés à garder le piratage secret. Cependant, le secret entourant l’affaire a mis en évidence les risques posés par le vol de données dans les systèmes d’IA.
Sam Altman, lors d’une conférence technologique aux États-Unis. getty
La première nouvelle concernant l’attaque est venue de Leopold Aschenbrenner, un ancien chercheur d’OpenAI qui a fini par être licencié, vraisemblablement pour avoir parlé de ces problèmes de sécurité. Dans une série de notes envoyées au conseil d’administration, Aschenbrenner accuse la société d’intelligence artificielle de ne pas prendre suffisamment de mesures pour empêcher les agents gouvernementaux de voler ses informations.
Toute cette affaire, déjà évoquée dans un podcast d’Aschenbrenner lui-même le mois dernier, arrive à un moment délicat pour OpenAI. Les controverses de l’entreprise ont été nombreuses ; Le feuilleton de Sam Altman ou les découvertes menaçantes contre l’humanité qu’OpenAI a faites avant de licencier son PDG ne sont que quelques exemples.
Même en dehors d’OpenAI, les craintes des élites politiques face à ces attaques ne disparaissent pas. Jake Sullivan, assistant de l’actuel président américain Joe Biden à l’Environmental Protection Agency, a dénoncé le fait que des pays ennemis des États-Unis menaient des attaques contre leurs systèmes d’eau potable, ciblant les compagnies des eaux impliquées.