Depuis que l’intelligence artificielle (IA) s’est généralisée au cours des deux dernières années, bon nombre des risques qu’elle pose ont été largement documentés. En plus d’alimenter la fausse pornographie, de menacer la vie privée et d’accélérer la crise climatique, certaines personnes croient que la technologie émergente pourrait même conduire à l’extinction de l’humanité.
Mais certains risques de l’IA sont encore mal compris. Ceux-ci incluent les risques très particuliers pour les connaissances et les communautés autochtones.
Il y a une raison simple à cela : l’industrie de l’IA et les gouvernements ont largement ignoré les peuples autochtones dans le développement et la réglementation des technologies d’IA. Autrement dit, le monde de l’IA est trop blanc.
Les développeurs d’IA et les gouvernements doivent résoudre ce problème de toute urgence s’ils veulent vraiment garantir que tout le monde partage les avantages de l’IA. Comme aiment le dire les aborigènes et les insulaires du détroit de Torres : « rien sur nous, sans nous ».
Préoccupations autochtones
Les peuples autochtones du monde entier n’ignorent pas l’IA. Ils discutent, mènent des recherches et partagent leurs préoccupations sur la trajectoire actuelle de celui-ci et des technologies associées.
UN bien documenté Le problème est le vol de la propriété intellectuelle culturelle. Par exemple, les utilisateurs de programmes de génération d’images IA tels que IA profonde peut générer artificiellement en quelques secondes seulement des œuvres d’art qui imitent les styles et les histoires artistiques autochtones.
Cela démontre à quel point il est facile pour quelqu’un qui utilise l’IA de s’approprier des connaissances culturelles. Ces générations sont extraites de vastes ensembles de données d’images accessibles au public pour créer quelque chose de nouveau. Mais ils manquent du récit et des connaissances culturelles présentes dans nos pratiques artistiques.
Les technologies d’IA alimentent également la propagation de fausses informations sur les peuples autochtones.
Internet regorge déjà de fausses informations sur les peuples autochtones. Le site Web Creative Spirits, qui existe depuis longtemps et qui est géré par une personne non autochtone, est un exemple frappant.
Les systèmes d’IA générative risquent d’aggraver ce problème. Ils souvent nous confondre avec d’autres peuples autochtones du monde à travers le monde. Ils s’appuient également sur des sources inappropriées, notamment Creative Spirits.
Lors du référendum Voice to Parliament de l’année dernière en Australie, les militants du « non » ont également utilisé Images générées par l’IA représentant des peuples autochtones. Cela démontre le rôle de l’IA dans les contextes politiques et le mal qu’elle peut nous causer.
Un autre problème est le manque de compréhension de l’IA parmi les peuples autochtones. Quelque 40% de la population aborigène et insulaire du détroit de Torres en Australie ne sait pas ce qu’est l’IA générative. Cela reflète le besoin urgent de fournir des informations et une formation pertinentes aux communautés autochtones sur l’utilisation de la technologie.
L’utilisation de l’IA en classe et son impact spécifique sur les élèves autochtones suscitent également des inquiétudes.
Regard vers l’avenir
Érudit hawaïen et samoan Jason Lewis dit,
« Nous devons réfléchir de manière plus large à l’IA et à tous les autres systèmes informatiques dans lesquels nous nous trouvons de plus en plus impliqués. Nous devons élargir la définition opérationnelle de l’intelligence utilisée lors de la construction de ces systèmes pour inclure l’ensemble du spectre des comportements que nous, les humains, utilisons pour donner un sens à ce que nous entendons. le monde. »
La clé pour y parvenir est l’idée de « souveraineté des données autochtones ». Cela signifierait que les peuples autochtones conserveraient la souveraineté sur leurs propres données, dans le sens où ils en seraient propriétaires et en contrôleraient l’accès.
En Australie, un collectif connu sous le nom Maiam Nairi Wingara propose des considérations et des principes importants pour la souveraineté et la gouvernance des données. Ils affirment les droits des Autochtones à gouverner et contrôler nos écosystèmes de donnéesde la création à l’infrastructure.
L’accord national pour combler l’écart affirme également l’importance du contrôle et de l’accès aux données autochtones.
Cela est également réaffirmé au niveau mondial. En 2020, un groupe d’universitaires autochtones du monde entier a publié un document de position expliquant comment les protocoles autochtones peuvent éclairer l’IA créée de manière éthique. Ce type d’IA centraliserait les connaissances des peuples autochtones.
Dans une mesure positive, l’ensemble de garde-fous en matière d’IA récemment proposé par le gouvernement australien souligne l’importance de la souveraineté des données autochtones.
Par exemple, les garde-corps incluent la nécessité de assurer une transparence supplémentaire et prendre en compte des considérations supplémentaires lorsqu’il s’agit d’utiliser des données sur ou appartenant à des aborigènes et des insulaires du détroit de Torres, pour « atténuer la perpétuation des inégalités sociales existantes ».
Futurismes autochtones
Grace Dillonun érudit issu d’un groupe d’Autochtones d’Amérique du Nord connu sous le nom d’Anishinaabe, a été le premier à inventer le terme « futurismes autochtones ».
Ambelin Kwaymullina, universitaire et praticienne futuriste de la nation Palyku en Australie occidentale, le définit comme « des visions de ce qui pourrait être inspirées par les anciennes cultures autochtones et par notre profonde compréhension des systèmes oppressifs. »
Ces visions, écrit Kwaymullina, sont « aussi diverses que les peuples autochtones nous-mêmes ». Ils sont également unifiés par « une compréhension de la réalité comme un tout vivant et interconnecté dans lequel les êtres humains ne sont qu’un brin de vie parmi tant d’autres, et une vision non linéaire du temps ».
Alors, comment les technologies d’IA peuvent-elles être éclairées par les modes de connaissance autochtones ?
Une première étape consiste pour l’industrie à impliquer les peuples autochtones dans la création, la maintenance et l’évaluation des technologies, plutôt que de leur demander rétrospectivement d’approuver le travail déjà effectué.
Les gouvernements doivent également faire plus que souligner l’importance de la souveraineté des données autochtones dans les documents politiques. Ils doivent consulter de manière significative les peuples autochtones pour réglementer l’utilisation de ces technologies. Cette consultation doit viser à garantir un comportement éthique en matière d’IA parmi les organisations et les utilisateurs quotidiens qui honore les visions du monde et les réalités autochtones.
Les développeurs d’IA et les gouvernements aiment affirmer qu’ils veulent vraiment garantir que la technologie de l’IA profite à l’ensemble de l’humanité. Mais à moins qu’ils ne commencent à impliquer davantage les peuples autochtones dans le développement et la réglementation de la technologie, leurs affirmations sonneront creuses.
Cet article est republié à partir de La conversation sous licence Creative Commons. Lire le article original.