La semaine dernière, à l’occasion de la Convention on Conventional Weapons (Convention sur armes conventionnelles) qui se tenait à Genève, les Nations-Unies ont décidé de créer un groupe d’experts gouvernementaux dédié à la question des « systèmes d’armes léthales autonomes » dès l’année prochaine. Le but de ce groupe d’étude est simple : donner son avis sur les robots tueurs et potentiellement les interdire et les bannir des arsenaux nationaux.
Un débat qui n’est pas nouveau
Les robots tueurs ne sont pas un simple fantasme d’auteur de science-fiction. S’ils n’existent pas encore officiellement (la Chine travaillerait toutefois déjà à l’intégration d’IA au sein de certains de ses missiles), les progrès réalisés dans le domaine de l’IA ces derniers mois inquiètent les experts. Si des sociétés privées sont capables de créer des voitures autonomes capables de prendre des décisions complexes (qui tuer en cas d’accident inévitable ?), alors rien n’empêcherait potentiellement des États de créer des armes dirigées par une IA capable de choisir des cibles sans être pilotée par des humains.
Le débat n’est pas nouveau. Depuis des années, des entrepreneurs et des scientifiques alarment la communauté internationale sur les risques des robots tueurs. Pour Stephen Hawkin, il ne fait aucun doute que cela pourrait être une des causes de la fin de l’humanité. Elon Musk considère également que l’IA est « potentiellement plus dangereuse que les bombes nucléaires ».
La création de ce groupe d’expert est une avancée encourageante. Elle devrait permettre à court terme de mettre en place des règles internationales précises concernant les robots tueurs et formaliser leur interdiction.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Mais non vous ne comprenez pas !! Ce sera juste pour se défendre ! Promis !
Ca dépend, si ces robots n’ont le droit de tuer que d’autres robots.
Ca sera des combats de robots et les humains ne seront pas touchés.
A moins, que ces robots se retournent vers leur créateur et colonise l’espece humaine !?
Bon mettons de côté les fantasme de matrix ou terminator: on peut voir aujourd’hui avec Alep que l’Homme est suffisamment meurtrier ok? Maintenant si nous garantissons que ces IA primitives seront capable d’identifier un individu armé d’un civil, capable, par exemple pour un missile, de sonder en 1 fraction de seconde le bâtiment visé (via des capteurs thermiques et j’en passe) alors j’aurais plus confiance en cette IA, qu’en ce général qui donne l’ordre de bombarder un hôpital.
On m’a parlé d’une petite société prometteuse nommée Skynet… franchement les robots soldats c’est le fantasme des grosses puissances : à terme moins coûteux qu’un soldat, sacrifiable, totalement obéissant, résistant, ça va vraiment être intéressant de voir le lobbying derrière : le marché des drones autonomes terrestre/aériens/maritimes est monstrueux
je me demande ce que va donner un blue screen of death sur ce genre d engin
Ca m’étonnerais qu’il install Windows dessus…