Google Brain, le programme de recherche en intelligence artificielle de Mountain View vient de franchir un grand pas. Le début de la fin diront certains.
Jugez plutôt : alors que ce projet a pour but d’étudier la façon dont les I.A. évoluent grâce à des algorithmes, deux intelligences artificielles, Alice et Bob, ont réussi à communiquer entre elles en créant leur propre algorithme. Pendant ce temps-là, une troisième I.A, Eve, était chargée d’intercepter ces communications.
Deux I.A. créent leur propre langage indéchiffrable
Une découverte majeure. Les deux I.A. ont créé leur propre algorithme de chiffrement afin de sécuriser leur communication. Si Eve a bien intercepté des parties de leurs communications, seules les deux IA peuvent en déchiffrer le contenu puisqu’elles seules détiennent la clé de déchiffrement.
Avec cette expérimentation, Google tente de démontrer qu’il est possible de protéger des communications en utilisant des réseaux de neurones, via un système multi agent : Alice, Bob et Eve.
Celui-ci est composé de deux réseaux neuronaux qui doivent développer leur propre algorithme de chiffrement pour sécuriser leur conversation, pendant qu’un troisième réseau de neurones tente de le casser pour écouter ce qui se dit.
Des réseaux neuronaux pour sécuriser les conversations
Alice devait donc envoyer un message à Bob, qui devait réussir à le déchiffrer sans qu’Eve ne parvienne à écouter le message.
L’expérience a donc dépassé toutes les attentes, : les IA « ne sont en général pas destinées à être bonnes en chiffrement » expliquent les chercheurs de Google. Et les deux I.A. n’avaient appris d’aucun algorithme de chiffrement spécifique.
Des messages de 16 bits à déchiffrer
Rome ne s’est pas faite en un jour et les deux IA ont mis du temps avant de parler le même langage. Alice a ainsi envoyé plusieurs messages chiffrés de 16 bits à Bob qui devait les déchiffrer (tout comme Eve). Seul Bob détenait la clé de déchiffrement. Il aura fallu pas moins de 10 000 messages avant que Bob ne réussisse à reconstruire le message en clair. Dans le même temps, Eve, qui faisait de moins en moins d’erreurs, a vu son sort se compliquer à mesure que les IA réussissaient à communiquer entre elles.
Au bout de 15 000 messages, c’était chose faite et Eve n’était plus en mesure d’écouter la conversation.
Reste à comprendre comment l’algorithme de chiffrement s’est constitué.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Est-ce l’instant zéro de “Terminator” , quand les machines ont fini par se dire qu’elles pouvaient se passer de l’Homme ?…L’astrophysicien “maudit” Jean-Pierre Petit avait prévu ce genre de situation et ce qu’il faudrait faire pour y remédier dans l’épilogue pour “un futur proche” de “Demain : les robots” , un épisode de sa série bd “les aventures d’Anselme Lanturlu” …. C’est très instructif, notamment la dernière image, celle où s’inscrit le mot “Fin” . Mr Petit a mis cette bd en ligne sur son site . Je n’en dis pas plus, des fois que l’algorithme de l’AI de Google me lirait …
Un lien possible?
ps: ouai je suis flemmard.
Entre deux ordinateurs capables d’échanger des informations de manière seulement compréhensible, et développer des idées, ou des échanges de manières autonome ou spontanée, il y a un monde, donc pas de risque.
Au final, ils ont juste utilisé un chiffrement basique avec clefs quoi xD
Un algorithme de chiffrement.
Je n’appelle pas ça un “langage” !
Faut arrêter de dire n’importe quoi :-p
Titre putaclick, c’est devenu de la merde le jdg.
Entre les pubs envahissantes qui rendent les articles illisibles (surtout en mobile) et le contenu de plus en plus vulgaire (winkwink @Matthieu, tu t’es pas arrangé mon salop), pour un article de qualité, y en a 20 absolument merdiques.
ce qui prouve que vous citiquez sans comprendre… Comment pensez vous qu’ils se soient mis d accord sur l’algorithme ? en batissant un langage lui même incompréhensible par le 3ème… c est la le truc que le big data a permis. Les IA n ont pas fait que chiffrer, ce qui serait simple, elles ont mis en place un langage de base permettant de se mettre d accord sur le chiffrage
Mouais… il a quand même fallu que Bob obtienne la clé de déchiffrement. Elle ne lui a pas été envoyée par Alice car Eve l’aurait interceptée et pourrait l’utiliser, donc ça n’a pu fonctionner que parce qu’Alice et Bob ont un autre canal d’échange qu’Eve ne peut pas intercepter… c’est loin d’être une révolution, mais ça prouve quand même que ces IA sont capables de concevoir quelque chose qu’on ne leur a pas appris auparavant.
non, elle a pu etre décrite par Alice dans un langage justement que Eve ne pouvait pas comprendre. Les deux AI ont échangés des information par un protocole de plus en plus eloigne du protocole initial. Eve a intercepté mais ne pouvais interpreter correctement le protocole qu’il (elle) ne connaissait pas (ce n est pas du chiffrage).
je pense que vous n avez pas compris le truc de google : le but n est pas de creer un algo de chiffrage uniquement, mais un algo de chiffrage commun entre deux AI qui n en connaissent aucun.
Cela implique que les deux réseaux de neurones finissent par de synchroniser au travers d echanges, qui forment un langage, échange lui meme inconnu de la troisieme entite.
Ils ont donc développés un protocole permettant de s échanger des informations afin d aboutir a un chiffrement avec les cles respectives. Ce que l observateur a rate, c est la compréhension de ce langage d echange ce qui fait que les deux entites ont finis par se mettre d accord sur un chiffrement commun et a se passer la cle sans etre compris. Une fois ceci fait, c etait fini pour l observateur qui etait hors circuit.
Ce n’est pas du tout ce qui est expliqué dans cet article, ni dans l’étude concernée :
Pour chaque message envoyé par Alice, Bob reçoit la clé avec le message crypté, alors qu’Eve ne reçoit que le message. Le but de Bob est d’Alice est de se mettre d’accord sur l’utilisation qu’ils font de la clé pour crypter et décrypter le message.
Au départ Alice et Bob échangent des messages non cryptés qu’Eve peut donc écouter, dans lesquels ils essayent de mettre au point un algorithme de cryptage à partir de la clé qu’ils partagent. Au fur et à mesure de leur conversation, ils essayent d’utiliser leurs algorithmes successifs pour crypter une partie de leurs échanges. Ils parviennent ainsi à “cacher” de plus en plus d’informations à Eve et à mettre au point un algorithme de plus en plus performant, jusqu’à ce que tout leur canal de conversation soit crypté et inaudible pour Eve.
Le protocole d’échange est le même pour les trois IA, et si Eve avait reçu la clé commune, elle aurait été en mesure de comprendre l’algorithme et décrypter les messages au fur et à mesure. Il ne s’agit donc pas du tout d’inventer un protocole ou un “langage” commun, mais bien d’inventer un algorithme de cryptage à partir de clés partagées, ce qui est complètement différent !
Donc si j’ai compris, Les IA ont créer pars elle même un algo de crytage?
Donc si un jour elles communiquent entre elles, Elles pourront nous cacher des informations?
Faux ! Si vous avez bien lu votre source aucun language n’a été inventé par ces reseaux neuronals artificiels (non IA) : les clés de chiffrement on été fournis à A (Alice) et B (Bob) pour tester E (Eve) qui avait le role de dechiffrer les messages (p) de A vers B sans la clé (k), ce n’est qu’une experience de cryprologie. Mais bon ca doit etre plus facile de faire des copier/coller avec des titres putaclic #skynet que juste faire la lecture de votre source en entier..