Gordon Briggs et Dr Matthais Scheutz, deux ingénieurs de l’université de Tufts dans le Massachusetts, travaillent actuellement sur un robot qui devrait intéresser les amateurs de science-fiction. Ce dernier, nommé Shafer, est censé réagir aux ordres d’une manière plus « humaine ». Dans un article présenté à l’Association for the Advancement of Artificial Intelligence, les deux collègues expliquent qu’il existe une grande variété d’excuses pour ne pas obéir à un ordre. Ils ont donc décidé que leur prototype pourrait décliner une demande si un obstacle se situait en face de lui.
La vidéo qui suit permet de voir que le robot obéir lorsqu’on lui demande s’asseoir ou de se lever, mais exprime sa préoccupation quand on lui demande de marcher au bout d’une table et de tomber dans le vide. Il explique même que le manque de support est dangereux. Ce n’est qu’une fois assuré que quelqu’un va le rattraper qu’il décide d’avancer.
Une autre expérience permet de le voir réagir devant un mur d’obstacles fragiles. Selon les ingénieurs, cette appréhension est rendue possible par l’implémentation de « mécanisme de raisonnement » dans le software de la machine. Ces derniers permettent d’examiner rapidement l’environnement après la réception d’une commande afin de calculer si une action pourrait compromettre sa sécurité.
Un sujet passionnant !
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Au final le robot va désobéir à l’utilisateur comme son code, le programmeur, lui aura ordonné.
Il ne desobeit pas car l’on voit clairement que la fonction a été programmé pour qu’il dise non jusqu’à ce que le mec lui sorte la phrase magique ” i will catch you”
c’est étrange sur la deuxième vidéo, la main gauche du type (qu’il n’arrête pas de regarder lui-même) semble actionner quelque chose… Fake pour ma part…!
Il ne désobéit pas plus qu’un programme demandant une confirmation… Et ça existe depuis longtemps les boîtes de dialogue de confirmation… Nul !
Rien de surprenant …
Je développe sur Robot NAO et c’est qu’une question de code …
Je croyais que l’article allait parler d’un algorithme d’intelligence révolutionnaire et au final on comprend que le mec a juste mit pleins de conditions dans son code…
Le robot ne désobéit pas, il fait exactement ce qu’on lui a demandé dans l’ordre comme prévu par le développeur.
Je rappelle la définition de désobéir :
– Ne pas obéir à quelqu’un, faire ce qu’il défend : Désobéir à ses parents.
– Ne pas suivre une loi, un règlement, les enfreindre, les transgresser ; violer
Je ne crois pas que le robot à enfreint les règles définit dans son code.
Ce qui aurait été cool, c’est que le robot apprenne tout seul.
Genre il marche et tombe de la table et donc les fois suivantes il refuse.
C’est fou tous les ingénieurs programmeurs qu’il y a ici.
Vous voudriez que ce soit quoi d’autre que masse de conditions dans le code ? un code magique qui se creer tout seul ? mais même pour faire ça il faut bosser avec des conditions.
On fait de plus en plus d’IA qui apprennent par elle même, et donc, créent leur propres conditions. Dans ce cas la, ce qui serait intéressant serait d’avoir un robot qui aurait appris par lui même que la situation est dangereuse, et choisirait donc par lui même de refuser l’ordre.
C’est peut-être le cas, mais rien dans la vidéo ne montre cela.
J’suis même pas sûr que ce soit en vocal vu que sur deux vidéos le mec à ces doigts comme si il appuyait sur une télécommande …