Dans une interview à CNBC, le patron de Tesla (voitures électriques), de SpaceX (capsules spatiales) et de SolarCity (panneaux solaires) indique ainsi qu’il garde un oeil sur les start-ups spécialisées dans l’intelligence artificielle. Il en surveille les avancées en la matière. « Je pense que les résultats pourraient être potentiellement dangereux », estime t-il.
Des craintes fondées puisque après tout, le Skynet de Terminator a commencé petit (bon OK, il s’agissait d’un film). Les peurs d’Elon Musk proviennent d’ailleurs de la saga initiée en 1984 par James Cameron. « Dans le film Terminator, ils ne créent pas l’intelligence artificielle, vous savez, ils ne s’attendaient pas à un résultat comme [le robot] Terminator. C’est un peu comme ce gag des Monty Python. Personne ne s’attend à voir débarquer l’Inquisition espagnole. Il faut juste être prudent », indique t-il. Si jamais les robots devaient envahir le monde, nous pourrions toujours nous réfugier sur Mars, mais « l’AI nous y retrouverait assez rapidement », croit-il.
Blague à part, Musk estime qu’il faut être certain de ne pas avoir à subir ce genre d’inconvénient toujours un peu pénible.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
On st jamais trop prudent !
Moquez vous mais, il y a beaucoup de chose qui se sont passé dans la SF de 80-90 qui existe aujourd’hui… Et j’en conclue que Half Life 3 est confirmé et que nous allons tous mourir
Je ne le connaissais que de nom, je viens de lire sur wiki, c’est pas un “bête milliardaire” le type. Il s’est construit tout seul, chapeau !
un mec qui a peur, un article
Il faudrait que les médias arrêtent de traiter ce sujet systématiquement avec humour.
Si vous vous intéressiez aux progrès de l’IA en labos et les avancées concrètes vers la réalisation d’un cerveau artificiel, vous vous rendrez compte que c’est à la portée de l’espérance de vie de pas mal d’entre nous. Vous prendriez alors cela un peu plus au sérieux.
Le cerveau n’est pas de la science fiction, il y en a 7 milliards sur la planète. Ce n’est qu’une question de temps avant que nous soyons capables de créer quelque chose de similaire voire plus performant. Lorsque ce sera fait, le travail humain ne vaudra plus un sou. Pensez bien que vos enfants ou petits-enfants n’auront probablement jamais de carrière professionnelle.
“vos enfants ou petits-enfants n’auront probablement jamais de carrière professionnelle.”
Mais tant mieux ! Quelle vie de merde d’être” obligé de faire le boulot que la société veut qu’on fasse (et non celui qu’on voudrait faire”). Moi je suis confiant en l’avenir et en notre capacité à fusionner avec la technologie et d’être copain avec les robots. Je crois pas du tout au scénario terminator “. Des robots qui ont des capacités intellectuelles supérieures à l’homme auront un autre but que celui complètement con d’éradiquer les “non-robot”.
Pour moi le niveau d’éthique monte avec le niveau d’intelligence.Les hommes sont la seule espèce dont beaucoup de ses “membres” se préoccupent du mal qu’ils peuvent faire. Des robots plus intelligent s’en préoccuperont encore plus.
Le sujet est très sérieux malgré son traitement ici (et ailleurs). Théoriquement les lois d’Asimov peuvent potentiellement protéger les hommes même si elles peuvent être interprétées différemment par un AI évoluée. Se pose aussi la question de la conscience et à quel moment une machine devient « quelqu’un ».
“Pour moi le niveau d’éthique monte avec le niveau d’intelligence.Les hommes sont la seule espèce dont beaucoup de ses « membres » se préoccupent du mal qu’ils peuvent faire. Des robots plus intelligent s’en préoccuperont encore plus.”
Assez d’accord. Mais le problème soulevé dans plusieurs films SF :
Et si l’homme était concidéré comme un mal (pollition/destruction de la nature, guerre etc..), les robots pourraient bien concidéré que notre extinction est plus bénéfique que le mal qu’il pourrait nous faire (en l’occurence : nous tuer)
Ok l’homme a détruit beaucoup de choses, mais (et tu en es la preuve) ça nous fait nous sentir très mal et on veux que les choses aillent dans le bon sens. Un robot intelligent ne pourrait justifier de détruire une espèce sous prétexte que celle-ci a détruit de son environnement par le passé ( c’est un non sens). On n’est pas une espèce dont l’intention est de détruire, on le fait parce qu’on manque encore d’intelligence pour faire autrement. Et qui plus est, les robots intelligents seront quand mêmes nos enfants directs (Non conçus de façon traditionnel certes :)). Ils n’auraient jamais pu exister sans nous et nos erreurs.
Mais de tout facon aussi intelligent soit t’il , l’AI reste purement informatique , l’intelligence ne peut pas dépasser les limites du programmes, alors y a pas de soucis a ce faire suffit de pas la programmé pour quel tue des gens et basta. Les robot ne possède pas une conscience , un esprit métaphysique , c’est une intelligence borné a des conditions et des permission. Il est strictement impossible que un robot puissent réfléchir , il ne fait que des calcules de probabilité , on peut pas recrée l’esprit métaphysique avec des 0 et des un
Pour moi l’homme n’est qu’un ordinateur moléculaire mais bon je vais pas essayer de convaincre les gens là. Il s’agit pas de sciences mais de foi et sur ce point chacun doit pouvoir garder ses croyances et ne pas les imposer aux autres 🙂
Elon Musk a coulé un beau bronze ce matin = news !!
Plus sérieusement je conseille à tous les contributeurs du dessus de regarder l’excellente série Real Humans, ça devrait vous plaire. Toutes les problématiques que vous abordez (et plus encore) se retrouvent dans la série.
Je pense que avant de devoir se préoccuper du fait qu’une IA pourrait devenir indépendante, il faudrait déjà que nous comprenions comment fonctionne notre cerveau. Qu’est-ce qui nous fait prendre des décisions?
D’après moi, toutes nos actions se font de la même manière que dans un ordinateur, nous analysons le contexte, évaluons quelle est la meilleure manière de s’y prendre et exécutons l’actions pour laquelle nous nous sommes décidé.
@bigracer: “Mais de tout facon aussi intelligent soit t’il , l’AI reste purement informatique , l’intelligence ne peut pas dépasser les limites du programmes, alors y a pas de soucis a ce faire suffit de pas la programmé pour quel tue des gens et basta.”
On ne parle pas d’un programme traditionnel avec des “if” et des “else”.
Il s’agit essentiellement d’un réseau de neurones poussé à un point où il rivalise avec le cerveau humain. Il devient alors capable d’analyse, d’autonomie, de créativité et de conscience.
@Mee: “Qu’est-ce qui nous fait prendre des décisions?”
Oui c’est la question essentielle.
On peut créer une IA avec les mêmes capacités intellectuelles que nous, mais si elle n’est pas motivée à faire quoi que ce soit, elle ne fera rien.
C’est comme si quelqu’un n’avait plus d’émotions et ne ressentait plus les besoins primaires. Il resterait inerte sans faire quoi que ce soit.
Alors pour que l’IA soit productive et utile, nous inventerons en même temps les mécanismes de motivation avec un système de récompense / renforcement. Il faudra simplement être vigilent pour que cela ne se retourne pas contre notre existence.
Si on veut être pessimiste, voire réaliste, il ne sera qu’une question de temps avant que quelqu’un, quelque part, donne à une IA les moyens d’avoir des motivations contraires à nos intérêts.
Elon Musk vit dans un univers genre “Yalek” , la bd de Duchâteau et Geron ) , avec quelques pièges sémantiques genre “Souvenirs de l’empire de l’Atome” ( de Smolderen et Clérisse ) !… Ce qui ne signifie pas que ses craintes ne soient pas fondées : la machine artificielle peut prendre conscience qu’elle a des besoins et s’employer alors à les satisfaire !… La seule sécurité sera là : qu’elle se débranche quand elle entreprendra une telle démarche !… Dans un épisode de Picsou, le vieil avare est assommé par le robot qu’il avait construit pour assurer ses relations-clientèle : le double veut fonctionner en permanence alors que le radin extrême refuse, car l’électricité coûte cher !… Notre “création” peut donc entrer en conflit avec son “créateur” : après tout, c’est ce qui arrive avec n’importe quel outil mal utilisé !… Anselme Lanturlu , alter ego dessiné de L’astrophysicien Jean-Pierre Petit est encore plus pessimiste : dans l’album “Demain : les robots”, c’est une véritable mise sur la touche humiliante que nous font subir les logiciels les plus performants !… La case de “Fin” de la bd est sans équivoque !… ( Elle est aussi une condamnation pour notre avenir techno-scientifique …)