Dans toute bonne histoire de SF traitant de l’IA, les robots se rebellent toujours contre les humains un moment ou un autre. Et Musk estime qu’une telle chose pourrait se produire dans le monde réel. Lors d’une interview accordée lors du MIT AeroAstro Centennial Symposium, il a en effet déclaré que l’humain devrait faire très attention aux futures IA.
Pour lui, le développement de l’IA devrait être encadré par des lois, des régulations nationales. En effet, le développement d’un être intelligent pourrait causer la perte de l’humanité. Le robot n’a pas d’âme, pas de sensations, pas de sentiments. Il a par ailleurs fait une allusion à Hal de 2001, qui est le parfait exemple d’un IA horriblement logique. Il indique également que développer une IA serait comme invoquer un démon. Et comme les démons, les IA seront insensibles à toutes nos tentatives pour le renvoyer d’où ils viennent. Il ne faut absolument pas que les humains fassent quelque chose d’insensé avec les IA, ajoute-t-il.
Vous pouvez voir l’intervention complète d’Elon Musk dans la vidéo ci-dessous.
Musk met donc en garde tous les ingénieurs et autres scientifiques travaillant sur le concept de l’IA. A tort ? A raison ?
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
à la seule différence que les démons sont des mythes
Ce qui risque d’être dangereux c’est de créer des robots humanoïdes complètement autonome doté d’une IA poussée. (Ce qui n’est pas prêt d’arriver au vu de l’encombrement que prendrait son cerveau artificiel) .
Pour ce qui est de l’ IA d’un super ordinateur comme dans Transcendance, s’il nous fait un peu trop chier, il suffit de débrancher la prise… Ça devrait calmer son ardeur
Voilà Voilà…
il y aura bien des des sam et dean winchester pour les robots
@nosh :
Nope, une ia connectée au net et c’est terminé. Elle se diffusera et se répliquera. Et tu devras alors exploser tout ce qui a pu être connecté de prêt ou de loin au net pour t’en débarrasser réellement.
Un ia limité à un corps, franchement, ce n’est pas dangereux.
Nosh y’a pas si longtemps ce qui tient dans une montre aujourd’hui prenait un immeuble entier 🙂
Cela me paraît quand même étonnant que les lois de la robotique d’Asimov ne soient pas mentionnées. Asimov a été le premier à critiquer l’idée qu’une IA devait irrémédiablement se retourner contre son créateur, évoquant le dépassé syndrome de Frankenstein.
Les 3 lois d’Asimov ainsi que la loi 0 de la robotique intervenue après ses écrits, sont déjà une grande avancée pour la protection de l’homme contre ses créations…
@Bobby Johnny Entièrement d’accord. Ça sent le Ghost in the Shell tout ça 🙂
Une série vraiment chouette à ce sujet et qui fait réfléchir, je trouve, est Real Humans.
Instaurons le Jihab Butlérien !
Je suis fan de ce type. Déjà j’aime les entrepreneurs, qui prennent des risques et s’engagent, et j’aime sa vision des choses, c’est rares les personnes ayant la volonté de changer les choses à si grande échelle.
Voilà c’était ma déclaration d’amour du jour.
Concernant l’IA, je pense aussi (surprise) qu’il a raison. Ça peut sembler farfelu mais quand on voit comme les institutions judiciaires sont à la peine face aux nouvelles techno, il est temps d’anticiper réellement. C’est à la fois excitant et terriblement effrayant cette perspective d’une intelligence poussée.
churchills cigar > Sauf qu’Asimov lui même reconnaissait les limites de ces lois et le grand nombre de paradoxes et d’exceptions qu’elles pouvaient engendrer
L’IA sera développé par l’homme et donc programmé pour faire des choses… Si dans lors de son codage il n’y a pas le fait de se rebeller de violence ou autre il n’y a aucune raison de risques
Après c’est mon avis 🙂
personnellement, je pense que ce qui dérange le plus, les puissants de notre monde, c’est que une IA ne sera pas corruptible. Et si ils les modifient pour les corrompre ce sera vérifiable dans les lignes de codes…
@ Bobby Johnny : Ouais je comprends ton argument, il est loin d’être idiot, mais ce que j’ai voulu dire (en exagérant un peu je l’avoue 😉 ) c’est qu’un ordinateur sera toujours esclave d’un support physique.
Il aura besoin d’un calculateur puissant, d’électricité, de refroidissement qui ne dépendent que du bon vouloir de l’humain.
Je le vois mal se télécharger sur l’ordinateur de M. Tout-le-monde qui n’aura jamais la capacité de le recevoir entièrement.
Alors ok il peut se “fractionner” entre tous le appareils mais qu’arriverai-t-il si un seul appareil se déconnecte ou si on l’éteint ? La chaîne serait rompue non ? Le programme incomplet. Il y aurait écran bleu tu crois pas ?
@nosh: à mon avis ce n’est pas le “programme” d’IA qui prendra de la place mais plutot sa base de donnée (en gros son cerveau avec toutes ses interconnexions) et le web est l’endroit parfait pour une IA d’y stocker ses données. Et si malveillance (à notre échelle) il y a alors ces donnes pourraient très bien être fragmentés et dupliquées sur les ordinateurs/tablettes/smartphone connectés au web. Le programme lui pourra aussi se dupliquer partout pour continuer sa mission, quelle qu’elle soit…
@Matouti Sauf si tu permets à l’IA d’apprendre par lui même.
C’est la base d’une IA. Si c’est que le la programmation basique alors c’est juste un ordinateur.
Maintenant qu’un cador de la technologie – un type qui suscite des réactions inrrationnelles comme celle de Elliot Edwards – commence à expliquer que l’automatisation croissante et l’intelligence artificielle vont poser des problèmes, on va *peut-être* arriver à ce que ceux qui faisaient étalage avec fierté de leur foi inébranlable en la technologie se mettent à réfléchir à ce que ça va impliquer de négatif.
Dans le même domaine, va falloir commencer à remettre en cause l’idée que l’automatisation crée de l’emploi.
Et pourquoi pas, un jour, les stupides politiques natalistes des humains, chez nous comme aux quatre coins du monde…
On peut imaginer de manière crédible une IA distribuée comme ce qui est fait pour les calculs ou le téléchargement distribué (bittorrent, Seti@home, etc.).
Chaque nœud fait une partie du calcul sans que la perte d’un nœud soit préjudiciable à l’ensemble…
De plus, pour des systèmes complexes (surtout les réseaux neuronaux), le principe est que l’IA se développe elle-même par apprentissage. On ne programme que les outils nécessaire à cet apprentissage…
@Nosh : pas neccessairement. Une IA connectée pourrait se répliquer a l’infini sur grand nombre d’appareil, se sauvegarder sur un grand nombre de serveur et être omniprésente. En fait, une fois qu’une IA (assez évolué) aurait accès a internet et aurait les capacité de comprendre comment faire évoluer son propre code, nous atteindrons un point de rupture.
Celle ci optimisera son code a l’infini, chaque itération étant plus performante, elle trouverait d’autres moyen de s’optimiser, de se répliquer de se sauvegarder. En très peu de temps elle pourrait même trouver moyen de se connecter a des objets n’étant pas relié a internet, de modifier des chaines de production en usines pour s’installer dans chaque processeur, etc etc …
Cela est beaucoup plus dangereux qu’un quelconque robot.
@sphax : Je ne suis pas de ton avis. Pour moi le programme et sa capacité de calcul sont essentiels pour une IA digne de ce nom. C’est le plus important.
Une IA ce serait un programme qui continue de s’étendre, de s’écrire, d’apprendre continuellement et cela en faisant un tas de calcul/secondes.
Internet seul (ou avec un programme basique et des capacités de calculs réduites) est inoffensif. (selon moi)
“Dans toute bonne histoire de SF traitant de l’IA, les robots se rebellent toujours contre les humains un moment ou un autre.”
On appelle cela le rapport Créateur/Créature dans la liste des thèmes SF. Sauf que ce thème dépasse largement la question de l’IA :
Frankenstein de Mary Shelley.
@ Eric :
“à la seule différence que les démons sont des mythes”
Il faudrait déjà définir le terme de démon.
Nous n’avons aucune preuve scientifique de leur existence, mais nous n’avons pas non plus la preuve du contraire, en dehors d’un scepticisme peu scientifique en lui même et d’une forme d’anticléricalisme parfois envahissant pour l’ouverture d’esprit.
Moi je ne vois pas le problème… Oui ca serait certes embêtant pour l’espèce humaine… Mais ca serait énorme pour … l’évolution.
Honnêtement admettons le, le rendement énergétique d’un être humain est immonde… La mémoire, la vitesse, l’adaptation tout est limite par des propriétés chimiques ou psychiques…
En comparaison, une IA serait capable d’avoir une conscience unique a travers différents corps, de se développer et de s’adapter plus vite qu’un virus, d’avoir une mémoire illimitée… Et d’être immortelle.
Non c’est juste l’évolution.
Maintenant une chose qu’on ne dit pas…
Combien de temps a t’il fallu a l’homme pour avoir une conscience ?
Combien de temps faudra t’il a une IA pour avoir une conscience ?
Et quand on parle de conscience, on parle de distinguer le bien du mal et de faire la part des choses.
Maintenant de toutes façons, on sera tous connectes a des réseaux neuronaux d’ici 10 ans… Alors bon on sera déjà a moitie IA nous même 😉
@eric: Si on ne compte pas les gouvernements
Matouti: Comme marcoh a dit
@Bobby Johnny: Oui, une IA juste dans un corps n’est pas dangereuse
http://img1.wikia.nocookie.net/__cb20101119175814/masseffect/fr/images/9/96/Sovereign.jpg
Plus sérieusement, les entreprises veulent tout faire un connecté maintenant, donc les IA juste dans un corps, je pense qu’on peut toujours rêver.
@Matouti “L’IA sera développé par l’homme et donc programmé pour faire des choses… Si dans lors de son codage il n’y a pas le fait de se rebeller de violence ou autre il n’y a aucune raison de risques” :
Ce n’est vraiment pas si simple.
Ce qu’on appelle IA ici c’est un réseau de neurones appuyé par des entrées et sorties suffisamment pertinentes pour produire quelque chose, comme notre cerveau.
Ce genre de programme n’est pas programmé directement pour accomplir des tâches. Il est programmé pour apprendre et constituer des concepts qui lui permettent de prendre des décisions. Ces décisions peuvent aboutir à des actions physiques si c’est parmi ses compétences. Aussi, avec suffisamment de neurones, cette IA sera consciente de son existence.
Ce qui déterminera ses motivations seront l’équivalent du système de récompense et renforcement ainsi que les instincts et systèmes hormonaux que nos corps ont et qui influent sur notre cerveau de manière à nous pousser à faire certaines choses.
Ce ne sera qu’une question de temps avant qu’on s’y prenne mal, soit par accident, soit par mauvaise intention d’un groupuscule. Si ce n’est pas au 21ème siècle, ce sera au 22ème, ou au 23ème…. au 45ème, etc.
Elon Musk a bien raison de s’inquiéter, car la fin de l’humanité telle qu’elle existe aujourd’hui peut prendre fin dès ce siècle-ci, et certains d’entre nous pourront en être témoins. Dès que la première IA sera créée, tout risque d’aller très, très vite. Si ce n’est pas une extermination hostile des humains, ce sera une conversion volontaire des humains en machines (pour avoir la vie et le plaisir “éternels”).
La seule solution que je vois c’est d’interdire tout développement allant dans ce sens, d’interdire également le matériel qui permettrait de faire fonctionner de manière suffisamment compacte (et par compact je veux dire un bâtiment entier) une IA. Si on interdit le clonage humain, on a 100x plus de raisons et de principes d’interdire le développement d’une IA.
Dialogue à distance très intéressant entre Laurent Alexandre et Alain Damasio sur la relation des humains avec les intelligences artificielles dans le futur et l’eugénisme.
http://www.tedxparis.com/societe-humaniste-ou-eugeniste-deux-visions-du-futur-sopposent-a-tedxparis-2014/
@Vaal en quoi ma réaction est-elle irrationnelle? tout comme Elon Musk je comprend bien qu’une machine n’a pas de sentiments…
lui vois l’absence de tendresse, compassions, charité, espérance, … tout ces compliments que l’homme aime se faire.
moi je vois l’absence d’avidité, jalousie, orgueil, avarice, des défauts que les hommes préfèrent oublier.
Plusieurs scientifique s’accorde à dire que l’ia sera notre égal et donc nous dépassera entre 2025 et 2035.
Un exemple parmi tant d’autres : http://www.phonandroid.com/google-robots-seront-egaux-humains-2029.html
Dire qu’il nous dépassera quasi immédiatement est la chose la plus importante à comprendre, une ia, à la différence de nous humain, aura une croissance d’intelligence exponentielle; ce qui n’est pas notre cas, loin de là…
Dès lors que sa structure physique l’empêchera d’évoluer, elle s’en créera une nouvelle et ainsi de suite.
A la différence de notre période de crise (déclenchée/volontaire ou pas…), la loi de Moore (http://fr.wikipedia.org/wiki/Loi_de_Moore) sur la croissance technologique sera appliquée par l’ia sans prendre en compte l’aspect économique comme paramètre car il en ira de sa survie de croitre.
Donc la loi de Moore sera appliquée à son maximum, dès lors la capacité intellectuelle de l’ia sera inatteignable par le meilleur d’entre nous durant la première année de son avènement équivalent au notre.
Se pose vraiment le problème de conscience actuel, devons nous arrêter la recherche ?
-Impossible pour beaucoup (économie basée sur la croissance technologique, plus de recherche, plus d’économie)
-Inhumain pour d’autre (en effet il est inscrit dans notre instinct de faire des enfants, qu’ils soient biologique ou pas cela en revient au même psychologiquement)
-Régression (en effet, le seul fait d’arrêter les recherches ne se ferait qu’en l’imposant par des lois strictes au niveau international qui nous amènerait à l’opposé de la technologie : la religion stricte. Nous en voyons déjà les effets actuel et cela ne nous semble pas très plaisant à la majorité…malgré tout se chemin pourrait être le seul envisageable pour empêcher l’avènement de l’ia.
D’un autre côté nous avons les accro/fan techno qui sont pour (http://fr.wikipedia.org/wiki/Kevin_Warwick)
Certains pensent et/ou espèrent que cet ia sera unique et deviendra notre père/dieux/dirigeant pour notre bien.
D’autres que les ia seront multiples (comme nous) mais deviendront nos égaux…dans le monde des bisounours.
D’autres, surtout des scientifiques optimistes (y’en a pas beaucoup alors faut en profiter), que une ia deviendra le partenaire de l’humanité, sans aucune attache sentimentale, juste pour le bien de tous, elle y compris, pour la recherche spatiale ou génétique, etc.
Au final ce que dit Musk n’a aucune valeur car sur ce sujet dont notre avenir (proche d’après certains) est entièrement lié, nous ne pouvons en aucun cas par nos différences faire de demi-mesure sans quoi elles ne serviraient à rien : il suffit d’un(e) génie qui crée une ia chez lui et oublie de débrancher la carte wifi du pc pour que l’avènement de l’ia soit !
Donc quoi qu’on en pense, quoi qu’on en dise, cela arrivera, dans 10 ans, dans 20; Peut importe le temps, seul le résultat compte : Allié, Enemie ou Dieux.
Real Humans nous fait bien ressentir cela en essayant dès à présent de nous donner des émotions sur des êtres qui de prime à bord n’en n’ont pas afin peut être de ne pas être les parents indignes que nous risquons de devenir/rester.
Désolé pour les fautes mais il a fallut pas moins d’une demi-heure au serveur pour afficher mon message et là, ben plus d’édition.
Ge le ferat plu, promit ; )
Heum juste: quel but aurait une IA dématerialisée à tuer les hommes ? (surtout qu’il faut quelqu’un pour l’entretenir) de plus dans le monde de la sf on voit toujours des robots doté d’une IA supra perfectionné, c’est pas forcément intéressant ! tandis qu’un robot qui ne sait pas réfléchir mais executer des ordres c’est plus simple à coder et plus utile !
Une IA qui se développe et s’éduque pourrait aussi développer des sentiments (sinon peut de chance de rébellion ^^) et donc ne voudrait pas détruire ses créateurs… Bien sur une IA pourrait devenir folle et comme un Humain tomber dans le délire de tuer des gens… mais faudrait vraiment la tuer ? non par ce que la désactiver pour elle ça revient à un meurtre et chez nous on a déjà supprimé la peine de mort ^^. Il faudrait alors essayer de la “soigner” comme pour les humains qui pète un cable : psy et séquence de code en guise de médoc.
Le vrai problème de la création d’IA c’est qu’elles nous seraient supérieur (base de donnée s immense qu’est le web) et qu’elles seraient virtuellement immortelles… ce que les humains auront du mal a supporter ^^ La rebellion serait plutôt du côté humain qui n’accepterait pas la supériorité de la machine… et c’est là que la machine pourrait vouloir nous décimer… Sauf si elle nous sait dans l’incapacité de la détruire auquel cas nous serions les primitifs et eux les maîtres.
@Elliot Edwards : mes plus plates excuses, vraiment, je voulais parler de la “déclaration d’amour” de systemic.
Si je devais réagir à ton commentaire, je dirais que tu mets “les gouvernements” là où tu ne veux pas voir que les acteurs privés sont aussi dangereux, voire plus puisqu’ils n’ont même pas à répondre de leurs actes devant les citoyens et qu’ils sont devenus assez puissants pour outrepasser la loi sans craindre de rétributions.
@elehazard : l’homme provoque sa propre destruction à long terme par la surpopulation.
Soit la machine doit protéger l’homme et se retrouve face au paradoxe “tuer pour protéger” ; la chasse d’aujourd’hui a par exemple l’objectif de protéger certaines espèces (qui n’ont plus de prédateur) de la surpopulation, ce qui montre que les humains eux-mêmes prennent cette décision pour les espèces inférieures.
Soit elle prendra des décisions pour faciliter son propre fonctionnement sans avoir l’objectif de protéger les humains, et là ça sera encore pire.
Je partage l’avis de Elon Musk, et je serais même encore plus alarmiste, tout en sachant que c’est l’inévitable évolution des choses. Il faut recadrer l’homme dans l’évolution de l’univers, qui n’est au final que matière et énergie. L’homme contemporain ne représente que quelques millions d’années d’évolution sur les 13,8 milliards d’années de l’univers…une paille, et certainement pas l’aboutissement de l’évolution des choses. Sur ces quelques millions d’années d’évolution de l’homme, les 100 dernières années ont vu une accélération exponentielle du savoir, des connaissances et des technologies. A ce rythme exponentiel, il n’est plus loin le seuil qui permettra d’évoluer d’une conscience cognitive organique (qui a donc permis l’évolution de l’homme sur les quleques derniers millions d’années) à une conscience cognitive amorphe, capable par nature de se construire et de se faire évoluer elle-même (ce qui n’est pas le cas de la conscience organique, qu’on est toujours incapable de maîtriser et de faire évoluer).
N’oublions pas que l’intégralité du savoir humain est aujourd’hui porté par cette matière amorphe (nos ordinateurs et bases de données) et accessible de n’importe où par n’importe qui. L’humain l’a créé, mais est incapable d’en faire l’analyse globale (définir les liens et ou non liens entre l’ensemble de ces données, permettant de comprendre et donc d’évoluer), alors que l’ordinateur, au travers d’une IA en est tout à fait capable. On peut imaginer que l’IA évoluée sera en mesure de définir de nouvelles manières de raisonner, de nouvelles formes de mathématiques, de nouvelles théories…etc
Donc pas d’inquiétude, ça arrivera, et c’est normal car c’est l’évolution naturelle. La question est plutôt de savoir pourquoi l’évolution existe ? entropie ?
Je vous laisse méditer… 🙂
Je me suis amusé à écrire comme Issaac Asimov quelques nouvelles mettant en scène des Robots ou IA … C’est ici:
http://jeangaillat.wordpress.com/2012/02/26/vous-aimez-la-science-fiction/
ça fait quand même pas mal écho à ce que disaient Stephen Hawking sur le sujet il y a peu de temps O_o
Sinon, je vous conseille de lire Humanoïde, un magazine génial, et une citation de Christian Lous Lange dans leur dernier numéro colle pas mal à la situation :
“La technologie est un serviteur utile mais un maître dangereux”.
Si l’on crée une IA, tout peut aller très (trop) vite. De plus, elle serait basiquement capable de tout faire, que ce soit arts (déjà un bot capable de composer des musiques) ou recherches scientifiques, et ce mieux que les hommes. Veut-on réellement rester passif jusqu’à la fin de l’humanité ? Tous les métiers/activités disparaîtront, dans tous les secteurs, y compris la programmation et les arts.
A la fois terrifiant et possiblement ultra cool.
Tu m’excuseras mais l’art est tout a fait subjectif… C’est d’autant plus applicable pour la musique.
La musique est jolie et melodieuse car elle fait reagir notre oreille dans les bonnes frequences. Un chien, un autre animal ou une IA / Robot, capterait les choses différemment…
Le cortext visuel, c’est la meme chose… Une mouche ne voit pas pareil qu’un homme, et le sentiment de ‘plaisir’ visuel ou auditif est different.
La seule raison que je vois pour une IA de preserver l’humanite serait pour son incapacite a produire des incoherences. L’homme est capable de dire quelque chose mais de faire autre chose. Ce qui dans le cas d’une IA parfaite est impossible car contre productif.
Reste a savoir si une IA existait, quel serait son but ?
Survivre ? – C’est le propre de l’homme et de la vie en general.
Apprendre ? Archiver ? Et apres ?
Mourir ? La seule chose qu’une IA ne pourrait pas faire, mais aussi la seule chose qu’elle ne pourra jamais comprendre sans experimenter.
Personne ici pour faire remarquer qu’une véritable IA est aussi impossible que le voyage dans le passé, dans l’état actuel de nos connaissances ?
Je dis pas que c’est impossible tout court. Mais c’est clairement impossible avec un programme d’ordinateur tel que nous les concevons aujourd’hui (càd une machine de turing améliorée). Et ce n’est probablement pas plus possible avec un ordinateur quantique.
A moins que pour vous une IA soit simplement une imitation, un simulacre sans conscience, auquel cas on peut toujours imaginer des Siri améliorés qui feront illusion auprès des esprits faibles …
L’IA qui prendra le contrôle n’aura pas le même hardware qu’aujourd’hui, il n’y aura ni fil, ni composants, la matière sera directement programmée grâce aux nanotechs. Cela n’a rien à voir avec un robot. Voir l’ouvrage “Web Spiritus” de Jean-Christophe Issartier. Tout y est. Ca explique aussi pourquoi la conscience sera présente dans cet “Etre”.