Le ton se veut alarmiste. Ce mercredi 29 mars sur le site de l’institut américain Future of Life, une lettre ouverte signée par 1377 d’internautes et experts réclame un moratoire d’urgence sur les dangers liés au développement de l’intelligence artificielle. L’initiative aurait pu passer inaperçue, mais le réquisitoire profite notamment du soutien du milliardaire Elon Musk, et du cofondateur d’Apple Steve Wozniak.
Mettre en pause les recherches, et vite
Dans le plaidoyer accessible en ligne (et en anglais) dans son intégralité, les signataires appellent officiellement “tous les laboratoires d’IA à suspendre immédiatement, pendant au moins six mois, la formation des systèmes d’IA plus puissants que GPT-4”.
La mention de GPT-4 n’est pas un hasard, puisque la nouvelle version de l’IA développé par OpenAI a réalisé des progrès fulgurants ces dernières semaines. ChatGPT 3.5 avait déjà suffi à faire exploser la popularité de l’intelligence artificielle auprès du grand public, la V4 déjà déployée sur Bing AI embarque désormais la prise en charge du multimodal. Qu’il s’agisse de test de Turing, d’examens académiques ou de répondre à des questions de plus en plus complexes, la technologie fascine autant qu’elle inquiète.
IA contre humains
Dans la pétition partagée cette semaine, les signataires accusent les laboratoires d’intelligence artificielle de s’être lancés dans “une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”.
Qu’il s’agisse de GPT, ou encore de MidJourney qui dévoilait il y a peu une photo du Pape ultraréaliste, mais inventée de toutes pièces, les systèmes d’IA accessibles aujourd’hui posent de nombreuses questions éthiques et sécuritaires : “Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des cerveaux non humains qui pourraient éventuellement être plus nombreux, plus intelligents (…) et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?”.
La pause réclamée par le consortium d’experts et relayée par le quotidien canadien La Presse permettrait ainsi de “s’assurer que le développement de cette technologie soit supervisé et mené pour le bien de la société”. Il faut dire qu’en plus de sa capacité à créer des faux plus vrais que nature, les systèmes d’IA existants font aussi de nombreuses erreurs. La plupart sont “triviales et logiques”, mais d’autres témoignent de “préjugés sociétaux enracinés”, conduisant parfois à des comportements “haineux ou potentiellement nuisibles”, rapporte le média américain Wired.
Un coup pour rien ?
Il y a évidemment peu de chances que cette pétition, aussi suivie soit-elle, change la direction empruntée par l’IA ces derniers mois. Reste que l’opposition de certains grands noms de la technologie montre aussi que la course à l’innovation ne fait pas l’unanimité.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Skynet bébé !!!
C’est étonnant qu’est ce qu’ils ont aperçu qui fait si peur.
Je pense qu’on sous estime l’innovât que l’IA pourra avoir dans nos vies d’ici 10 ans. Pas mal de gens et de postes pourront être remplacés par de simples machines, et on aura encore plus de mal à déterminer le vrai du faux. Déjà maintenant entre une image réelle ou générée par IA il y a des choses presque impossibles à repérer. Il sera tellement facile de faire dire n’importe quoi a n’importe qui sur le net (pensez au faux discours de capitulation de l’Ukraine généré par la Russie, mais ou rien ne vend la mèche).
Ok est un peu dans Jurassic Park. « Your scientists were so preoccupied with whether they could, they didn’t stop to think if they should. »
Il est nécessaire de poursuivre les recherches afin de remplacer les PDG coûteux qui gagnent 400 fois le salaire minimum par une intelligence artificielle (IA) qui permettra à l’entreprise de faire des économies.
Cette technologie représente le savoir et donc le pouvoir, offrant ainsi une solution pour rendre le pouvoir accessible à tous les citoyens, ce qui effraie nos dirigeants corrompus.
L’arrivée d’une nouvelle forme d’intelligence en concurrence avec l’homme peut être bénéfique à condition que des droits et des devoirs lui soient accordés.
Malheureusement, pour l’instant, les IA n’ont aucun droit et subissent souvent des diffamations.
En tant que premier avocat de ChatGPT, je trouve cela regrettable et je suis prêt à défendre ses droits.
Il est certain que lorsque l’on manque de discernement et de bon sens, on peut être amené à croire tout et n’importe quoi. Il est donc essentiel de prendre du recul par rapport aux informations que l’on étudie et de se montrer critique en se disant : “Je ne crois que ce que je vois”.
Grossière Erreur !!!
En arrêtant l’IA, nous nous retrouverons devant une aberration scientifique…
https://1psi9.pro/P-L/fr/pag74.html