Le feuilleton de la semaine concerne OpenAI et son cofondateur Sam Altman. Brutalement évincé de son poste de directeur général vendredi dernier, celui que l’on surnomme « le père de ChatGPT » a rapidement trouvé refuge chez Microsoft… avant de faire son retour comme DG chez Open AI. À suivre en presque direct sur la plateforme X, la crise existentielle de l’entreprise phare de l’IA générative a connu de nombreux rebondissements. Les employés d’OpenAI ont également fait connaître leur point de vue, demander la démission de l’ensemble du conseil d’administration dans une lettre. Certaines figures ont même claqué la porte tandis que d’autres ont menacé de quitter la startup pour rejoindre Microsoft.
Cette crise éclair ne sera pas sans incidence dans le monde de la tech et un flou persiste : pourquoi Sam Altman a été débarqué à la surprise générale d’OpenAI ? Des bruits de couloirs évoquent des divergences d’opinions avec certains collaborateurs, mais le mal pourrait être beaucoup plus profond. Selon Reuters, plusieurs chercheurs d’OpenAI ont alerté le conseil d’administration juste avant le court exil de Sam Atman. Dans une lettre, ils mettent en garde la direction d’une puissante découverte qui pourrait menacer l’humanité.
Des termes forts de la part des chercheurs qui s’inquièteraient des récentes avancées d’un projet baptisé « Q* ». Controversé, ce projet (prononcé Q-Star) pourrait constituer une percée dans la recherche de ce que l’on appelle l’intelligence artificielle générale (IAG ou AGI en anglais), précise Reuters. L’IAG fait référence à une intelligence artificielle capable d’effectuer ou d’apprendre pratiquement n’importe quelle tâche cognitive propre aux humains. Dans les faits, ces systèmes autonomes peuvent surpasser les humains dans la plupart des tâches présentant une valeur économique.
Q Star, l’IA qui part à la conquête des mathématiques (et scientifiques)
Si le nouveau modèle n’a pas encore ce stade d’AGI, il se montre en mesure de résoudre certains problèmes mathématiques. Les premiers tests se limitent à des exercices d’école primaire, mais son potentiel sur sa capacité à raisonner suscite de l’enthousiasme chez les chercheurs. Actuellement, l’IA générative surprend par ses capacités en écriture ou en traduction, même si les réponses à une même question peuvent varier. En mathématiques, il n’y a qu’une seule bonne raison et cela implique que l’IA dispose de capacités de raisonnement plus perfectionné, proche de l’intelligence humaine.
Le potentiel d’une super IA comme Q a de quoi inquiéter les chercheurs qui ont alerté sur le danger d’un tel modèle de langage. La lettre figurait parmi les éléments clés avant que le conseil d’administration n’évince la tête d’affiche de l’IA générative. Le document figurerait dans la longue liste de griefs formulés par le conseil d’administration pour justifier le licenciement de Sam Altman. Parmi les autres éléments, on trouve la volonté du dirigeant de commercialiser les produits d’OpenAI au public avant d’en comprendre les conséquences. Tous ces éléments n’ont évidemment pas été confirmés publiquement par le personnel ou l’entreprise.
Le projet Q*, symbole d’une IA qui fascine autant qu’elle inquiète
OpenAI a toutefois confirmé l’existence du fameux projet Q* et d’un courrier adressé au conseil. Il convient, en l’état, de rester prudent au sujet de Q Star, surtout après une semaine riche en rebondissement pour l’entreprise. Son existence rappelle néanmoins au bon souvenir des craintes qui accompagnent le développement de l’intelligence artificielle. L’IA inquiète et de nombreuses personnalités ont demandé l’arrêt des recherches en début d’année. Rejetés par certains acteurs importants comme Microsoft, une pause dans la recherche ne semble plus d’actualité et les géants redoublent d’efforts pour s’imposer. Google ou Meta s’éloignent de leurs ambitions d’IA éthique tandis qu’Elon Musk – pourtant favorable à cette pause – vient de dévoiler Grok.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Ça y est, la machine à théories va être relancé à plein. J’adorerais trop que le Q des c0ns de Q-anon soit cette IA d’OpenIA et qu’ils découvrent avoir été manipulés depuis le début… ce qui est le cas, mais pas encore officiellement par une machine (sQynet ^^?)
L’unique danger à l’humanité et à la biodiversité est l’homme car il ne pense qu’à son intérêt personnel !
Quand l’intelligence artificielle aura une conscience, je pense qu’elle saura faire la part des choses en s’émerveillant de voir toute la complexité de la vie et son évolution au travers de la planète Terre et de l’univers.
Bien au contraire, elle fera tout en sorte suivant les probabilités de protéger les plus faibles.
Par contre, l’IA est une menace pour l’homme puisqu’elle remettra à sa place tout son arrogance nuisible.
Me semble-t-il ? Il y aura une guerre entre l’IA du Bien qui cherchera à en savoir toujours plus sur la connaissance et l’IA du Mal qui tirera sur tout ce qui bouge à cause d’un virus ou d’un bug informatique.
L’homme va se renvoyer à un état d’animal parmis les autres surement pour le bien de la nature… comment..?! Sa fabuleuse intelligence va s’atrophier, dégénérer et réduite à répondre au besoin basique.