En début d’année, Mark Zuckerberg a mis en place un groupe de travail dédié pour cette initiative de grand modèle de langage (LLM). Ce groupe a pour mission d’accélérer le développement d’outils d’IA générative capables de produire des textes et des analyses sophistiqués. Le nouveau modèle serait plusieurs fois plus puissant que Llama 2, un autre LLM lancé par Meta il y a deux mois, selon le Wall Street Journal.
Nouvelle génération d’intelligence artificielle chez Meta
L’entreprise investit également dans la construction de centres de données et dans l’acquisition de puces H100 de Nvidia, spécialement conçues pour l’entraînement de l’IA. Contrairement au modèle Llama 2, qui a été rendu disponible sur la plateforme cloud de Microsoft Azure, le nouveau système d’IA sera formé sur une infrastructure propre à Meta.
Mark Zuckerberg voudrait que ce nouveau modèle soit open source, ce qui permettrait à d’autres entreprises de développer des outils basés sur cette technologie sans coûts supplémentaires. Cette approche présente de sérieux avantages à commencer par des coûts moins élevés et une plus grande souplesse, mais elle comporte également des risques juridiques et éthiques.
Bien que les avantages de l’open source soient nombreux, des spécialistes du droit ont tout de même quelques inquiétudes. Les modèles de langage puissants peuvent être utilisés pour générer et diffuser de la désinformation tous azimuts. Il existe aussi des risques liés à l’utilisation de données potentiellement protégées par des droits d’auteur. Les avocats de Meta seraient d’ailleurs sur le pied de guerre pour verrouiller le projet.
Ce nouveau LLM s’inscrit dans une stratégie plus large du CEO de Meta visant à renforcer la position du groupe dans le secteur de l’IA, un domaine où la concurrence est de plus en plus féroce. Outre OpenAI, d’autres grands acteurs comme Google développent également leurs propres modèles avancés. Le moteur de recherche travaille ainsi sur un LLM appelé Gemini, qui devrait sortir avant le nouveau modèle de Meta.
OpenAI a montré la voie à l’ensemble du secteur avec le lancement en mars dernier de GPT-4, un modèle qui sert de base à plusieurs de ses initiatives commerciales. GPT-4 est devenu par la force des choses le LLM leader du marché. Le nouveau modèle de Meta cherche à être à peu près aussi capable que celui d’OpenAI, mais il reste à voir si Meta pourra rattraper son retard sur la concurrence. Et surtout, d’ici 2024 d’autres LLM pourraient apparaitre encore plus puissants que celui que prépare la maison-mère de Facebook.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.