Meta a rendu son nouveau modèle de langage massif, Code Llama (CL), prêt à être téléchargé pour les chercheurs et les développeurs. Il s’agit d’un modèle génératif d’IA et de langage dont l’utilisation est gratuite et qui comporte 70 milliards de paramètres. Il a été initialement annoncé en août 2023.
Today we’re releasing Code Llama 70B: a new, more performant version of our LLM for code generation — available under the same license as previous Code Llama models.
Download the models ➡️ https://t.co/fa7Su5XWDC
• CodeLlama-70B
• CodeLlama-70B-Python
• CodeLlama-70B-Instruct pic.twitter.com/iZc8fapYEZ— AI at Meta (@AIatMeta) January 29, 2024
“Nous mettons en open-sourcing un nouveau lama code amélioré, comprenant un modèle plus grand de 70 milliards de paramètres. L’écriture et l’édition de code sont devenues l’une des utilisations les plus importantes des modèles d’IA aujourd’hui”, a déclaré Mark Zuckerberg, PDG de Meta, dans un message publié sur Facebook.
Qu’est-ce qui rend Code Llama si puissant ?
Selon Meta, il s’agit du modèle le plus puissant et le plus efficace de la gamme Llama. Il est disponible en trois variantes : CodeLlama – 70B, le modèle de code fondamental, CodeLlama – 70B – Python, 70B spécialisé pour Python, et Code Llama – 70B – Instruct 70B. La dernière variante est une version améliorée qui combine la synthèse de code par auto-instruction avec l’instruction humaine.
Code Llama est construit sur Llama et est capable de produire du code et d’écrire du code Python, PHP, C++ et Java. Il a obtenu un score de 67,8 au test de référence de l’IA générative, HumanEval. Il est censé être optimisé pour la génération de code par Meta, et sa meilleure caractéristique est qu’il s’agit d’un modèle open-source.
