ABU DHABI (UNA/WAM) - "Inception", le centre d'intelligence artificielle du groupe "G42", a annoncé le lancement de la version open source du modèle "GIS", le grand modèle linguistique de la langue arabe de la plus haute qualité au monde. monde.
Guess est basé sur 13 milliards d'indicateurs et a été formé sur un ensemble de données nouvellement développé de 395 milliards de symboles en arabe et en anglais.
Nommé d'après le plus haut sommet des Émirats arabes unis, le modèle SIG exploitera les avantages de l'IA générative dans le monde arabe.
Ce modèle est le résultat d'une coopération entre le centre « Inception » ; l'Université d'intelligence artificielle Mohamed bin Zayed, la première université de troisième cycle au monde spécialisée dans la recherche sur l'intelligence artificielle ; et Systèmes Cerebras Inc.
Le modèle a été formé à l'aide de Condor Galaxy, un superordinateur alimenté par l'IA et doté d'une puissance de calcul multi-exaflops (un million de milliards de calculs par seconde), conçu en collaboration entre G42 et Cerebras Systems.
Le lancement du « SIG » constitue une étape très importante dans le domaine de l’intelligence artificielle dans le monde arabe. Ce modèle, développé dans la capitale des Émirats arabes unis, Abu Dhabi, offre à plus de 400 millions d'arabophones une opportunité importante d'explorer le potentiel de l'intelligence artificielle générative et renforce également la position des Émirats arabes unis en tant que centre leader en matière d'intelligence artificielle, d'innovation, préservation de la culture et coopération internationale.
Le centre « Inception » cherche, en ouvrant les sources du modèle « Jais », à stimuler la participation des communautés scientifiques et académiques et des développeurs pour accélérer la croissance d'un système vital d'intelligence artificielle en langue arabe et élever le niveau de l’innovation dans ce domaine, qui est actuellement suffisamment représentée dans les environnements d’IA populaires.
Andrew Jackson, PDG d'Inception Center for Artificial Intelligence, a déclaré : « Chez Inception, nous pensons que la collaboration est le fondement de la prospérité. Aujourd’hui, nous établissons une nouvelle norme pour le progrès de l’intelligence artificielle dans la région du Moyen-Orient, tout en assurant une position distinguée à la langue arabe avec toute sa richesse et son héritage sur la scène de l’intelligence artificielle. « Guess » reflète notre ferme engagement envers l’excellence, l’innovation et la diffusion du système d’intelligence artificielle à plus grande échelle.
Pour sa part, le professeur Eric Zing, président de l'Université Mohamed bin Zayed pour l'intelligence artificielle, a déclaré : « Le développement d'un grand modèle linguistique pour la langue arabe de ce niveau a nécessité des recherches avancées dans le domaine de l'intelligence artificielle et une compréhension approfondie de la langue arabe dans sa diversité et son riche patrimoine et l'importance croissante des grands modèles linguistiques dans différents aspects de la société. L’Université Mohamed bin Zayed pour l’intelligence artificielle continuera à être pionnière en matière de grands modèles de langage efficaces, efficients et précis.
JESS est un grand modèle de langage basé sur un adaptateur qui utilise de nombreuses fonctionnalités avancées, notamment ALiBi, qui permet au modèle d'extrapoler de longues séquences pour fournir un contexte meilleur et plus précis. La technologie pionnière utilisée par le modèle est également une fonction qui active les unités à parois linéaires (SwiGLU) et définit les paramètres de mise à jour maximum pour améliorer l'efficacité et la précision de la formation du modèle.
Les équipes de l'Université Mohamed bin Zayed pour l'intelligence artificielle et du Inception Center ont travaillé à l'évaluation et à la modification du modèle open source « SIG », qui a été formé sur un ensemble de données personnalisées comprenant 116 milliards de jetons en langue arabe pour s'adapter à la complexité, à la diversité et à la richesse. de ce langage, en utilisant « Condor ». Galaxy 1 (CG-1), le supercalculateur d'intelligence artificielle récemment annoncé, développé en collaboration entre G42 et Cerebras Systems. L'ensemble de données comprenait également 279 milliards de jetons anglais pour garantir l'optimisation des performances du modèle grâce à une conversion bilingue. Le Centre de création et l'Université Mohamed Bin Zayed pour l'intelligence artificielle continueront d'améliorer et d'étendre le modèle SIG pour suivre le rythme de la croissance de sa communauté d'utilisateurs.
« Notre partenariat stratégique avec G42 a déjà donné des résultats exceptionnels, puisque nous avons présenté il y a quelques semaines le supercalculateur Condor Galaxy, alimenté par l'IA et doté d'une capacité de calcul multi-exaflops », a déclaré Andrew Feldman, PDG de Cerebras Systems. Aujourd'hui, ce partenariat présente une autre réalisation exceptionnelle représentée par le grand modèle linguistique de la langue arabe destiné à la communauté du logiciel open source. Chez Cerebras, nous avons toujours eu à coeur de concevoir des technologies avancées et d'explorer des façons innovantes de les utiliser. "Jess" est une contribution majeure à la communauté mondiale du logiciel open source et une preuve tangible de la facilité d'utilisation de l'ordinateur "Condor Galaxy 1" et de sa capacité à développer des modèles d'intelligence artificielle à une vitesse vertigineuse.
(est fini)
