Les grands modèles de langage (LLM) ont acquis une grande reconnaissance dans le monde entier et ont acquis une immense popularité dans le domaine du traitement du langage naturel. Cela nous a permis de décrire des systèmes intelligents avec une compréhension du langage meilleure et plus détaillée que jamais auparavant. Les performances des LLM telles que GPT-3, T5, PaLM, etc. ont considérablement augmenté. Ces modèles sont là pour rester car ils font tout, de l’imitation des humains à l’apprentissage de la lecture en passant par la création de texte et la synthèse de longs paragraphes. Selon certaines études approfondies, le LLM fonctionne bien s’il est énorme. En entraînant ces modèles sur d’énormes blocs de données, ces modèles peuvent comprendre la syntaxe, la sémantique et la pragmatique du langage humain.
Le grand modèle de langage populaire ChatGPT, développé par OpenAI, s’est beaucoup développé grâce à des technologies avancées telles que l’apprentissage par renforcement avec rétroaction humaine (RLHF). Avec RLHF, les algorithmes d’apprentissage automatique collectent et utilisent l’entrée humaine pour améliorer les performances du modèle. Vous affinez également les LLM pré-formés pour des tâches telles que le développement de chatbots, d’assistants virtuels, etc. Cela était principalement dû à trois changements.
- La mise à l’échelle du modèle s’est avérée utile pour améliorer ses performances. Prenant l’exemple du Pathways Language Model (PaLM), le modèle a considérablement affecté ses performances en développant l’apprentissage à court terme. L’apprentissage à petites doses réduit le nombre d’exemples de formation spécifiques à une tâche nécessaires pour affiner le modèle à une application spécifique. En mettant à l’échelle et en formant 540 milliards de facteurs sur 6144 puces TPU v4 à l’aide de Pathways, PaLM a démontré des avantages itératifs à l’échelle. Il a surpassé divers modèles traditionnels et a montré beaucoup de progrès. Ainsi, mesurer à la fois la profondeur et la largeur était un facteur important pour améliorer les performances des modèles de fondation.
- Un autre changement a été le processus d’augmentation du nombre de jetons quelque temps avant la formation. Des modèles tels que Chinchilla ont montré que les grands modèles de langage fonctionnent mieux en augmentant les données de pré-formation. Chinchilla, le modèle de calcul optimal, a été formé avec des paramètres 70B et quatre fois plus de données que le modèle Gopher avec le même budget de calcul, et Chinchilla a uniformément surpassé Gopher. Cela a même mieux fonctionné que les LLM comme GPT-3, Jurassic-1 et Megatron-Turing NLG. J’ai clairement imaginé que pour chaque formation de calcul optimale, le nombre de jetons devrait être mis à l’échelle en conséquence, deux fois la taille du modèle, il devrait être deux fois le nombre de jetons de formation.
- Le troisième changement est l’utilisation de données de pré-formation propres et diversifiées. Cela a été démontré par la performance de Galactica, le grand paradigme du langage qui stocke, synthétise et agit sur les connaissances scientifiques. Galactica a été formé sur des scripts de nombreux articles scientifiques, surpassant des modèles comme GPT-3, Chinchilla, etc. Un autre grand modèle de langage, BioMedLM, un LLM spécifique à un domaine pour les textes biomédicaux, a montré une amélioration spectaculaire des performances lors de la formation sur des données spécifiques à un domaine. J’ai clairement imaginé que la pré-formation sur les données spécifiques à un domaine est supérieure aux données à usage général.
Le succès des LLM est sans aucun doute dû à une combinaison de facteurs, y compris l’utilisation de RLHF et le développement de modèles de base pré-formés. Les trois changements ont considérablement affecté les performances de LLM. En outre, GLaM (General Language Model) a montré une amélioration massive de ses performances en utilisant un mélange d’experts peu activé pour étendre les capacités du modèle à un coût de formation inférieur. Ainsi, ces changements ont ouvert la voie à des modèles de langage plus avancés qui continueront de nous faciliter la vie.
🚨 Lisez notre dernière newsletter AI🚨
Tout le mérite de cette recherche revient aux chercheurs derrière ces projets. Crédit spécial à tweeter de Cameron. N’oubliez pas non plus de vous inscrire 14k + ML Sous RedditEt canal de discordeEt Courrieloù nous partageons les dernières nouvelles sur la recherche en IA, des projets d’IA sympas, et plus encore.
Quelques références et ressources :
- MT-NLG : http://arxiv.org/abs/2201.11990
- Chinchilla : http://arxiv.org/abs/2203.15556
- PAL : http://arxiv.org/abs/2204.02311
- GLaM : http://arxiv.org/abs/2112.06905
- BioMedLM : http://bit.ly/3KuE7GY
- Galactica : http://arxiv.org/abs/2211.09085
Tania Malhotra est en dernière année à l’Université d’études pétrolières et énergétiques de Dehradun, poursuivant un BTech en génie informatique avec une spécialisation en intelligence artificielle et en apprentissage automatique.
Elle est passionnée par la science des données et possède une bonne pensée analytique et critique, ainsi qu’un vif intérêt pour l’acquisition de nouvelles compétences, la direction de groupes et la gestion du travail de manière organisée.