Meta a récemment publié LLaMA, un ensemble de grands modèles de langage de base allant de 7 à 65 milliards de paramètres.
LLaMA crée beaucoup d’excitation car il est plus petit que GPT-3 mais a de meilleures performances. Par exemple, l’architecture LLaMA 13B surpasse GPT-3 bien qu’elle soit dix fois plus petite. Ce nouvel ensemble de modèles de base ouvre la porte à des performances d’inférence plus rapides et à des assistants en temps réel de type chatGPT tout en étant rentable et fonctionnant sur un seul GPU.
Cependant, LLaMA n’a pas été ajusté pour les tâches d’instruction avec le processus de formation d’apprentissage par renforcement à partir de la rétroaction humaine (RLHF).
🚨 Lisez notre dernière newsletter AI🚨
La bonne nouvelle est qu’aujourd’hui Napoli a introduit ChatLLaMA, la première implémentation open source de LLaMA basée sur RLHF :
- Une application open source complète qui vous permet de créer un service de style ChatGPT basé sur des modèles LLaMA pré-formés.
- Par rapport au ChatGPT natif, le processus de formation et d’inférence GPU unique est beaucoup plus rapide et moins cher en tirant parti de la taille réduite des architectures LLaMA.
- ChatLLaMA a un support intégré pour DeepSpeed ZERO pour accélérer le réglage fin.
- La bibliothèque prend également en charge toutes les structures de modèle LLaMA (7B, 13B, 33B, 65B), de sorte que vous pouvez régler le modèle en fonction de vos préférences en matière de temps d’apprentissage et de performances d’inférence.
Si vous aimez le projet, pensez à laisser une étoile sur le dépôt GitHub
https://github.com/nebuly-ai/nebullvm/tree/main/apps/accelerate/chatllama
ChatLLaMA vous permet de former facilement des architectures basées sur LLaMA de la même manière que ChatGPT en utilisant RLHF. Par exemple, ci-dessous est le code pour commencer la formation dans le cas de ChatLLaMA 7B.
from chatllama.rlhf.trainer import RLTrainer
from chatllama.rlhf.config import Config
path = "path_to_config_file.yaml"
config = Config(path=path)
trainer = RLTrainer(config.trainer)
trainer.distillate()
trainer.train()
trainer.training_stats.plot()
Notez que vous devez fournir les pondérations Meta d’origine et l’ensemble de données personnalisé avant de commencer le processus de réglage fin. Vous pouvez également créer votre propre ensemble de données à l’aide de proxys LangChain.
python generate_dataset.py
Nebuly a ouvert le code complet pour itérer l’implémentation de ChatLLaMA, ouvrant la possibilité à chaque utilisateur de configurer des assistants ChatLLaMA personnalisés. La bibliothèque peut être étendue avec les ajouts suivants :
- Points de contrôle avec des poids précis
- Techniques d’optimisation pour une inférence plus rapide
- Prise en charge de la compilation de modèles dans un cadre de déploiement efficace
Tous les développeurs sont invités à se joindre aux efforts de Nebuly pour des assistants de type ChatGPT plus efficaces et plus ouverts.
Vous pouvez participer des manières suivantes :
- Soumettre un problème ou un PR sur GitHub
- Rejoignez leur groupe Discord pour discuter
Remarque : Merci à l’équipe Nebuly pour l’article sur le leadership éclairé/éducatif ci-dessus.
Asif Razak est le PDG de Marktechpost, LLC. En tant qu’entrepreneur et ingénieur visionnaire, Asif s’est engagé à exploiter le potentiel de l’IA pour le bien social. Son effort le plus récent a été le lancement de la plate-forme médiatique d’IA, Marktechpost, qui se distingue par sa couverture approfondie de l’apprentissage automatique et de l’actualité de l’apprentissage en profondeur qui est techniquement solide et facilement compréhensible par un large public. La plateforme compte plus d’un million de vues par mois, ce qui indique sa popularité auprès des masses.