Des chercheurs de l’Université de Stanford ont supprimé des fichiers Un chatbot de courte durée qui a profité de Meta LLaMA AI, alias Alpaca AI. Des chercheurs Alpaca a été lancé avec une démo publique que tout le monde pouvait essayer la semaine dernière, mais le modèle s’est rapidement déconnecté en raison de la hausse des coûts, des problèmes de sécurité et des “hallucinations”, qui est le mot de la communauté de l’intelligence artificielle. Ça s’installe quand le chatbot énonce en toute confiance de fausses informations, rêvant d’une réalité inexistante.
Parallèlement à la démonstration interactive, l’Institute for Human-Centered Artificial Intelligence de Stanford a également publié les données d’entraînement d’Alpaca, le code de son processus de génération de données et le code d’entraînement utilisé pour affiner le modèle, selon enregistrer.
dans communiqué de presse Annoncer le premier libérer alpaga L’auteur principal Rohan Tauri, doctorant en informatique à l’Université de Stanford, a reconnu que le test public comporte des risques. “La publication d’une démo interactive d’Alpaca présente également des risques potentiels, tels que la diffusion plus large de contenu malveillant et l’abaissement de la barrière contre le spam, la fraude ou la désinformation”, ont déclaré les chercheurs. Tauri dit l’équipe Il a mis en place un filtre de contenu et un système de filigrane qui peuvent identifier les mots d’alpaga afin d’atténuer ce risque.
Aucun mot sur exactement ce qui n’allait pas. “L’objectif initial de la publication de la démo était de diffuser nos recherches de manière accessible. Nous estimons que nous avons presque atteint cet objectif, et compte tenu de nos coûts d’hébergement et des lacunes de nos filtres de contenu, nous avons décidé d’interrompre la démo. ” Porte-parole du département dit le journal. Institut d’intelligence artificielle centrée sur l’homme à Stanford Il n’a pas immédiatement répondu à une demande de commentaire.
Malgré ses échecs évidents, Alpaca présente des aspects passionnants qui rendent le projet de recherche intéressant. Leurs faibles coûts initiaux sont particulièrement notables. Les chercheurs n’ont dépensé que 600 $ pour l’exécuter et auraient exécuté l’IA à l’aide de machines à faible puissanceEt Y compris les ordinateurs Raspberry Pi et même le smartphone Pixel 6, contrairement aux superordinateurs de plusieurs millions de dollars de Microsoft.
Vous ne pouvez plus accéder à une copie de travail d’Alpaca, mais le code et les données sous-jacents sont toujours en cours d’exécution github.
“Nous encourageons les utilisateurs à nous aider à identifier de nouveaux types de pannes en les signalant dans la démo Web”, ont déclaré les chercheurs dans un communiqué de presse. “Dans l’ensemble, nous espérons que la sortie de l’alpaga facilitera de nouvelles recherches sur les modèles de suivi des instructions et leur alignement sur les valeurs humaines.”
Vous voulez en savoir plus sur l’intelligence artificielle, les chatbots et l’avenir de l’apprentissage automatique ? Découvrez notre couverture complète de L’intelligence artificielleou parcourez nos guides pour Les meilleurs générateurs d’art AI gratuits Et Tout ce que nous savons sur le ChatGPT d’OpenAI.