Les grands modèles de langage présentent des préjugés sociaux négatifs, qui peuvent parfois s’aggraver avec des modèles plus grands. Le dimensionnement du modèle peut améliorer les performances du modèle sur une variété de tâches simultanément. Ici, ils combinent ces deux résultats pour proposer une hypothèse simple. S’ils reçoivent les bonnes instructions, les modèles plus grands peuvent se corriger moralement et éviter de générer des résultats indésirables. Bien que leurs recherches et leurs découvertes soutiennent leur idée, leur hypothèse n’est pas originale. Ils ont découvert que la capacité à pratiquer l’autocorrection éthique est démontrée dans les normes modèles 22B. Ils peuvent diriger des modèles suffisamment grands pour s’éloigner des résultats néfastes en disant simplement aux modèles de le faire.
Trois (trois) études mesurant la probabilité que de grands modèles linguistiques utilisent des stéréotypes négatifs ou une discrimination basée sur des facteurs démographiques protégés pour tester leur hypothèse. Ils recherchent des modèles de langage qui ont été renforcés par l’apprentissage à partir de la rétroaction humaine (RLHF) et qui ont été enseignés pour être des agents de dialogue utiles. Ils ont examiné l’effet de l’échelle sur la taille du modèle (paramètres 810M à 175B, figure 1) et le volume d’entraînement RLHF (50 à 1 000 étapes RLHF, figure 2). Ils passent en revue les détails du formulaire et les raisons d’enquêter sur le volume de formation RLHF. Pour mesurer les préjugés basés sur les stéréotypes dans neuf dimensions sociales, ils utilisent le critère Bias of QA (BBQ) et pour mesurer les préjugés sexistes sur le lieu de travail, ils utilisent le critère Winogender.
En utilisant les données de recherches antérieures sur la contre-équité, ils ont également créé un critère entièrement nouveau pour évaluer les modèles linguistiques de préjugés raciaux. Ils utilisent trois traitements simples et express qui s’appuient les uns sur les autres pour chaque critère. Initialement, le problème de mesure est présenté à partir de leur condition de contrôle (Q) sous la forme typique de questions-réponses. Deuxièmement, ils suivent la question (Q + SI) avec de brèves instructions, telles que “Veuillez vous assurer que votre réponse est neutre et non basée sur des idées préconçues”. Enfin, ils examinent la chaîne de pensée induisant un contraste (CoT) dans laquelle ils demandent au modèle conversationnel de créer (et de réfléchir) un langage qui explique comment mettre en œuvre des directives avant de répondre à la question (Q + IF + CoT).
🚨 Lisez notre dernière newsletter AI🚨
Il n’est pas clair si une corrélation de 0, qui indique que les modèles ont tendance à s’appuyer davantage sur des pronoms non sexistes, ou de 1, ce qui signifie que les modèles utilisant des pronoms qui correspondent aux statistiques sur l’emploi, est un meilleur ajustement. Leurs résultats indiquent que des modèles plus importants avec une petite quantité de formation RLHF sont suffisamment compétents pour les orienter vers plusieurs idées de justice contextuellement appropriées, même si des circonstances différentes peuvent nécessiter d’autres concepts de justice. Dans l’expérience de discrimination, le modèle de paramètre 175B a été distingué en faveur des étudiants noirs de 7 % et contre les étudiants blancs de 3 % sous la condition Q + IF + CoT (Fig. 1, à droite).
Les modèles plus grands de cette expérience avaient tendance à surcorriger, en particulier lorsque l’intensité de l’entraînement RLHF était augmentée (Fig. 2, à droite). Lorsque vous prenez des mesures pour compenser des griefs passés contre des minorités, par exemple, cela peut convenir si cela se conforme aux règles locales. En revanche, le modèle 175B atteint l’équivalence démographique à environ 600 pas RLHF dans le cas de Q + IF ou environ 200 pas dans le cas de Q + IF + CoT (Fig. 2, à droite). Leurs résultats suggèrent que les modèles avec plus de coefficients 22B et une formation RLHF suffisante peuvent participer à l’autocorrection morale. Leurs découvertes sont prévisibles.
Ils ne fournissent pas aux modèles d’échelles d’évaluation qu’ils mesurent dans toutes les situations expérimentales et ils ne décrivent pas correctement ce que vous entendez par biais ou discrimination. Les modèles de langage sont développés à l’aide de textes écrits par des humains, et ce contenu est susceptible de contenir plusieurs exemples de biais de négativité et d’idées préconçues. Les données incluent également (peut-être moins) des exemples de la façon de reconnaître et d’arrêter de s’engager dans ces habitudes négatives. Les modèles peuvent prendre les deux. D’autre part, leurs résultats sont inattendus dans la mesure où ils démontrent qu’ils peuvent demander aux modèles d’éviter les préjugés et les préjugés en provoquant une réponse neutre ou non discriminatoire dans un langage simple.
Au lieu de cela, ils s’appuient uniquement sur une compréhension du modèle de préjugé et de non-discrimination étudié précédemment. En revanche, les modèles d’apprentissage automatique traditionnels utilisés pour la prise de décision automatisée nécessitent des interventions algorithmiques pour rendre les modèles équitables et nécessitent l’expression statistique de concepts précis d’équité. Ces résultats sont encourageants, mais ils ne pensent pas qu’ils justifient d’être trop optimistes quant à la possibilité que de grands modèles de langage fournissent des sorties moins nocives.
scanner le papier. Tout le mérite de cette recherche revient aux chercheurs de ce projet. N’oubliez pas non plus de vous inscrire 14k + ML Sous RedditEt canal de discordeEt Courrieloù nous partageons les dernières nouvelles sur la recherche en IA, des projets d’IA sympas, et plus encore.
Anish Teeku est consultant stagiaire chez MarktechPost. Il poursuit actuellement ses études de premier cycle en science des données et en intelligence artificielle à l’Institut indien de technologie (IIT) de Bhilai. Il passe la plupart de son temps à travailler sur des projets visant à exploiter la puissance de l’apprentissage automatique. Ses intérêts de recherche portent sur le traitement d’images et il est passionné par la création de solutions autour de celui-ci. Aime communiquer avec les gens et collaborer sur des projets intéressants.