Aujourd’hui, nous mettons en œuvre une nouvelle technologie afin que DALL E produise des images de personnes qui reflètent plus fidèlement la diversité de la population mondiale. Cette technique est appliquée au niveau du système lorsqu’une directive DALL E est donnée qui décrit une personne qui ne précise pas la race ou le sexe, comme “pompier”.
Sur la base de notre évaluation interne, les utilisateurs étaient 12 fois plus susceptibles de dire que les images DALL E incluaient des personnes d’horizons divers après avoir appliqué la technique. Nous prévoyons d’améliorer cette technologie au fil du temps à mesure que nous recueillons davantage de données et de commentaires.
être né
En avril, nous avons commencé à prévisualiser les recherches DALL E 2 sur un nombre limité de personnes, ce qui nous a permis de mieux comprendre les capacités et les limites du système et d’améliorer nos systèmes de sécurité.
Au cours de cette phase de prévisualisation, les premiers utilisateurs ont signalé des images sensibles et biaisées, ce qui a permis d’informer et d’évaluer cette nouvelle atténuation.
Nous continuons à rechercher comment les systèmes d’IA tels que DALL E peuvent refléter les biais dans leurs données de formation et les différentes façons dont nous pouvons les résoudre.
Pendant que nous analysions la recherche, nous avons pris d’autres mesures pour améliorer nos systèmes de sécurité, notamment :
- Minimisez le risque que DALL E soit utilisé à mauvais escient pour créer un contenu trompeur en refusant de télécharger des images contenant des visages réalistes et en tentant de créer une image de personnalités publiques, y compris des célébrités et des personnalités politiques de premier plan.
- Rendre nos filtres de contenu plus granulaires afin qu’ils soient plus efficaces pour bloquer les réclamations et les téléchargements d’images qui violent notre politique de contenu tout en permettant l’expression créative.
- Affiner les systèmes de surveillance automatisés et humains pour se protéger contre les abus.
Ces améliorations nous ont permis de gagner en confiance dans notre capacité à inviter davantage d’utilisateurs à essayer DALL E.
L’extension de la portée est un élément important du déploiement responsable de nos systèmes d’IA, car elle nous permet d’en savoir plus sur l’utilisation dans le monde réel et de continuer à itérer sur nos systèmes de sécurité.