A la veille de son 25e anniversaire, Mozilla, l’association à but non lucratif à l’origine du navigateur Firefox, a lancé une startup centrée sur l’intelligence artificielle.
Appelée Mozilla.ai, la mission de la société nouvellement formée n’est pas seulement de construire n’importe quelle IA – sa mission est de construire une IA open source et “digne de confiance”, selon Mark Surman, PDG de Mozilla et président de Mozilla.ai.
“Travaillant sur une IA de confiance depuis près de cinq ans, j’ai constamment ressenti un mélange d’excitation et d’anxiété”, a-t-il déclaré à TechCrunch dans une interview par e-mail. “Le mois ou les deux derniers mois d’annonces rapides sur l’IA pour les grandes technologies n’ont pas été différents. Une nouvelle technologie vraiment excitante est en train de sortir – de nouveaux outils qui ont instantanément excité les artistes, les fondateurs… toutes sortes de personnes à faire de nouvelles choses. L’anxiété vient quand vous réalisez que presque personne ne regarde les bloqueurs.” protection.”
Surman faisait référence à une série de modèles d’IA au cours des derniers mois qui, bien qu’impressionnants dans leurs capacités, ont des implications troublantes dans le monde réel. Lors de sa sortie, ChatGPT peut être tenu de générer des scripts OpenAI, d’écrire des logiciels malveillants, d’identifier les exploits dans le code open source et de créer des sites Web de phishing qui ressemblent à des sites à fort trafic. Dans le même temps, une technologie de conversion de texte en image telle que Stable Diffusion a été choisie pour créer des faux pornographiques, non sensuels et des images de violence à ultra haute résolution.
Les créateurs de ces modèles disent prendre des mesures pour réduire les abus. Mais Mozilla a estimé qu’on n’en faisait pas assez.
“Nous travaillons sur une IA fiable du côté de la recherche d’intérêt public depuis environ cinq ans, et nous espérons que d’autres acteurs de l’industrie ayant plus d’expérience en IA iront de l’avant pour créer une technologie plus fiable”, a déclaré Surman. “Ils ne l’ont pas fait. Nous avons donc décidé au milieu de l’année dernière que nous devions le faire nous-mêmes – et trouver des partenaires partageant les mêmes idées pour le faire à nos côtés. Nous avons ensuite décidé de trouver quelqu’un avec la bonne combinaison d’universitaires et d’industriels. L’expérience de l’IA pour le diriger.
Financé par un investissement initial de 30 millions de dollars de la Fondation Mozilla, l’organisation mère de Mozilla, Mozilla.ai est une filiale à part entière de la Fondation Mozilla – un peu comme la Fondation Mozilla (la fondation responsable du développement de Firefox) et Mozilla Ventures (le Mozilla VC . Financement ). Son directeur général est Moez Dorif, ancien directeur scientifique du laboratoire d’intelligence artificielle Noah’s Ark de Huawei et directeur scientifique mondial de la société de conseil Capgemini.
Karim Lakhani de l’Université de Harvard, Karidu Navrina Singh et Surman seront membres du conseil d’administration initial de Mozilla.ai. Lakhani est président et cofondateur de l’Institute for Digital, Data, and Design de l’Université de Harvard, tandis que Singh est membre du National Advisory Panel on Artificial Intelligence du Département américain du commerce, qui conseille le président sur une gamme d’IA éthiques. questions.
Surman décrit Mozilla.ai comme une société de recherche et une communauté – une startup dédiée à aider à créer une pile d’IA open source fiable et indépendante. Dans un premier temps, la priorité de Mozilla.ai sera de constituer une équipe d’environ 25 ingénieurs, scientifiques et chefs de produit pour travailler sur des systèmes de recommandation “fiables” et de grands modèles de langage sur le modèle du GPT-4 d’OpenAI. Mais l’ambition plus large de l’entreprise est de créer un réseau d’entreprises alliées et de groupes de recherche – y compris des start-ups et des institutions académiques soutenues par Mozilla Ventures – qui partagent sa vision.
“Nous pensons qu’il existe un marché commercial pour une IA digne de confiance – et ce marché doit se développer si nous voulons transformer la façon dont l’industrie intègre l’IA dans les applications, produits et services que nous utilisons tous au quotidien”, a déclaré Surman. “Mozilla.ai – travaillant en étroite collaboration avec de nombreuses entreprises, chercheurs et gouvernements alliés – (a) l’opportunité de créer une pile open source d’IA “confiance d’abord”. Si nous réussissons, le courant dominant de l’industrie tirera de cette pile dans le cadre de leur boîte à outils habituelle, tout comme ils l’ont fait avec la pile Linux et Apache au cours des deux dernières décennies.
Mozilla.ai ne fonctionnera pas seul – pas tout à fait. Plusieurs organisations à but non lucratif ont pour mission de démocratiser les outils d’IA, y compris l’Institut Eleuthery récemment formé, avec le financement d’entreprises comme Canva et Hugging Face. Il y a aussi l’Allen Institute for Artificial Intelligence, fondé par feu le co-fondateur de Microsoft, Paul Allen, et l’Alan Turing Institute. Parmi les petits efforts prometteurs, citons Cohere For AI de la startup Cohere et Distributed AI Research de Timnit Gebru, une organisation mondiale de recherche décentralisée.
Honnêtement, Mozilla.ai n’est pas une organisation à but non lucratif. Bien que lié par certains principes éthiques (en particulier le Manifeste de Mozilla), il est ouvert à l’expansion – en fait, il vise à étendre les explorations les plus réussies aux produits et aux entreprises ainsi qu’aux projets open source.
Draief considère cela comme un avantage plutôt qu’un inconvénient, affirmant que cela donne à Mozilla.ai une flexibilité qui manque aux organisations à but non lucratif. À son avis, il existe des récits édifiants tels que OpenAI, qui a été fondée en tant qu’organisation à but non lucratif en 2015, mais a ensuite dû passer à une structure de “profit maximum” afin de financer ses recherches en cours.
“La grande question est de savoir combien de nouvelles petites entreprises d’IA dignes de confiance pourront rester indépendantes ?” Drive a dit à TechCrunch par e-mail. “De toute évidence, les grands acteurs – en particulier les plates-formes cloud d’Amazon, Google et Microsoft – se précipitent pour consolider l’espace de l’IA. C’est là que tout l’argent est gagné. Et il sera difficile pour les petites entreprises de ne pas se faire sucer.” dans cette consolidation.
À la poursuite des tendances actuelles de la recherche sur l’IA – et, ce n’est pas un hasard, des domaines de recherche mieux financés – Mozilla.ai passera les prochains mois à développer des outils permettant aux utilisateurs, par exemple, d’interroger les sources derrière les réponses que les chatbots de l’IA leur donnent. L’entreprise cherchera également à créer des systèmes qui donnent aux utilisateurs plus de contrôle sur la recommandation de contenu d’IA (c’est-à-dire les algorithmes qui pilotent les flux YouTube, Twitter et TikTok), tels que des systèmes qui optimisent les recommandations pour les valeurs individuelles ou sociétales – en s’appuyant sur l’existant Recherche Mozilla.
Drive ne prétend pas que transformer le pool d’IA de manière significative sera un processus rapide. Alors qu’il jure que Mozilla.ai expédiera le code “cette année”, il parle dans la langue de plusieurs années.
Mais un succès mesurable prendra plus que du temps.
Si l’histoire est une indication, les cadres bénévoles et les outils ponctuels ne feront pas beaucoup bouger l’aiguille, voire pas du tout. Le défi de Mozilla.ai sera de convaincre l’industrie que sa vision d’une IA digne de confiance est la bonne – et d’adopter cette vision.
“Des fonctionnalités d’IA dignes de confiance comme celle-ci semblent devoir être triviales pour les ajouter – mais nous les voyons toujours principalement dans le laboratoire”, a déclaré Doref. Mozilla.ai travaillera avec des chercheurs pour convertir leur travail en code fonctionnel et permettre de l’utiliser de concert avec des outils d’IA plus traditionnels.