À la veille de son 25e anniversaire, Mozilla, l'organisation à but non lucratif à l'origine du navigateur Firefox, lance une startup axée sur l'intelligence artificielle. Baptisée Mozilla.ai, la nouvelle société n'a pas pour mission de construire n'importe quelle IA : sa mission est de construire une IA open source et "trustworthy" (digne de confiance), selon Mark Surman, président exécutif de Mozilla et responsable de Mozilla.ai. « Travaillant sur le trustworthy AI depuis près de cinq ans, j'ai toujours ressenti un mélange d'excitation et d'anxiété. Le dernier mois ou les deux derniers mois d'annonces rapides de grandes technologies d'IA n'ont pas été différents. Une nouvelle technologie vraiment passionnante est en train d'émerger - de nouveaux outils qui ont immédiatement incité les artistes, les fondateurs... toutes sortes de personnes à faire de nouvelles choses. L'inquiétude survient lorsque l'on se rend compte que presque personne ne regarde les garde-fous », a-t-il déclaré.Surman fait référence à la vague de modèles d'IA de ces derniers mois qui, bien qu'impressionnants par leurs capacités, ont des implications inquiétantes dans le monde réel. Au moment de sa sortie, le ChatGPT d'OpenAI, qui génère du texte, pouvait être incité à écrire des logiciels malveillants, à identifier des exploits dans le code source ouvert et à créer des sites web de phishing qui ressemblaient à des sites bien fréquentés. L'IA texte-image, comme Stable Diffusion, a quant à elle été cooptée pour créer des deepfakes pornographiques et non consensuels, ainsi que des représentations ultra-graphiques de la violence. Les créateurs de ces modèles affirment qu'ils prennent des mesures pour limiter les abus. Mais Mozilla a estimé que les mesures prises n'étaient pas suffisantes. « Nous travaillons sur l'IA digne de confiance du côté de la recherche d'intérêt public depuis environ cinq ans, en espérant que d'autres acteurs de l'industrie ayant une plus grande expertise en matière d'IA s'engagent à construire une technologie plus digne de confiance. Ils ne l'ont pas fait. Nous avons donc décidé, au milieu de l'année dernière, que nous devions le faire nous-mêmes et trouver des partenaires partageant les mêmes idées pour le faire à nos côtés. Nous avons ensuite entrepris de trouver quelqu'un ayant la bonne combinaison d'expérience en matière d'IA dans le monde universitaire et dans l'industrie pour diriger ce projet », a déclaré Surman. Financé par un investissement de départ de 30 millions de dollars de la Fondation Mozilla, l'organisation mère de Mozilla, Mozilla.ai est une filiale à part entière de la Fondation Mozilla, tout comme la Mozilla Corporation (l'organisation responsable du développement de Firefox) et Mozilla Ventures (le fonds de capital-risque de la Fondation Mozilla). Son directeur général est Moez Draief, qui était auparavant le scientifique en chef du laboratoire d'IA Noah's Ark de Huawei et le scientifique en chef mondial de la société de conseil Capgemini.
Nous engageons 30 millions de dollars pour construire Mozilla.ai : Une startup et une communauté construisant un écosystème d'IA fiable, indépendant et open-source.
Nous ne sommes qu'au troisième mois de l'année 2023, et il est déjà clair que l'une des plus grandes histoires de l'année est l'IA. L L'IA a attiré l'attention du public comme Netscape l'a fait en 1994 et comme l'iPhone l'a fait en 2007.
De nouveaux outils comme Stable Diffusion et GPT-4, qui vient d'être publié, modifient non seulement notre conception de l'internet, mais aussi de la communication, de la créativité et de la société dans son ensemble. Parallèlement, des outils d'IA relativement anciens, tels que les moteurs de recommandation qui alimentent YouTube, TikTok et d'autres applications sociales, deviennent encore plus puissants et continuent d'influencer des milliards de vies.
Cette nouvelle vague d'IA a suscité de l'enthousiasme, mais aussi beaucoup d'appréhension. Nous ne nous demandons pas seulement ce qui est possible et comment les gens peuvent en bénéficier. Nous nous demandons également ce qui pourrait mal tourner et comment y remédier. Deux décennies de médias sociaux, de smartphones et leurs conséquences nous ont rendus méfiants.
Mozilla pose ces questions sur l'IA depuis un certain temps déjà - en esquissant une vision pour une IA digne de confiance, en mobilisant notre communauté pour documenter ce qui est cassé et en investissant dans des startups qui tentent de créer une IA plus responsable.
Nous avons appris que cette nouvelle vague d'IA (ainsi que la précédente) a un énorme potentiel pour enrichir la vie des gens. Mais elle ne le fera que si nous concevons la technologie très différemment - si nous plaçons l'action humaine et les intérêts des utilisateurs au centre des préoccupations, et si nous donnons la priorité à la transparence et à l'obligation de rendre compte. Le point d'inflexion de l'IA dans lequel nous nous trouvons actuellement offre une réelle opportunité de construire une technologie avec des valeurs différentes, de nouvelles incitations et un meilleur modèle de propriété.
La bonne nouvelle : Nous avons rencontré des milliers de fondateurs, d'ingénieurs, de scientifiques, de concepteurs, d'artistes et d'activistes qui adoptent cette approche de l'IA. Des personnes intelligentes et dévouées construisent des technologies d'IA à code source ouvert, testent de nouvelles approches en matière d'audit et cherchent à savoir comment intégrer la "confiance" dans l'IA dans le monde réel.
La moins bonne nouvelle : Les grandes entreprises de technologie et de cloud computing, qui ont le plus de pouvoir et d'influence, ne sont pas en train de faire de même. Pendant ce temps, ces entreprises continuent de consolider leur contrôle sur le marché.
En bref : certaines personnes commencent à faire les choses différemment, mais le travail (et l'investissement) le plus important se fait toujours de la même manière. Nous voulons changer cela.
C'est pourquoi nous annonçons aujourd'hui Mozilla.ai : Une startup - et une communauté - qui construira un écosystème d'IA open-source indépendant et digne de confiance. Mozilla fera un investissement initial de 30 millions de dollars dans l'entreprise.
La vision de Mozilla.ai est de faciliter le développement de produits d'IA fiables. Nous construirons des choses et embaucherons / collaborerons avec des personnes qui partagent notre vision : L'IA est fondée sur l'agence, la responsabilité, la transparence et l'ouverture. Mozilla.ai sera un espace en dehors des grandes technologies et du monde académique pour rassembler les fondateurs, les développeurs, les scientifiques, les gestionnaires de produits et les constructeurs qui partagent les mêmes idées. Nous pensons que ce groupe de personnes, travaillant collectivement, peut inverser la tendance et créer un écosystème d'IA indépendant, décentralisé et digne de confiance - un véritable contrepoids au statu quo.
L'objectif initial de Mozilla.ai ? Des outils qui rendent l'IA générative plus sûre et plus transparente. Et des systèmes de recommandation centrés sur les personnes qui ne désinforment pas et ne nuisent pas à notre bien-être. Nous en dirons plus à ce sujet - et sur ce que nous sommes en train de construire - dans les mois à venir.
Cette nouvelle société sera dirigée par le directeur général Moez Draief. Moez a passé plus de dix ans à travailler sur les applications pratiques de l'IA de pointe en tant qu'universitaire à l'Imperial College et à la LSE, et en tant que scientifique en chef dans l'industrie. Karim Lakhani de Harvard, Navrina Singh de Credo et moi-même constituerons le premier conseil d'administration de Mozilla.ai. Dans le courant de l'année, nous annoncerons d'autres initiatives, partenaires et événements dans lesquels les gens pourront s'impliquer.
Nous ne sommes qu'au troisième mois de l'année 2023, et il est déjà clair que l'une des plus grandes histoires de l'année est l'IA. L L'IA a attiré l'attention du public comme Netscape l'a fait en 1994 et comme l'iPhone l'a fait en 2007.
De nouveaux outils comme Stable Diffusion et GPT-4, qui vient d'être publié, modifient non seulement notre conception de l'internet, mais aussi de la communication, de la créativité et de la société dans son ensemble. Parallèlement, des outils d'IA relativement anciens, tels que les moteurs de recommandation qui alimentent YouTube, TikTok et d'autres applications sociales, deviennent encore plus puissants et continuent d'influencer des milliards de vies.
Cette nouvelle vague d'IA a suscité de l'enthousiasme, mais aussi beaucoup d'appréhension. Nous ne nous demandons pas seulement ce qui est possible et comment les gens peuvent en bénéficier. Nous nous demandons également ce qui pourrait mal tourner et comment y remédier. Deux décennies de médias sociaux, de smartphones et leurs conséquences nous ont rendus méfiants.
Mozilla pose ces questions sur l'IA depuis un certain temps déjà - en esquissant une vision pour une IA digne de confiance, en mobilisant notre communauté pour documenter ce qui est cassé et en investissant dans des startups qui tentent de créer une IA plus responsable.
Nous avons appris que cette nouvelle vague d'IA (ainsi que la précédente) a un énorme potentiel pour enrichir la vie des gens. Mais elle ne le fera que si nous concevons la technologie très différemment - si nous plaçons l'action humaine et les intérêts des utilisateurs au centre des préoccupations, et si nous donnons la priorité à la transparence et à l'obligation de rendre compte. Le point d'inflexion de l'IA dans lequel nous nous trouvons actuellement offre une réelle opportunité de construire une technologie avec des valeurs différentes, de nouvelles incitations et un meilleur modèle de propriété.
La bonne nouvelle : Nous avons rencontré des milliers de fondateurs, d'ingénieurs, de scientifiques, de concepteurs, d'artistes et d'activistes qui adoptent cette approche de l'IA. Des personnes intelligentes et dévouées construisent des technologies d'IA à code source ouvert, testent de nouvelles approches en matière d'audit et cherchent à savoir comment intégrer la "confiance" dans l'IA dans le monde réel.
La moins bonne nouvelle : Les grandes entreprises de technologie et de cloud computing, qui ont le plus de pouvoir et d'influence, ne sont pas en train de faire de même. Pendant ce temps, ces entreprises continuent de consolider leur contrôle sur le marché.
En bref : certaines personnes commencent à faire les choses différemment, mais le travail (et l'investissement) le plus important se fait toujours de la même manière. Nous voulons changer cela.
C'est pourquoi nous annonçons aujourd'hui Mozilla.ai : Une startup - et une communauté - qui construira un écosystème d'IA open-source indépendant et digne de confiance. Mozilla fera un investissement initial de 30 millions de dollars dans l'entreprise.
La vision de Mozilla.ai est de faciliter le développement de produits d'IA fiables. Nous construirons des choses et embaucherons / collaborerons avec des personnes qui partagent notre vision : L'IA est fondée sur l'agence, la responsabilité, la transparence et l'ouverture. Mozilla.ai sera un espace en dehors des grandes technologies et du monde académique pour rassembler les fondateurs, les développeurs, les scientifiques, les gestionnaires de produits et les constructeurs qui partagent les mêmes idées. Nous pensons que ce groupe de personnes, travaillant collectivement, peut inverser la tendance et créer un écosystème d'IA indépendant, décentralisé et digne de confiance - un véritable contrepoids au statu quo.
L'objectif initial de Mozilla.ai ? Des outils qui rendent l'IA générative plus sûre et plus transparente. Et des systèmes de recommandation centrés sur les personnes qui ne désinforment pas et ne nuisent pas à notre bien-être. Nous en dirons plus à ce sujet - et sur ce que nous sommes en train de construire - dans les mois à venir.
Cette nouvelle société sera dirigée par le directeur général Moez Draief. Moez a passé plus de dix ans à travailler sur les applications pratiques de l'IA de pointe en tant qu'universitaire à l'Imperial College et à la LSE, et en tant que scientifique en chef dans l'industrie. Karim Lakhani de Harvard, Navrina Singh de Credo et moi-même constituerons le premier conseil d'administration de Mozilla.ai. Dans le courant de l'année, nous annoncerons d'autres initiatives, partenaires et événements dans lesquels les gens pourront s'impliquer.
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi :
Trustworthy Computing : 10 ans après le mémo interne de Bill Gates, sur la priorité à la sécurité dans les produits Microsoft Chaque système basé sur l'intelligence artificielle doit être responsable, explicable et impartial, selon l'Union européenne Les experts de l'Union européenne publient le premier draft sur les lignes directrices d'une IA éthique, la version finale est attendue en mars 2019 L'organisation européenne des consommateurs estime que la proposition de loi de l'Europe sur l'IA est faible, en matière de protection des consommateurs