Les fondateurs du Frontier Model Forum font un pas en avant pour s'assurer que la recherche sur l'IA est menée de la manière la plus responsable possible. Ils ont notamment lancé un fonds de sécurité pour l'IA d'une valeur de 10 millions de dollars et nommé le directeur exécutif du forum, qui sera désormais Chris Meserole.Comme cela a été confirmé récemment, il s'agit de la première alerte importante émanant de ce puissant groupe de quatre, depuis la création du principal forum industriel en juillet de l'année dernière. En outre, d'autres rapports soulignent que Meserole a eu l'occasion de servir formellement en tant que chef de l'organisme lors d'une réunion tenue à la Brookings Institution, une société à but non lucratif de la capitale de l'État. Le Forum a indiqué que l'objectif de l'arrivée d'un nouveau directeur exécutif pour la première fois est de tirer parti de sa grande expérience et de se concentrer davantage sur des sujets tels que la gouvernance sûre et les technologies en expansion qui pourraient s'avérer utiles dans le cadre d'applications futures.
En outre, toute avancée majeure réalisée dans le monde de la technologie et de la recherche en matière d'IA permettrait de garantir que les choses restent sûres et sécurisées à tout moment, tout en restant sous le bon type d'observation humaine. De la même manière, cela permettrait d'identifier les meilleures pratiques selon les normes de l'industrie et donnerait lieu à des échanges de données précises entre ceux qui élaborent les politiques et ceux qui dirigent le secteur aujourd'hui.
Comme vous pouvez le constater, la sûreté et la sécurité sont une priorité absolue, tout comme l'utilisation de la technologie de l'IA dans les applications quotidiennes. Et cela n'est possible que lorsque les bonnes politiques sont en place et que l'intervention humaine appropriée est privilégiée. Depuis un certain temps déjà, OpenAI désigne ces modèles pionniers comme étant ceux qui ont la capacité de causer des dommages et qui représentent un risque majeur pour le public.
Comme l'a mentionné le géant de la technologie, ils représentent un grand pouvoir et une grande promesse pour le monde, mais nous ne pouvons réaliser leur grandeur avec une meilleure compréhension que lorsque nous savons comment les traiter de manière sûre tout en les évaluant correctement. C'est pourquoi, dans son premier discours en tant que directeur exécutif, Meserole a déclaré qu'il était honoré d'assumer ce rôle et de tirer le meilleur parti des défis qui l'attendent.
Le nouveau Fonds de sécurité, doté de 10 millions de dollars, est destiné à soutenir les chercheurs indépendants du monde universitaire, les entreprises de recherche et les jeunes pousses disséminées dans le monde entier. C'est un point sur lequel le quadruple président s'était personnellement engagé à apporter son aide au début de l'année à Washington. De même, l'établissement d'une base de référence définissant tous les termes et processus liés à l'IA dans l'industrie joue un rôle majeur.
La première mise à jour sur ce front a été publiée et a été baptisée AI Red Teaming, grâce à des ressources tirées d'études de cas d'entreprises technologiques de premier plan telles que Microsoft et même Google. Pour mieux comprendre ce qu'est réellement cette pratique, les responsables de la cybersécurité la décrivent comme une tâche dans laquelle les organisations font appel à des pirates éthiques et leur permettent d'infiltrer les systèmes du réseau. De cette manière, toutes les faiblesses en matière de sécurité sont examinées et corrigées avant que les mauvais acteurs n'entrent en jeu et ne procèdent à des changements.
On peut donc considérer qu'elle fonctionne comme une sonde pour tous les systèmes d'intelligence artificielle nécessaires en place afin que tous les dangers soient écartés de la meilleure manière possible.
[QUOTE]Mise à jour du Frontier Model Forum
Anthropic, Google, Microsoft et OpenAI annoncent aujourd'hui la sélection de Chris Meserole comme premier directeur exécutif du Frontier Model Forum, ainsi que la création d'un nouveau fonds de sécurité de l'IA, une initiative de plus de 10 millions de dollars visant à promouvoir la recherche dans le domaine de la sécurité de l'IA. Le Frontier Model Forum, un organisme industriel visant à assurer un développement sûr et...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
.
