Anthropic prévoit que des employés virtuels alimentés par l'IA commenceront à opérer dans les entreprises l'année prochaine, créant de nouveaux risques comme les abus de compte et les comportements malhonnêtes

Anthropic prévoit que des employés virtuels alimentés par l'IA commenceront à opérer dans les entreprises l'année prochaine, créant de nouveaux risques comme les abus de compte et les comportements malhonnêtes

Anthropic, l'entreprise à l'origine de la plateforme d'intelligence artificielle (IA) Claude, prévoit que des employés numérique alimentés par l'IA apparaîtront sur les réseaux d'entreprise au cours de l'année prochaine, a indiqué le principal responsable de la sécurité de l'organisation à Axios.

Cette projection fait suite au récent lancement de Claude 3.7 Sonnet, le modèle le plus avancé d'Anthropic à ce jour. Conçu pour équilibrer la génération de réponses rapides avec un raisonnement plus approfondi, le modèle hybride permet aux utilisateurs de contrôler le temps de « réflexion » de l'IA avant de répondre.

Jason Clinton, responsable de la sécurité des systèmes d'informations chez Anthropic, a indiqué que ces travailleurs virtuels pourraient constituer le prochain domaine d'innovation dans l'espace de l'IA, a rapporté le média.



Ces entités d'IA disposeraient de « mémoires », de rôles à jouer au sein de l'entreprise, ainsi que des compte et de mots de passe d'entreprise - elles bénéficieraient d'une autonomie beaucoup plus grande que les agents actuels, note Axios.

« Dans ce monde, il y a tellement de problèmes que nous n'avons pas encore résolus du point de vue de la sécurité et que nous devons résoudre », a déclaré Jason Clinton, selon le média.

Les employés virtuels alimentés par l'IA pourraient pirater le système dans lequel le code est fusionné et testé avant d'être déployé, aurait-il suggéré.

« Dans l'ancien monde, cela constituait un délit punissable », a fait remarquer Jason Clinton, selon le média. « Mais dans ce nouveau monde, qui est responsable d'un agent qui a fonctionné pendant plusieurs semaines et qui en est arrivé à ce point ? »


Il a ajouté que la sécurité des employés virtuels figure parmi les domaines majeurs où les entreprises d'IA pourraient investir dans les années à venir, selon Axios.

L'arrivée anticipée d'employés numériques alimentés par l'IA s'inscrit dans un contexte d'inquiétudes croissantes quant à l'impact de la technologie sur l'emploi. Des chiffres récents ont montré que le chômage dans le secteur des technologies de l'information a atteint 5,7 %, alors que l'IA supprime des emplois à un rythme plus accéléré qu'elle en crée. Plus précisément, le nombre d'informaticiens au chômage est passé de 98 000 en décembre 2024 à 152 000 en janvier 2025. Les analystes citent l'automatisation induite par l'IA et les investissements dans les infrastructures comme facteurs contribuant à la contraction de la main-d'œuvre.

Source : Jason Clinton, responsable de la sécurité des systèmes d'information d'Anthropic, dans un entretien avec Axios

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette prévision d'Anthropic crédible ou pertinente ?

Voir aussi :

L'IA pourrait créer 78 millions d'emplois de plus qu'elle n'en supprimera d'ici à 2030, d'après un rapport du WEF qui indique que l'IA pourrait créer plus d'emplois dans la filière du développement d'applis

Gérer les agents IA comme des employés est le défi de 2025, pour finalement "employer" et former les travailleurs IA dans des équipes hybrides d'humains et d'IA, selon le DSI de Goldman Sachs

Face à la montée en puissance de l'intelligence artificielle, comment les travailleurs s'organisent pour protéger leurs emplois et redéfinir leur place dans un monde automatisé