ByteDance, propriétaire de TikTok, licencie un stagiaire pour avoir saboté un projet d'IA en introduisant un code malveillant dans des modèles d'IAmais nie que le sabotage aurait coûté des dizaines de millions
ByteDance, le propriétaire de la plateforme de médias sociaux TikTok, a licencié un stagiaire qui aurait saboté un projet interne d'IA. Le géant chinois affirme que le travailleur a été licencié en août 2024 pour « avoir interféré de manière malveillante avec la formation de modèles d'IA utilisés dans le cadre d'un projet de recherche ». Les rumeurs sur les réseaux sociaux chinois font état de ce que le sabotage a causé des dommages financiers estimés à plusieurs dizaines de millions de dollars. Toutefois, ByteDance rejette cette version de l'histoire et a déclaré que « les rapports en ligne sur les dommages qui en ont résulté étaient exagérés et inexacts ».
ByteDance a licencié un stagiaire qui a mis le bazar dans un projet de recherche en IA
L'histoire n'est pas très claire. ByteDance s'est vu obligé de communiquer sur le licenciement d'un stagiaire après que des rumeurs ont largement circulé sur les réseaux sociaux chinois au cours de la semaine dernière. L'une des rumeurs indique qu'un développeur (le stagiaire) modifiait les poids dans les grands modèles de langage (LLM) d'autres développeurs et faisait échouer leurs séances d'entraînement pour que son propre travail paraisse meilleur en comparaison.
Une autre rumeur en ligne a suggéré que « plus de 8 000 unités de traitement graphique (GPU) étaient impliquées dans le sabotage et que ByteDance a perdu des dizaines de millions de dollars à cause de l'interférence du stagiaire ». Dans un message publié sur son service d'agrégation de nouvelles Toutiao, ByteDance a confirmé qu'un stagiaire de l'équipe de technologie commerciale a été licencié pour de graves violations disciplinaires, mais a infirmé les autres rumeurs.
Selon ByteDance, le stagiaire a été licencié pour « avoir malicieusement interféré avec les tâches de formation des modèles pour un projet de recherche de ByteDance ». Il a ajouté que ses produits commerciaux officiels et ses grands modèles de langage n'avaient pas été affectés. Voici ci-dessous le communiqué (traduit du chinois) de ByteDance :
Envoyé par ByteDance
Clarification du fait que « des stagiaires ont saboté la formation sur les grands modèles ».
Récemment, certains médias ont rapporté que « la formation du grand modèle Byte Jumping de ByteDance a été attaquée par des stagiaires ». Après vérification interne de l'entreprise, il y a effectivement eu une infraction disciplinaire grave commise par un stagiaire de l'équipe de technologie commerciale, et le stagiaire a été licencié. Toutefois, les rapports concernés contiennent des informations exagérées et inexactes, qui sont expliquées comme suit :
Premièrement, le stagiaire impliqué dans l'incident a malicieusement interféré avec la tâche de formation du modèle du projet de recherche de l'équipe de technologie commerciale, mais cela n'a pas affecté le projet formel et l'activité en ligne de commercialisation ni d'autres activités telles que Byte Jump Big Model.
Deuxièmement, la rumeur sur Internet selon laquelle « plus de 8 000 GPU sont concernées et la perte s'élève à des dizaines de millions de dollars américains » est largement exagérée.
Troisièmement, il a été vérifié que la personne impliquée dans l'incident a été stagiaire dans l'équipe de technologie commerciale et n'a pas d'expérience de stage au sein du laboratoire d'intelligence artificielle. Son profil sur les médias sociaux et certains rapports des médias sont incorrects.
Le stagiaire a été licencié de l'entreprise en août. L'entreprise a également signalé son comportement à la fédération du secteur et à l'école où il travaillait, laissant aux autorités de l'école le soin de gérer la situation.
Le développeur aurait rejoint l'équipe en tant que stagiaire en 2021, et « il pourrait s'agir du laboratoire d'IA le plus avancé ». Un autre commentateur a suggéré que ByteDance minimise les dommages liés au sabotage. Il affirme que le stagiaire a utilisé un « code malveillant » pour « saboter délibérément la formation pendant plusieurs mois » et suggère que le stagiaire pourrait faire l'objet de sanctions plus sévères si ByteDance voulait réclamer des dommages-intérêts.
« Les mois de recherche de l'équipe ont été vains, mais bien que cela n'ait pas directement affecté la ligne de produits, la perte de puissance de calcul s'élève à elle seule à plusieurs millions, voire dizaines de millions, sans parler du gaspillage de temps, d'énergie et de salaires de toute l'équipe de recherche », dit-il.
Le retard de ByteDance en matière d'IA générative est vécu comme une crise en interne
Tout comme la majeure partie de la sphère technologique aux États-Unis, en Europe et en Chine, ByteDance a été surpris par l'avènement de l'IA générative après le lancement de ChatGPT. Un rapport de Bloomberg explique que ByteDance a entamé l'année 2024 en se confrontant à la dure réalité de son retard sur ses rivaux dans la course à l'IA. Le géant chinois a perdu des années à ignorer les développements d'OpenAI en matière d'IA avec les modèles GPT.
main content: pic.twitter.com/PFh3HB7TXz
— YouJiacheng (@YouJiacheng) October 18, 2024
ByteDance n'a pas été « suffisamment sensible aux changements externes ». Lors d'une réunion avec le personnel, Liang Rubo, cofondateur et PDG de ByteDance, a demandé aux employés « d'adopter un sentiment de crise ». Liang Rubo ne s'attend toutefois pas à ce que ByteDance rattrape facilement son retard sur ses rivaux chinois et américains. Selon les analystes, ByteDance est largement en retard par rapport à Baidu, un concurrent local, en matière d'IA.
Baidu dit avoir un chatbot aussi performant que ChatGPT et qui attire plus de 100 millions d'utilisateurs depuis le mois d'août 2024. Pendant ce temps, le chatbot Doubao de ByteDance a été largement considéré comme un flop l'année dernière. ByteDance aurait obtenu un prêt de 10,8 milliards de dollars pour l'aider à agrandir ses installations et concurrencer ses rivaux. Une partie de cette somme lui permettra de développer son activité de commerce électronique.
Une autre partie soutiendra également « l'autre grande incursion de l'entreprise dans l'IA générative et le développement de grands modèles de langage pour les applications de type ChatGPT, une entreprise à forte intensité de capital qui exige des milliards de dollars d'investissements initiaux ». Toutefois, selon les analystes, le recrutement d'experts en IA pour concrétiser ce projet d'expansion (rapidement) pourrait s'avérer un véritable casse-tête pour ByteDance.
L'entreprise a été confrontée à un exode des meilleurs experts en IA, les startups attirant les talents pour séduire les investisseurs qui cherchent à soutenir le prochain OpenAI. ByteDance est également en concurrence avec ses principaux rivaux, Tencent et Alibaba, qui ont...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.