Midjourney déclare avoir interdit aux employés de Stability AI d'utiliser son service, accusant les employés de la société rivale d'IA générative d'avoir provoqué une panne de système au début du mois lors d'une tentative de scraping de données de Midjourney. En réponse à la récente panne, Midjourney a annoncé une nouvelle politique qui interdira aux travailleurs de toute entreprise se livrant à une « automatisation agressive » ou provoquant des interruptions de service. Cette politique a été révélée lors du même appel de mise à jour commerciale du 6 mars, au cours duquel les allégations contre Stability AI ont été discutées. L’interdiction des employés de Stability AI fait partie de cette nouvelle mise en œuvre de politique.L'outil d'IA générative Midjourney a fait les gros titres il y a quelques mois lorsqu'il a été utilisé dans le monde entier pour générer des images. L'outil a également été utilisé par de nombreuses personnes pour créer de fausses images (deepfake), après quoi sa période d'essai gratuite a été interrompue. Le PDG et fondateur de Midjourney, David Holz, avait annoncé sur Discord « une demande extraordinaire et un abus de la période d'essai gratuite » comme raison de sa suspension. Aujourd'hui, l'outil d'IA fait à nouveau parler de lui, mais cette fois-ci pour avoir affirmé que ses données étaient collectées par les employés de Stability AI.
Midjourney a annoncé l'interdiction pour les employés de Stability AI d'utiliser son service, affirmant que les membres du personnel de la société rivale d'IA générative ont causé une panne de système en tentant de récupérer les données de Midjourney. L'incident a été reconnu dans une mise à jour sur le serveur Discord de Midjourney le 2 mars, citant une panne de serveur prolongée empêchant l'affichage des images générées dans les galeries des utilisateurs. La société a attribué la panne à une « activité de type botnet à partir de comptes payants », la reliant spécifiquement aux employés de Stability AI.
Selon Nick St. Pierre, utilisateur de Midjourney sur X, qui a écouté l'appel, Midjourney a déclaré que le service avait été interrompu parce que « quelqu'un de Stability AI essayait de récupérer toutes les paires de messages et d'images au milieu de la nuit de samedi à dimanche ». Pierre a déclaré que Midjourney avait lié plusieurs comptes payants à une personne de l'équipe de données de Stability AI.
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">In MJ office hours they just said someone at Stability AI was trying to grab all the prompt and image pairs in the middle of a night on Saturday and brought down their service. <br><br>MJ is banning all of the stabilityAI employees from Midjourney immediately<br><br>This is breaking now</p>— Nick St. Pierre (@nickfloats) <a href="https://twitter.com/nickfloats/status/1765471291300045255?ref_src=twsrc%5Etfw">March 6, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Midjourney introduit une nouvelle politique contre « l’automatisation agressive »
Dans son résumé de l'appel de mise à jour du 6 mars (que Midjourney appelle « heures de bureau »), la société dit qu'elle interdit à tous les employés de Stability AI d'utiliser son service « indéfiniment » en réponse à la panne. Midjourney introduit également une nouvelle politique qui interdira de la même manière les employés de toute entreprise qui exerce une « automatisation agressive » ou qui provoque des pannes du service.
Le PDG de Stability AI enquête sur les allégations et nie toute perturbation intentionnelle
Pierre a signalé les accusations au PDG de Stability AI, Emad Mostaque, qui a répondu sur X, disant qu'il enquêtait sur la situation et que Stability n'avait pas ordonné les actions en question. « Il est très difficile de comprendre comment deux comptes ont pu faire cela. L'équipe n'a pas fait de scraping, car nous avons utilisé des données synthétiques et autres, étant donné que SD3 surpasse tous les autres modèles », a déclaré Mostaque, faisant référence au modèle d'IA Stable Diffusion 3, actuellement en preview. Il a affirmé que si la panne avait été causée par un employé de Stability, elle n'était pas intentionnelle et « n'était manifestement pas une attaque DDoS ».
« Quoi qu'il en soit, je suis un grand fan de MJ & David, c'est pourquoi je les ai soutenus au début avec la subvention pour payer la bêta », a-t-il indiqué.
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Very confusing how 2 accounts would do this team also hasn't been scraping as we have been using synthetic & other data given SD3 outperforms all other models<br><br>Anyway I am a big MJ & David fan which is why I backed them at the start with the grant to pay for the beta, on e we go</p>— Emad acc/acc (@EMostaque) <a href="https://twitter.com/EMostaque/status/1765495422561206507?ref_src=twsrc%5Etfw">March 6, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Le fondateur de Midjourney, David Holz, a répondu à Mostaque dans le même fil de discussion, affirmant lui avoir envoyé « quelques informations » pour l'aider dans son enquête interne.
Conclusion
Il semble étrange que l'activité de scraping de seulement deux comptes ait réussi à provoquer une panne de serveur aussi longue. L'ironie de cette situation n'a pas échappé aux créateurs en ligne, qui ont largement critiqué les deux entreprises (et les systèmes d'IA générative en général) pour avoir entraîné leurs modèles sur des masses de données en ligne extraites de leurs œuvres sans leur consentement. Stable Diffusion et Midjourney ont toutes deux fait l'objet de plusieurs poursuites en matière de droits d'auteur, la dernière ayant été accusée en décembre d'avoir créé une base de données d'artistes à des fins d'entraînement.
Source : résumé de l'appel de mise à jour des activités (Discord)
Et vous ?
Quelles mesures devraient être prises pour assurer une utilisation éthique des données dans l’industrie de l’IA ? Comment les entreprises d’IA peuvent-elles maintenir un équilibre entre innovation et respect de la vie privée ? L’interdiction imposée par Midjourney est-elle une réaction appropriée ou excessive face aux allégations de scrapping de données ? Quel rôle les régulateurs devraient-ils jouer pour prévenir les abus potentiels dans l’utilisation des données d’IA ? Comment les entreprises peuvent-elles renforcer la transparence et la confiance avec leurs utilisateurs concernant l’utilisation des données ?