IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le journal scientifique Nature interdit l'art généré par l'IA dans sa revue scientifique vieille de 153 ans,
Un acte de censure ou de préservation ?

Le , par Bruno

5PARTAGES

9  0 
Le journal scientifique Nature a annoncé mercredi qu’il n’accepterait plus d’art généré par l’intelligence artificielle (IA) dans ses pages. Cette décision fait suite à une controverse sur la publication d’une illustration de couverture réalisée par un algorithme de deep learning appelé StyleGAN. Le journal scientifique a expliqué que l’art généré par l’IA n’était pas conforme à ses principes éthiques et esthétiques, et qu’il privilégierait désormais les œuvres originales créées par des artistes humains. Certains chercheurs et artistes ont critiqué cette mesure, estimant qu’elle était discriminatoire et qu’elle ignorait le potentiel créatif de l’IA.

Fondée en novembre 1869, Nature publie des travaux de recherche évalués par des pairs dans diverses disciplines universitaires, principalement dans les domaines de la science et de la technologie. Nature est classée revue scientifique interdisciplinaire la plus citée au monde par l'édition scientifique du Journal Citation Reports 2010.


La plupart des revues scientifiques sont aujourd'hui hautement spécialisées, et Nature fait partie des quelques revues (les autres revues hebdomadaires Science et Proceedings of the National Academy of Sciences en sont également des exemples importants) qui publient encore des articles de recherche originaux dans un large éventail de domaines scientifiques.

Les chercheurs constituent le principal public de la revue, mais les résumés et les articles qui les accompagnent sont destinés à rendre les articles les plus importants compréhensibles pour les scientifiques d'autres domaines et pour le grand public cultivé. Au début de chaque numéro, on trouve des éditoriaux, des nouvelles et des articles de fond sur des questions d'intérêt général pour les scientifiques, notamment l'actualité, le financement de la science, les affaires, l'éthique scientifique et les percées de la recherche. Des sections sont également consacrées aux livres et aux arts.

Citation Envoyé par Springer Nature
Les grands modèles de langage (LLM), tels que ChatGPT, ne satisfont pas actuellement à nos critères de paternité. Spécifiquement, l'attribution de la paternité implique la responsabilité du travail, ce qui ne peut pas être appliqué efficacement aux LLM.

L'évolution rapide du domaine de la création d'images par l'IA générative a donné lieu à de nouvelles questions juridiques en matière de droit d'auteur et d'intégrité de la recherche. En tant qu'éditeurs, nous respectons strictement la législation en vigueur en matière de droits d'auteur et les meilleures pratiques en matière d'éthique de la publication. Alors que les questions juridiques relatives aux images et vidéos générées par l'IA restent largement non résolues, les revues Springer Nature ne sont pas en mesure d'autoriser leur utilisation à des fins de publication.

Les exceptions sont les images/arts obtenus auprès d'agences avec lesquelles nous avons des relations contractuelles et qui ont créé des images d'une manière légalement acceptable. D'autres exceptions à cette politique comprennent les images et les vidéos qui sont directement référencées dans un article portant spécifiquement sur l'IA et qui seront examinées au cas par cas.

Comme nous nous attendons à ce que les choses évoluent rapidement dans ce domaine dans un avenir proche, nous reverrons cette politique régulièrement et l'adapterons si nécessaire.
Autrefois réservés à un groupe restreint d'initiés de la technologie, les systèmes d'IA texte-image sont de plus en plus populaires et puissants. Ces outils, qui offrent généralement quelques crédits gratuits avant d'être facturés, peuvent créer toutes sortes d'images avec seulement quelques mots, y compris celles qui évoquent clairement les œuvres de très nombreux artistes (si elles ne semblent pas avoir été créées par le même artiste).

Le mois dernier, des artistes numériques ont intenté une action en justice contre Midjourney et Stability AI, deux entreprises qui ont lancé des générateurs d’images basés sur l’intelligence artificielle et qui peuvent transformer des textes simples en images réalistes. Les artistes affirment que ces entreprises ont violé leurs droits d’auteur en utilisant leurs images, ainsi que celles de dizaines de milliers d’autres artistes, pour entraîner leurs générateurs d’images et produire des œuvres dérivées.

La plainte, déposée devant le tribunal de district des États-Unis pour le district nord de la Californie, pourrait avoir des implications importantes pour l’avenir de l’art et du droit d’auteur à l’ère de l’intelligence artificielle. Les entreprises Midjourney et Stability AI ont lancé leurs générateurs d’images au public l’année dernière, et ont attiré plus de 10 millions d’utilisateurs. DeviantArt, une plateforme en ligne pour les artistes numériques, a également intégré la technologie de Stability AI dans son site.

Les utilisateurs peuvent désigner ces artistes par des mots tels que « dans le style de » ou « par », accompagnés d'un nom spécifique. Et les utilisations actuelles de ces outils peuvent aller de l'amusement personnel à des cas plus commerciaux. Mais la découverte par des artistes que leur travail est utilisé pour entraîner l'IA soulève une préoccupation fondamentale : leur propre art est effectivement utilisé pour entraîner un programme informatique qui pourrait un jour s'attaquer à leur gagne-pain.

Nature explique que sa récente décision concernant les œuvres d'art réalisées à l'aide de l'IA fait suite à des mois de discussions et de consultations intenses suscitées par la popularité croissante et les capacités de plus en plus grandes d'outils d'IA générative tels que ChatGPT et Midjourney.

ChatGPT est un robot à grand modèle de langage (ils permettent de prédire le mot suivant dans une série de mots) développé par OpenAI et basé sur GPT-3.5. Il a une habileté remarquable à interagir sous forme de dialogue conversationnel et à fournir des réponses qui peuvent sembler étonnamment humaines.

Une étude portant sur les capacités de génération de code informatique de ChatGPT a révélé que le code généré par le chatbot d'IA d'OpenAI est truffé de vulnérabilités. Le rapport l'étude indique que ChatGPT produit non seulement du "code peu sûr", mais n'alerte pas non plus les utilisateurs sur ses insuffisances, alors qu'il est capable de les mettre en évidence. Le chatbot ne fournit des conseils utiles pour améliorer la qualité du code qu'après avoir été invité à remédier aux problèmes détectés par l'utilisateur dans le code généré. L'étude remet en cause les déclarations selon lesquelles ChatGPT pourrait remplacer la majorité des programmeurs dans les prochaines années.

L'apprentissage par renforcement avec retour d'information humain (RLHF) est une couche supplémentaire de formation qui utilise le retour d'information humain pour aider ChatGPT à apprendre à suivre des instructions et à générer des réponses satisfaisantes pour les humains. ChatGPT a été créé par OpenAI, une société d'intelligence artificielle basée à San Francisco, connue pour son célèbre DALL-E, un modèle d'apprentissage profond qui génère des images à partir d'instructions textuelles appelées prompts.

L’IA générative, une menace pour la transparence des publications scientifiques

« En dehors des articles portant spécifiquement sur l'IA, Nature ne publiera aucun contenu dans lequel des photographies, des vidéos ou des illustrations ont été créées entièrement ou partiellement à l'aide de l'IA générative, du moins dans un avenir prévisible », a indiqué la revue dans un article.

La revue considère que cette question relève de ses lignes directrices relatives à l'intégrité et à la transparence de ses publications, ce qui implique de pouvoir citer les sources des données contenues dans les images :

« Pourquoi interdisons-nous l'utilisation de l'IA générative dans les contenus visuels ? En fin de compte, c'est une question d'intégrité. Le processus de publication - en ce qui concerne à la fois la science et l'art - est sous-tendu par un engagement commun en faveur de l'intégrité. Cela inclut la transparence. En tant que chercheurs, rédacteurs et éditeurs, nous avons tous besoin de connaître les sources des données et des images, afin de pouvoir vérifier leur exactitude et leur véracité. Les outils d'IA générative existants ne permettent pas d'accéder à leurs sources pour que cette vérification puisse avoir lieu. »

En conséquence, tous les artistes, cinéastes, illustrateurs et photographes mandatés par Nature « devront confirmer qu'aucune des œuvres qu'ils soumettent n'a été générée ou augmentée à l'aide de l'IA générative ».

Source : Springer Nature

Et vous ?

Que pensez-vous de la décision de Springer Nature, de ne plus accepter d’art généré par l’intelligence artificielle (IA) dans ses pages ?

Quel est l’impact de cette décision sur la diversité et l’inclusion des voix et des perspectives dans le domaine scientifique ?

Quels sont les risques et les opportunités de l’art généré par l’IA pour la diffusion et la vulgarisation de la science ?

Comment Springer Nature pourrait s’assurer que les artistes humains qu’il emploie respectent les droits d’auteur et les normes éthiques dans leurs créations ?

A votre avis, L’art généré par l’IA est-il trop beau pour être vrai ?

Voir aussi :

ChatGPT génère un code informatique peu sûr, mais ne vous le dira pas à moins que vous ne le lui demandiez, les experts mettent en garde contre les risques d'une surconfiance en ChatGPT

ChatGPT génère un code informatique peu sûr, mais ne vous le dira pas à moins que vous ne le lui demandiez, les experts mettent en garde contre les risques d'une surconfiance en ChatGPT

La bande dessinée générée par l'IA perd la protection du droit d'auteur qui lui avait été accordée, l'USPTO estime que les œuvres protégées par le droit d'auteur nécessitent la paternité humaine

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de GLDavid
Expert confirmé https://www.developpez.com
Le 14/06/2023 à 15:36
Bonjour

Je comprends Nature. Si on autorise une IA pour générer une image, aussi artistique soit-elle, alors rien n'empêchera la génération de:
1) données
2) figures
3) articles
Le tout créé par l'IA.
Le forum est plein de mise en alerte quand aux droits et brevets que l'IA pourrait promouvoir.
Comment vérifier l'authenticité ? Sur base de quoi ?
De mon point de vue, l'IA est un outil dont le périmètre doit être défini et décrit. On peut l'utiliser pour une amélioration mais certainement pas pour "tout faire".
Nature a déjà fort à faire avec les articles bidons créés par les humains, alors, si on met maintenant l'IA, l'équation sera vite insoluble.

@++
2  0 
Avatar de eric44000
Membre averti https://www.developpez.com
Le 14/06/2023 à 16:49
Citation Envoyé par Bruno Voir le message
Comment Springer Nature pourrait s’assurer que les artistes humains qu’il emploie respectent les droits d’auteur et les normes éthiques dans leurs créations ?
Il n'a aucun moyen de s'en assurer. C'est la raison pour laquelle Nature demande aux artistes, cinéastes, illustrateurs et photographes de confirmer qu'ils n'utilisent pas l'IA générative. Mais personne n'est dupe. Tous savent que les graphistes utilisent l'IA. Même Photoshop l'inclut, c'est dire ! Par ailleurs, il existe des modèles qui ont été entrainés avec des images libres de droit comme Stable Diffusion 2.1 (mais que personne utilise parce que c'est nul).
Bref, leur décision est plutôt juridique. C'est une façon préventive de se couvrir si d'aventure une plainte viserait Nature. Il pourrait se retourner contre le graphiste en dénonçant sa duperie.
2  0 
Avatar de Prox_13
Membre éclairé https://www.developpez.com
Le 14/06/2023 à 16:40
Citation Envoyé par Bruno Voir le message
Le journal scientifique Nature interdit l'art généré par l'IA dans sa revue scientifique vieille de 153 ans, un acte de censure

Peut-on vraiment parler de censure ? Pour moi une censure est l'interdiction de l'expression d'un idée, d'un concept précis par une autorité; Le fait d'éviter d'utiliser quelque chose en particulier relèverait plutôt du boycott par exemple, non ?

Autrement, oui c'est tout à fait légitime pour une revue (scientifique ou non) d'avoir la liberté de choisir ses outils. Bizarre comme question .
1  0