IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des scientifiques espèrent accélérer le développement de l'AGI avec un réseau de supercalculateurs dont le premier nœud sera bientôt déployé,
Mais le projet suscite le scepticisme et plusieurs préoccupations

Le , par Mathis Lucas

10PARTAGES

3  0 
Des scientifiques de SingularityNET espèrent accélérer le développement de l'intelligence artificielle générale (AGI) à l'aide d'un réseau de superordinateurs. L'objectif de l'entreprise est d'établir "un réseau d'informatique cognitive à plusieurs niveaux" qui hébergera et formera les architectures nécessaires à l'AGI. Les superordinateurs intégreront des éléments de systèmes d'IA avancés comme les réseaux neuronaux profonds, les LLM et des systèmes multimodaux qui relient les comportements humains aux sorties multimédias. Le premier supercalculateur sera mis en service prochainement, mais son achèvement est prévu pour la fin 2024 ou le début 2025.

Un grand réseau de supercalculateurs visant à accélérer le développement de l'AGI

L'AGI est un concept futuriste qui vise à concevoir une machine dotée d'une cognition de niveau humain et capable d'autodidacte. L'objectif est que le logiciel soit capable d'effectuer des tâches pour lesquelles il n'est pas nécessairement formé ou développé. L'AGI une avancée significative par rapport aux systèmes d'IA actuels qui excellent dans des domaines spécifiques sur la base de leurs données d'apprentissage, mais peinent à accomplir des tâches cognitives ou de raisonnement dans d'autres domaines. Par exemple, les modèles d'IA entraînés à la génération d'image ne sont pas capables de créer des sites Web.


En théorie, l'AGI peut résoudre des problèmes complexes dans des situations et des contextes qui ne lui ont pas été enseignés au moment de sa création. Cependant, l'industrie encore est loin de cette révolution en raison de plusieurs défis qu'elle peine à relever. Et pour accélérer les choses, l'entreprise d'IA SingularityNET a annoncé qu'elle s'apprête à déployer un réseau de superordinateurs. SingularityNET est une plateforme décentralisée basée sur la blockchain qui vise à créer un marché mondial pour les services d'IA. Elle a été lancée en 2017 par Ben Goertzel, mathématicien et chercheur américain en IA.

Mais l'initiative suscite le scepticisme. Précédemment, Yann LeCun, lauréat du prestigieux prix Turing et responsable de l'IA chez Meta, a déclaré que l'AGI est inévitable, mais qu'elle n'arrivera pas l'année prochaine et qu'elle ne sera pas uniquement l'œuvre des LLM. Pour lui, ces modèles d'IA ne sont pas en mesure de résoudre les défis cognitifs tels que le raisonnement, la planification, la mémoire persistante et la compréhension du monde physique. En outre, certains critiques pensent que l'industrie peut augmenter la puissance de calcul à sa guise, mais que cela ne suffit pas de créer une machine capable de penser par elle-même.

Citation Envoyé par Critique

Ils peuvent s'assurer que le matériel existe et qu'il est suffisamment puissant pour l'AGI, bien sûr. Cependant, la partie sur laquelle nous sommes toujours bloqués n'est pas la puissance de traitement brute, mais comment faire pour créer quelque chose qui pense par lui-même.

Les systèmes d'IA dont nous disposons aujourd'hui n'en sont même pas proches, et si l'on considère la façon dont ils fonctionnent sous le capot, je dirai qu'ils ne constituent même pas un pas dans la bonne direction.
Les superordinateurs développés par SingularityNET intégreront des éléments de systèmes d'IA avancés. Il s'agit notamment des réseaux neuronaux profonds, des grands modèles de langage (LLM) et des systèmes multimodaux qui relient les comportements humains, tels que la parole et les mouvements, aux sorties multimédias. Le tout premier superordinateur devrait être mis en service prochainement, mais son achèvement est prévu pour la fin 2024 ou le début 2025, en fonction des délais de livraison des fournisseurs. Il s'agira d'un supercalculateur modulaire qui intégrera de nombreux composants de pointe.

Ces composants comprennent : des processeurs graphiques (GPU) L40S de Nvidia, des processeurs Instinct et Genoa d'AMD, des baies de serveurs Tenstorrent Wormhole dotées de GPU H200 de Nvidia, ainsi que des systèmes Blackwell GB200 de Nvidia. L'ensemble constitue l'un des matériels d'IA les plus puissants disponibles sur le marché. Ces composants font partie du matériel le plus puissant disponible aujourd'hui pour la formation et l'inférence des modèles d'IA.

Un framework open source pour faciliter le développement d'une superintelligence

« Ce supercalculateur constituera en soi une percée dans la transition vers l'AGI. Bien que les nouvelles approches d'IA neuronale-symbolique développées par l'équipe d'IA de SingularityNET réduisent quelque peu les besoins en données, en traitement et en énergie par rapport aux réseaux neuronaux profonds standard, nous avons toujours besoin d'importantes installations de supercalculateurs », a déclaré Ben Goertzel, cofondateur et PDG de SingularityNET.

SingularityNET vise à fournir un accès aux données pour la croissance de l'AGI et d'une future superintelligence artificielle, un système hypothétique beaucoup plus avancé cognitivement que n'importe quel humain. Pour ce faire, SingularityNET a développé un logiciel unique appelé "OpenCog Hyperon" pour gérer le cluster de calcul fédéré (distribué). « OpenCog Hyperon est un logiciel libre conçu spécifiquement pour l'architecture des systèmes d'IA. Cette nouvelle infrastructure matérielle est spécialement conçue pour mettre en œuvre OpenCog Hyperon et son écosystème AGI », a déclaré Goertzel.

Pour permettre aux utilisateurs d'accéder au superordinateur, Goertzel et son équipe utilisent un système de jetons, courant dans le domaine de l'IA. Les utilisateurs ont accès au supercalculateur et, grâce à leurs jetons, ils peuvent utiliser et ajouter des données aux ensembles existants sur lesquels les autres utilisateurs s'appuient pour tester et déployer les concepts de l'AGI. Dans leur forme la plus simple, les jetons d'IA imitent les jetons des jeux vidéo autonomes des salles d'arcade. Les joueurs devaient acheter des jetons qu'ils inséraient ensuite dans le jeu vidéo pour obtenir un certain nombre de chances de jouer.

Dans ce cas, les données collectées en jouant au jeu sont accessibles à tous les autres joueurs, non seulement dans une salle d'arcade, mais aussi dans les autres salles d'arcade du monde entier. « Le GPT-3 a été entraîné sur 300 milliards de jetons (généralement des mots, des parties de mots ou des signes de ponctuation), et le GPT-4 sur 13 000 milliards », a laissé entendre Nabeel S. Qureshi, chercheur au sein du think tank Mercatus et ingénieur en logiciel.

Lors d'une conférence en 2018, Goertzel a déclaré : « je ne pense pas que nous ayons besoin d'algorithmes fondamentalement nouveaux. Je pense que nous devons connecter nos algorithmes d'une manière différente de ce que nous faisons aujourd'hui. Si j'ai raison, alors nous avons déjà les algorithmes de base dont nous avons besoin. Je pense que nous sommes à moins de dix ans de la création d'une IA de niveau humain ». Une prédiction audacieuse qui suscite le scepticisme.

Cependant, il est loin d'être le seul à faire ce type de déclaration audacieuse. Shane Legg, cofondateur de Google DeepMind, a déclaré que l'IA pourrait atteindre ou dépasser l'intelligence humaine d'ici 2028. Mark Mark Zuckerberg, PDG de Meta, poursuit activement l'AGI en investissant 10 milliards de dollars dans la construction de l'infrastructure nécessaire à la formation de modèles d'IA avancés en janvier. Meta envisage même de décupler sa puissance de calcul.

Les réseaux électriques n'étaient pas préparés à la croissance subite de la demande

La création de ce réseau de superordinateurs met en lumière la demande croissante d'une immense puissance de calcul pour la recherche sur l'IA. Bien que le projet en soit encore à ses débuts, le déploiement du premier nœud constitue une étape importante. Si le projet est couronné de succès, ce réseau pourrait devenir l'épine dorsale de la recherche sur l'AGI, en fournissant l'infrastructure nécessaire pour relever certains des défis les plus complexes dans ce domaine. Cependant, l'impact climatique de cette nouvelle infrastructure potentiellement énergivore suscite de profondes préoccupations.

La croissance rapide de l'IA a fait grimper la demande en énergie à un niveau plus élevé que ce qui était prévu. Aux États-Unis, elle mettrait déjà à rude épreuve les capacités de production du pays. Grid Strategies estime que les prévisions de croissance sur neuf ans pour l'Amérique du Nord ont pratiquement doublé par rapport à l'année dernière, car les entreprises construisent des centres de données pour l'IA qui font paraître minuscules les besoins des centres de données traditionnels. Où cela nous mène-t-il ? Comment pouvons-nous naviguer dans un avenir énergétique durable avec l'explosion de l'utilisation de l'IA ?

Aux États-Unis, les analystes rapportent que les réseaux électriques atteignent peu à peu leur limite. L'année dernière, les prévisions à cinq ans de Grid Strategies tablaient sur une croissance de 2,6 %. Depuis, ce chiffre a presque doublé pour atteindre 4,7 % et les planificateurs de Grid Strategies s'attendent à ce que la demande de pointe augmente de 38 gigawatts. Cela équivaut à la quantité nécessaire pour alimenter 12,7 millions de foyers, soit un peu plus que le nombre total d'unités d'habitation au Texas. Mais plus inquiétant encore, les analystes pensent que ce chiffre est probablement une sous-estimation des besoins réels.

L'IA est un élément majeur du problème en ce qui concerne l'augmentation de la demande. Les leaders du secteur, comme OpenAI, Amazon, Microsoft et Google, construisent ou recherchent des sites où construire d'énormes centres de données pour héberger l'infrastructure nécessaire au développement de grands modèles de langage, et les entreprises plus petites du secteur sont également très demandeuses d'énergie. Par exemple, selon l'Agence internationale de l'énergie, "une recherche pilotée par ChatGPT consomme environ 10 fois plus d'électricité qu'une recherche sur le moteur de recherche Google".

La consommation annuelle d'énergie d'un centre de données de Meta basé dans l'Iowa est équivalente à celle de 7 millions d'ordinateurs portables fonctionnant huit heures par jour. L'appétit énergétique de l'IA remet aussi en question les engagements en faveur du climat. La résurgence de l'énergie fossile dans les centres de données pour répondre aux besoins de l'IA contraste fortement avec les engagements de durabilité des entreprises comme Microsoft, Google et Meta.

Elles prévoient de supprimer entièrement leurs émissions d'ici à 2030. Cependant, l'IA remet en question ces initiatives. Ces entreprises sont les acteurs les plus importants d'une constellation de plus de 2 700 centres de données à travers les États-Unis. Et la construction de nouveaux centres de données est envisagée.

Source : SingularityNET

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du réseau de superordinateurs annoncé par SingularityNET ?
Cette infrastructure va-t-il accélérer le développement de l'AGI comme le prétend SingularityNET ?

Voir aussi

« La bulle de la GenAI n'éclatera pas, car les applications à haute valeur ajoutée arriveront assez vite pour éviter que les PDG des Big Tech ne s'épuisent sur la GenAI », affirme l'expert en IA Ben Goertzel

Si l'humanité parvient à franchir le goulot d'étranglement que constitue la sécurité de l'AGI, on pourrait entrer dans une nouvelle ère d'épanouissement maximal de l'humanité, selon Demis Hassabis

Meta va décupler sa puissance de calcul dans le cadre de la formation de Llama 4 et pourrait le lancer l'année prochaine, mais l'impact climatique de cette infrastructure potentiellement énergivore inquiète

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de OuftiBoy
Membre éclairé https://www.developpez.com
Le 10/09/2024 à 2:50
Citation Envoyé par Stéphane le calme Voir le message
Un professeur d'informatique du MIT teste l'impact de l'IA sur la formation des programmeurs :
l'attention constante portée à l'intégration de l'IA dans la plupart des secteurs d'activité modifie la manière dont l'informatique est enseignée

L’intelligence artificielle (IA) transforme de nombreux secteurs, y compris l’éducation. Une récente expérience menée par Eric Klopfer, professeur au Massachusetts Institute of Technology (MIT), a exploré comment l’IA influence l’apprentissage des programmeurs.

L'automne dernier, Eric Klopfer a décidé de mener une expérience dans son cours d'informatique de premier cycle au Massachusetts Institute of Technology (MIT). Il a divisé la classe en trois groupes et leur a donné une tâche de programmation à résoudre en langage Fortran, qu'aucun d'entre eux ne connaissait.

Chaque groupe avait accès à différents outils pour résoudre le problème :
  • Un groupe a été autorisé à utiliser ChatGPT pour résoudre le problème;
  • le deuxième groupe a été invité à utiliser le grand modèle linguistique (LLM) Code Llama de Meta ;
  • et le troisième groupe n'a pu utiliser que Google, sans assistance d’IA.

L’objectif était de comparer non seulement la rapidité avec laquelle chaque groupe pouvait résoudre le problème, mais aussi la qualité de leur compréhension et leur capacité à retenir les informations.


Les résultats

Les résultats ont montré que le groupe utilisant ChatGPT a résolu le problème le plus rapidement, suivi par le groupe utilisant Code Llama, et enfin le groupe utilisant Google, qui a mis encore plus de temps, car il a dû décomposer la tâche en plusieurs éléments.

Cependant, lorsque les étudiants ont été testés sur leur capacité à résoudre le problème de mémoire, les résultats ont été inversés : le groupe ChatGPT « ne s'est souvenu de rien et a échoué », se souvient Klopfer, professeur et directeur du programme de formation des enseignants Scheller du MIT et de The Education Arcade. En revanche, la moitié du groupe Code Llama a réussi le test. Le groupe qui a utilisé Google ? Tous les élèves ont réussi.

« Il s'agit d'une leçon éducative importante », a déclaré Klopfer. « Travailler dur et se battre est en fait une façon importante d'apprendre. Lorsqu'on vous donne une réponse, vous ne vous débattez pas et vous n'apprenez pas. Et lorsque le problème devient plus complexe, il est fastidieux de revenir au début d'un grand modèle de langage pour tenter de comprendre et l'intégrer. »
C'est le vrai problème que causera l'IA au niveau du métier de développeur. Le métier de développeur n'aura plus aucune saveur. Et petit à petit ce "savoir" se perdra. Tout simplement parce qu'il n'intêressera plus personne. Se "former" pour devenir un bon développeur, puis ensuite ne se servir de se savoir que rarement, et en fait surveiller la sortie de l'IA n'a aucun intêret.

Citation Envoyé par Stéphane le calme Voir le message
En revanche, la décomposition du problème en éléments permet d'utiliser un LLM pour travailler sur de petits aspects, au lieu d'essayer d'utiliser le modèle pour l'ensemble d'un projet, ajoute-t-il. « Ces compétences, qui consistent à décomposer le problème, sont essentielles à l'apprentissage ».
Généralement, c'est le "chef de produit" qui s'occupe soit bien de ce travail (car il a au départ une formation de développeur), soit mal (car il n'a pas eu au départ une formation de développeur). Mais actuellement, c'est le développeur qui implémente une partie d'un morceau du soucis, soit s'arrache les cheveux pour essayer de comprendre ce qu'essayé d'exprimer un "chef de projet" qui ne connait rien au métier de développeur.

Mais c'est déjà une "pratique" qui existe maintenant. Avant, il y avait un développeur qui s'occupait de tout le code. Puis les projet se sont complexifiés, pas forcément par nécessité, mais pour des raisons de "marketing" et "segmentation" de marché. Et le développeur ne s'occupe plus de l'ensemble du projet, ce qui est très néfaste pour son impliquation dans le projet. Avant, il créait quelque chose, et maintenant il doit construire des brique sans vue d'ensemble du projet, il ne sait plus s'approprier le projet, et c'est très frustrant. Et puis surtout, ça ne sert pas à grand chose.

Il n'y a pas si longtemps, une équipe de 3 personnes gérait un projet et sortait le produit en 1 ans. Maintenant, c'est 9 personnes qui s'occupe d'un projet, et le produit prend 3 ans a être au point.

C'est la triple peine, des équipes plus grosses, plus de communication, plus de réunions, et des gens démotivés car il savent plus se sentir responsable des bout de code qu'on leur donne à faire. Et celui qui est le mieux placé pour faire avancer le schilblick, c'est le développeur. Parce qu'on peut décrire ce qu'il y a à faire, (mais c'est souvent incompréhensible pour le développeur qui doit partir à la recherche d'information).

Citation Envoyé par Stéphane le calme Voir le message
Cet exemple a permis à Klopfer de conclure avec confiance que l'informatique n'est pas condamnée à l'heure où l'IA se fraye un chemin dans tous les secteurs d'activité. D'autres experts en informatique conviennent que plus l'IA sera utilisée, plus la nature des emplois changera, et qu'il faudra donc continuer à enseigner aux humains des concepts de base tels que les statistiques et la connaissance du fonctionnement des systèmes.
Vu de cette manière, ça retire tout l'intêret du métier.

Citation Envoyé par Stéphane le calme Voir le message
« Il faut toujours les bases pour être des informaticiens et des ingénieurs logiciels efficaces », a déclaré Beena Ammanath, responsable de l'IA digne de confiance et de la technologie éthique chez Deloitte.
Je le redit, ça n'intéressera plus personne, car ce ne sera plus valorisant pour la personne. Et permettez-moi de rire un bon coups quand j'entend de tel dénomination de fonction: responsable de l'IA digne de confiance et de la technologie éthique. Beaucoup de mots mais se qu'ils signifie reste plus que flou. Déjà parce qu'actuellement, il n'y a aucune IA digne de confiance, et j'aimerai qu'on me dise ce qu'est une technologie "éthique" ? La technologie est ce qu'elle est, c'est ce qu'on en fait qui est éthique ou pas.

Citation Envoyé par Stéphane le calme Voir le message
Malgré toutes les craintes concernant les suppressions d'emplois dues à l'IA, une étude récente du Computer Science and Artificial Intelligence Laboratory (CSAIL) du MIT a révélé que l'automatisation des emplois humains pourrait prendre plus de temps qu'on ne le pensait auparavant. Selon l'étude, seuls 23 % environ des salaires liés aux tâches de vision pourraient être remplacés de manière rentable par l'IA, ce qui indique que le déplacement des emplois dû à l'IA, en particulier dans le domaine de la vision par ordinateur, risque de se produire plus lentement qu'on ne l'avait envisagé au départ.
Bein oui, quand l'IA sera au point, et ne fera plus de bugs, oh pardon, on doit dire "hallucination" dans le jargon de l'IA.

Citation Envoyé par Stéphane le calme Voir le message
Les résultats « suggèrent que nous devrions nous attendre à ce que les effets de l'automatisation de l'IA soient moins importants que les effets d'automatisation/destruction d'emplois déjà observés dans l'économie », indique l'étude. « Il n'est pas certain que l'ajout de l'automatisation par l'IA à ces effets existants augmentera de manière substantielle la destruction globale d'emplois. Bien qu'il soit probable que des emplois soient perdus, « nous pensons également qu'une fraction substantielle de l'automatisation des tâches par l'IA se produira dans des domaines où l'automatisation traditionnelle est en cours », observe l'étude du CSAIL.


Comment l'enseignement de l'informatique va évoluer pour aborder l'IA

L'accent mis sur l'intégration de l'IA dans la plupart des secteurs d'activité va également modifier la manière dont l'informatique sera enseignée, offrant des opportunités « tout à fait considérables », selon Risto Miikkulainen, professeur d'informatique à l'université du Texas à Austin et vice-président associé de l'intelligence évolutive chez Cognizant AI Labs.

Avec l'arrivée d'outils tels que le chatbot Copilot de Microsoft, par exemple, certains pourraient se demander pourquoi ils devraient se donner la peine d'apprendre à coder. Miikkulainen pense que les étudiants utilisent Copilot et d'autres chatbots principalement « comme un tuteur pour les devoirs de programmation » afin de suggérer des modifications.

« Tout d'un coup, l'enseignement de la programmation devient beaucoup plus vivant », explique Miikkulainen.

Reid Gordon Simmons, professeur de recherche à l'Institut de robotique de l'université Carnegie Mellon, ajoute que, de la même manière que les compilateurs traduisent le code source d'un langage de programmation en code machine, ce qui évite aux ingénieurs en informatique d'avoir à comprendre les assembleurs, « l'utilisation de l'IA et de la ML rendra de moins en moins nécessaire la compréhension des détails du codage ».

Cependant, il est toujours important d'apprendre aux gens à coder, tout simplement parce qu'une partie du travail d'informaticien consiste à comprendre les processus, a déclaré Simmons. « Mon analogie est d'enseigner l'arithmétique à des enfants de sept ans. Lorsque vous arrivez au collège, plus personne ne fait d'arithmétique à la main ; vous utilisez des calculatrices ».
Faudrait savoir, l'IA va tout pondre via un prompt du marketing ou bien il faudra toujours savoir développer ?

Citation Envoyé par Stéphane le calme Voir le message
Même si les calculatrices peuvent faire le travail à votre place, vous devez toujours comprendre les concepts, a-t-il ajouté. « De même, les informaticiens devront comprendre les principes fondamentaux de la programmation afin d'être efficaces dans leur travail, mais tout comme avec les calculatrices, ils n'auront pas à coder beaucoup ».
Et si on demandait à un physicien nucléaire de faire 10 ans d'étude pour connaitre le métier, puis qu'il ne peut que vérifier si l'IA ne se trompe pas ? On ira droit dans le mur, car petit à petit, on fera de plus en plus confiance à l'IA, et quand surviendra un problème à une centrale nucléaire que l'IA ne sait réssoudre, le gars dont on a mit les compétance en veilleuse pendant 20 ans, il ne va forcément bien réagir, ni rapidement, parce le savoir se sera perdu au fil du temps.

C'est finalement comme une tesla AutoPilot FSD qui conduit toute seule (enfin, l'année prochaine, comme c'est promis toutes les années), mais dont l e conducteur doit rester à l'éveil, pour "reprendre la main" en cas de soucis. Reprendre la main en cas de soucis prend plus de temps que si on est concentré sur la conduite au moment de prendre une décision.

Citation Envoyé par Stéphane le calme Voir le message
L'IA nécessite l'enseignement de disciplines ou d'aspects entièrement nouveaux de l'informatique, tels que l'IA responsable et la manière d'empêcher l'utilisation abusive de l'IA, a déclaré Miikkulainen. « Il y aura tellement de gens qui utiliseront [les systèmes d'IA] sans comprendre ce qu'il y a sous le capot ».
Ah oui bien sur, l'IA fera tout, mais si ça foire, ce sera pas à cause de l'IA, mais de son utilisateur. Et comment définir ce qu'est une utilisation abusive de l'IA ? Parce que ça m'étonnerait que la réponse soit la même en chine qu'usa on europe ou

Citation Envoyé par Stéphane le calme Voir le message
De nouvelles filières universitaires apparaîtront également dans des domaines tels que la science des données, l'apprentissage automatique, l'expérience utilisateur et l'ingénierie mobile, ainsi que dans des branches spécifiques de l'IA, telles que l'IA générative, les LLM et la vision par ordinateur, a déclaré Ammanath de Deloitte. Cela permettra non seulement de préparer les étudiants aux emplois du futur proche et de les rendre plus commercialisables, mais aussi de maintenir la compétitivité des États-Unis par rapport aux autres pays dans la course mondiale à l'armement en matière d'IA.
Bein si c'est ça le futur, je suis bien content que je ne serait plus là pour le voir. Puisse qu'on parle d'éthique un peut plus haut, si on utilisait l'IA pour libérer l"homme de certaines tâches, et qu'on les laissent s'épanouir sur des choses qu'ils aiment vraiment ? Non, bien évidemment la course à la sacro-sainte "productivité" qui ne profite qu'a une élite bien installée, ce n'est pas l'idée, suis-je bête.

Citation Envoyé par Stéphane le calme Voir le message


Les éducateurs face aux hallucinations des LLM : enseigner à être sceptique dans un monde de textes générés par l'IA

Les éducateurs sont prudents, compte tenu de la tendance à l'hallucination du LLM. « Nous devons apprendre aux étudiants à être sceptiques à l'égard des résultats et à s'approprier la vérification et la validation de ces derniers », explique Jeanna Matthews, professeur d'informatique à l'université Clarkson de Potsdam, dans l'État de New York. .

Il ajoute que l'IA générative « peut court-circuiter le processus d'apprentissage des étudiants qui s'y fient trop ». Chang reconnaît que cette dépendance excessive peut être un piège et conseille à ses camarades étudiants d'explorer eux-mêmes les solutions possibles aux problèmes afin de ne pas perdre cette pensée critique ou ce processus d'apprentissage efficace. « Nous devrions faire de l'IA un copilote - et non le pilote automatique - de l'apprentissage », déclare-t-il.

ChatGPT a impressionné le monde par la profondeur de ses connaissances et la fluidité de ses réponses, mais un problème a entravé son utilité : Il n'arrête pas d'halluciner. Oui, les grands modèles de langage (LLM) hallucinent, un concept popularisé par les chercheurs en IA de Google en 2018. Dans ce contexte, l'hallucination fait référence à des erreurs dans le texte généré qui sont sémantiquement ou syntaxiquement plausibles, mais qui sont en fait incorrectes ou absurdes. En bref, vous ne pouvez pas faire confiance à ce que la machine vous dit.

C'est pourquoi, même si le Codex d'OpenAI ou le Copilot de Github peuvent écrire du code, un programmeur expérimenté doit toujours examiner le résultat - l'approuver, le corriger ou le rejeter avant de le laisser se glisser dans une base de code où il pourrait faire des ravages. Les enseignants du secondaire apprennent la même chose. Un rapport de lecture ou un essai historique rédigé par ChatGPT peut être facile à lire, mais peut facilement contenir des « faits » erronés que l'élève était trop paresseux pour déceler.

Les hallucinations constituent un problème sérieux. Bill Gates a imaginé que ChatGPT ou d'autres modèles linguistiques de grande taille pourraient un jour fournir des conseils médicaux aux personnes qui n'ont pas accès à un médecin. Mais on ne peut pas se fier aux conseils d'une machine sujette aux hallucinations.
Mais que tout cela est beau. On va former des chirurgiens qui ne fera que 3 opérations dans leur vie ? Vous croyez vraiment que ça va intéresser quelqu'un ? Non, on jetera sur la personne dans une benne, et vive le soleil vert (les connaisseurs comprendront)

Conclusion

Citation Envoyé par Stéphane le calme Voir le message
L’expérience de Klopfer au MIT offre des leçons précieuses pour l’intégration de l’IA dans l’éducation. Bien que l’IA puisse accélérer la résolution de problèmes, elle ne doit pas remplacer les méthodes d’apprentissage qui encouragent la compréhension et la rétention à long terme. Les éducateurs doivent trouver un équilibre pour tirer le meilleur parti des technologies avancées tout en assurant un apprentissage efficace et durable.

Quelles sont vos pensées sur l’utilisation de l’IA dans l’éducation ? Pensez-vous que les outils d’IA devraient être intégrés davantage dans les programmes scolaires, ou y a-t-il des risques à considérer ? Partagez vos opinions dans les commentaires ci-dessous !

Sources : MIT Scheller Teacher Education Program, Au-delà de l'exposition à l'IA : quelles sont les tâches qu'il est rentable d'automatiser grâce à la vision par ordinateur ?, ACM

Et vous ?

Quels sont, selon vous, les avantages et les inconvénients de l’utilisation de l’IA comme outil d’apprentissage pour les programmeurs ?
Pensez-vous que l’IA pourrait remplacer les méthodes d’enseignement traditionnelles, ou devrait-elle être utilisée en complément ? Pourquoi ?
Avez-vous déjà utilisé des outils d’IA pour apprendre à programmer ? Si oui, comment cela a-t-il influencé votre apprentissage ?
Comment les éducateurs peuvent-ils équilibrer l’utilisation de l’IA avec des méthodes d’apprentissage plus traditionnelles pour garantir une compréhension approfondie des concepts ?
Quels sont les risques potentiels de dépendre trop fortement de l’IA pour l’éducation, et comment pouvons-nous les atténuer ?
Pensez-vous que l’IA pourrait aider à personnaliser l’apprentissage en fonction des besoins individuels des étudiants ? Si oui, comment ?
Comment voyez-vous l’avenir de l’éducation en informatique avec l’intégration croissante de l’IA ?
[/QUOTE]

Il y a 2 possibilité. Soit l'IA remplace l'fomme et bienvenu dans le monde "d'Idiocratie", Soit l'IA telle que réveé par certains ne sera pas là avant des dizaine d'année si pas des milliers. Sans compter que tout se ressemblera, l'IA n'inventant rien.
3  0 
Avatar de Gluups
Membre émérite https://www.developpez.com
Le 12/08/2024 à 23:42
C'est quoi, l'idée, exactement ?

On nous annonce qu'on a besoin de nous faire augmenter le prix de l'énergie (vous savez, ce truc accessoire qui a suscité la création du mouvement des Gilets Jaunes), dans le seul but de créer du chômage.

Une chose à préciiser : c'est urgent ?

Non parce que comme pain sur la planche nous avons encore d'autres trucs complètement accessoires à gérer, en France en tout cas, comme mettre sur pied un gouvernement, s'assurer qu'il soit crédible et pas seulement auprès des gros investisseurs, vaguement aligner quelques têtes dans la perspective de répondre au défi consécutif à la présence de Macron au pouvoir ...

Bon alors je disais, faire augmenter le coût de l'énergie pour créer du chômage, c'est urgent ?

Si nous nous occupons de la dette avant nous ne nous en remettrons pas ?
2  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 02/09/2024 à 15:45
Elon Musk, PDG du constructeur automobile Tesla, s'attend à ce que l'IA surpasse l'intelligence humaine d'ici la fin de l'année 2025
Si c'est comme pour son FSD...
2  0 
Avatar de OuftiBoy
Membre éclairé https://www.developpez.com
Le 02/09/2024 à 17:30
Citation Envoyé par Jon Shannow Voir le message
Si c'est comme pour son FSD...
Ce serait chouette que plusieurs personnes s'en rendent compte, ça nous éviterait 25 news par jour, l'une disant que l'AGI c'est pour demain, et l'autre disant qu'il faudra des décennies ou même que c'est carrément impossible.

On pourrait débattre sur des sujet plus important que ce brol.

BàV, et Peace & Love.
2  0 
Avatar de Fluxgraveon
Membre régulier https://www.developpez.com
Le 10/09/2024 à 9:49
Qu'est devenu l'homme de Neandertal quand l'homme de Cro-Magnon est apparu ?
Il s'est "fondu" dedans.
Tiens cela me rappelle "le grand remplacement", théorie complotiste d'extrême droite. Et si c'était vrai ?
Alors ce n'est plus un problème : ce qui disparaît, disparaît.
Au fait, un complot, comme une conspiration, n'est pas une théorie : i'a ou i'a pas
Comment une IA pourrait avoir un but (merci de développer, ça m'intéresse énormément) ?
2  0 
Avatar de OuftiBoy
Membre éclairé https://www.developpez.com
Le 11/09/2024 à 20:31
Citation Envoyé par Artemus24 Voir le message
Ce que tu décris de la révolution industriel est une amélioration des conditions de travail de l'être humain. La grande différence est que l'être humain deviendra obsolète car remplacé par un robot ou une IA, qui fera mieux, travaillera tout le temps, coutera moins cher et surtout ne se mettra pas en grève pour des revendications à troubler la bonne marche d'une entreprise.
C'est exactement le risque que je décrit.

Citation Envoyé par Artemus24 Voir le message
Cette perte de savoir se fait depuis l'orgine de l'homme. Une ancienne technique est remplacée par une nouvelle, moins contraignante en donnant plus d'avantage, voire même moins couteuse. On nomme cela le progrès et quel est l'intérêt d'y revenir puisqu'on sait faire mieux ?
Parce que je trouve stupide de se passer de ce qui été inventé/trouvé par nos ancêtres. Il y a des constructions antiques qui sont retrouvées et que des Architectes avec toutes les machines et les ordi qu'on a, disent qu'on ne serait plus capable de faire maintenant.

Un autre exemple plus simple, le boulier compteur. C'est l'outil idéal pour enseigner les mathématiques au enfants quant ils commence leur apprentissage. Mais on ne s'en sert plus.

Citation Envoyé par Artemus24 Voir le message
Le gros problème, que tu ne soulèves pas, est la dépendance de l'homme à ses machines. Que va-t-il faire si elles viennent à tomber en panne, et si l'homme ne sait plus les réparer ? Plus on va se reposer sur ses machines et plus il y a un danger pour l'avenir de l'homme.
Oui exactement, plus on utilise des choses plus intelligentes, moins on le devient. On va me dire que je suis un vieux Dinosaure, mais a force d'avoir des langages de plus en plus facile à "utiliser", on en oublie les bases. Je connais peut de développeur qui savent encore faire de l'assembleur. On me dira que ça ne sert à rien. Mais au contraire, cela est indispensable pour comprendre pleins de choses.

Citation Envoyé par Artemus24 Voir le message
Va-t-on vers une société dystopique à la Orwell (1984 de George Orwell) ou à la Huxley (Le Meilleur des mondes de Aldous Huxley) ? Ce qui est certain, notre mode de vie va considérablement changer, et il y aura nécessairement des laissés-pour-compte.
Je vois que tu as les mêmes références que moi. Ce sont 2 vues qui sont opposées au départ, mais qui finissent mal toutes les deux... Et pour ma part, 1984, on y est déjà depuis des années.

Citation Envoyé par Artemus24 Voir le message
Une chose certaine est que le QI de l'homme va tôt ou tard attendre un maximum et ne pourra plus évoluer. Se faire aider par nos machines, pourquoi pas, mais nous ne devons pas jouer aux apprenties sorciers er perdre le contrôle. Ou encore penser que nos machines pourront toujours résoudre nos problèmes que nous produisont car nous nous comportons comme des êtres irresposales.
Non seulement il va plafonner (même le QI ne veut pas dire grand choses), on peut être à la très intelligent mais très con, ou être peu instruit, mais être malin. Il ne va pas seulement plafonner, il va régrèsser. Un film à voir, "Idiocratie". On est en pleins dedans.

Citation Envoyé par Artemus24 Voir le message
Le gros problème de l'avenir de nos sociétés, est de trouver une stabilité que ce soit dans la préservation de nos ressources (on a qu'une seule planète), dans l'accumulation du savoir mais surtout dans celle du bien être humain (et des animaux aussi). Arrêtons de croire que cette frénésie du progrès va tout résoudre. Nous sommes des êtres irresponsables ou seul la violence est la règle. Il faudrait mettre enfin un peu d'intelligence dans ce que nous faisons, et là, c'est pas gagné.
C'est même perdu d'avance. Et oui, le "progrès" ne vas pas nous sauver, et il est donc important de revenir en arrière, et de ne pas oublié des choses élémentaires.

Citation Envoyé par Artemus24 Voir le message
Il n'y a rien de politique, juste une provocation de ma part pour vous faire réagir sur des similitudes entre ce qui se passe actuellement dans nos sociétés et l'avenir radieux que nous propose des utopistes irresposables.
Merci, mais je sais réfléchir par moi-même et je vois bien que l'on ne vas pas dans la bonne direction...

Citation Envoyé par Artemus24 Voir le message
Et donc, cela vous empêches de réfléchir par vous même ? Vous préférez être un mouton et suivre le troupeau. Tant mieux pour vous, ou plutôt tant pis si d'autres vont réflechir à votre place et faire des choix que vous allez regrêter par la suite.
Je pense avoir exprimer exactement le contraitre.

Citation Envoyé par Artemus24 Voir le message
Cela se nomme une "révolution", ou si vous préférez un tour pour rien et on recommence là où tout a débuté. Mais comme l'homme n'a pas trop de mémoire, on va recommencer à faire les mêmes erreurs jusqu'à ce que nous ne pouvons pas faire autrement que de prendre enfin un autre chemin.

Le contrôle sur qui ? Sur lui-même ? Cela se nomme de la politique et l'on voit bien le désastre que cela occasionne en ce moment.
Les forts imposent aux faibles les choix qui ne font que les avantager.
Le danger est ce déséquilibre permanent de nos sociétés jusqu'au jour où on aurra franchit le point de non retour.
Le point de non retour a déjà été dépassé depuis des années.

Citation Envoyé par Artemus24 Voir le message
Pas à l'âge de pierre mais dans une société de servitude, en prenant par la force ce que l'autre possède ou a su préserver jusqu'à présent. Il n'y a pas plusieurs choix qui se proposent à nous. La seul et unique voie est de trouver la stabilité, le fameux savoir vivre ensemble, si cela est encore possible.
Ah, le fameux "vivre ensemble"... C'est une bien belle idée, mais malheureusement, ce n'est qu'une utopie. 2 civilisations autant éloignées l'une de l'autre, ça ne peut que mal finir. On peut mélanger de l'huile et de l'eau tant qu'on veux, mais dès qu'on s'arrête de mélanger, les 2 se reséparent. Jamais, dans l'histoire de l'humanité, 2 civilisations opposées n'ont su vivre ensemble. Il y a toujours un gagnant et un perdant. C'est désespérant, mais c'est ainsi. C'est dans la nature humaine.

Citation Envoyé par Artemus24 Voir le message
Parce qu'elles n'ont pas su évoluer vers plus la stabilité et n'ont fait que se reposer sur leur acquis. Autrement dit, après avoir atteint un summum de ce qu'elles ont pu produire, elles ont régréssé.
Et je ne vois pas pourquoi notre "génération" finirait autrement...

Citation Envoyé par Artemus24 Voir le message
Et non, c'est le contraire. Le niveau de la mer était beaucoup plus bas que maintenant. On a retrouvé des cités à plus de 150m sous le niveau actuel, comme en Inde.
Le niveau des océans peuvent monter à un endroit et descendre à un autre. Et on a bien découvert, du côté de Rome, le lit d'un ancien court d'eau, qui permettait de pratiquement rentrer à rome en bateau.

Citation Envoyé par Artemus24 Voir le message
@ OuftiBoy : cela ne sert à rien d'avoir une vision pessimiste. Nous avons des problèmes et nous devons trouver des solutions. Ce n'est pas en ne faisant rien que l'on va les résoudre, ni en faisant n'importe quoi que cela ira mieux. Que ce soit l'IA ou la politique, ce sont des problèmes de société qui concernent tout le monde. Nous ne devons pas capituler, ni laisser d'autres faire les choix à notre place. C'est un peu trop facile de créer des problèmes pour laisser à la postérité le choix (si c'est encore possible) de les résoudre. Plus on attendra et plus il sera difficile de les résoudre.
Je ne suis pas pessimiste, je suis réaliste et lucide. Mais si vous avez des solutions pratiques (et pas utopique) a avancer, merci de les partager avec nous. Je suis impatient de savoir.

Citation Envoyé par Artemus24 Voir le message
@ OuftiBoy : le -1, ce n'est pas moi.
Oh, ce n'est le genre de chose que je regarde. Mais puisque vous en parler, au lieu de mettre des -1 sans expliquer pourquoi, ça n'a pas d'intérêt.

BàV et Peace & Love.
2  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 02/09/2024 à 18:14
a la défense des chroniqueurs, au moins on reste dans la technologie.

car les sites comme frandroid_watt, clubic_hiotte, ces des articles sur Musk ou les voitures électriques avec des commentaires qui tourne en rond sur musk et un fdp, un abrutis, un cons et la voiture electrique c'est de la merde, c'est trop cher....etc.
J'espere ne jamais voir ce genre d'article torchon sur ce site.
et j'apprécie le niveau du débat aussi, ça discute, ça débat, sans jamais d'insulte ou autres.

le site est vaste, vous avez quand même du choix niveau variétés des sujets des articles.

Si j'ai une remarque, les articles mise en avant tourne un peu en rond par contre on a eu la période elun musk, la période bitcoin, la période nfc, maintenant la période IA...
Bon au moins avec l'algo developpez.net on sais toujours quel est la tendance dans la tech.

Pour la news, l'agi arrivera quand ca arrivera, si elle arrive un jours.
il semble peu probable que ca arrive dans moins de 5ans vu l'état des ia actuels et des fuites qu'on a des futurs modèles.

l'agi est elle réalisable techniquement ? c'est encore en débat cette questions, beaucoup d'expert affirme que non et d'autres oui. On comprends pas comment fonctionne un cerveau, les processus pour le développer, alors comment être sur qu'une architecture basé sur des cartes graphiques peut permette d'atteindre l'agi ?
car bon un cerveau humain sa consomme moins de 20watt, donc tant qu'on aura besoin de datacenter qui consomme des milliers de watt pour faire des résultats à la chatgpt, c'est que l'architecture hardware n'est pas bonne.

pourtant un cerveau humain, quand on dort, produit des reves, des images en full résolution full 4k hyper réaliste avec un super moteur physique, j'attends un processeur au silicium ou biologique qui me produira ce genre de rendu pour 20watt.
1  0 
Avatar de floyer
Membre confirmé https://www.developpez.com
Le 11/09/2024 à 6:37
Citation Envoyé par OuftiBoy Voir le message
C'est le vrai problème que causera l'IA au niveau du métier de développeur. Le métier de développeur n'aura plus aucune saveur. Et petit à petit ce "savoir" se perdra. Tout simplement parce qu'il n'intêressera plus personne. Se "former" pour devenir un bon développeur, puis ensuite ne se servir de se savoir que rarement, et en fait surveiller la sortie de l'IA n'a aucun intêret.
Je pense que l’IA aura toujours des difficultés. Ok pour travailler sur un projet neuf, il apportera une expertise sur les API sur lesquels il est entraîné (si doc et exemple disponible bien sûr).

Par contre apprendre les méandre de la documentation d’un projet interne pour s’y interfacer, j’y crois moins. Or dans les grands projets, il y aura beaucoup de cela.

Enfin, cela élèvera le niveau d’intervention plus architecte que développeur. Cela peut convenir à certains et pas à d’autres.

On peut faire dire à l’IA n’importe quoi : [1, 2]: This is a list containing two elements, 1 and 2, separated by a comma. This is the standard way to define a list in OCaml. … or c’est le ; la seule manière de séparer les éléments d’une liste en OCaml. Ok, le langage est moins connu que C et l’IA a moins de matière à apprendre, mais dans le cas d’une API interne, cela sera pire.
1  0 
Avatar de OuftiBoy
Membre éclairé https://www.developpez.com
Le 11/09/2024 à 9:12


Citation Envoyé par Artemus24 Voir le message
Salut à tous.
Quel est le but de l'IA ?
Faire mieux, plus rapidement et moins cher. N'est-ce pas le but économique de toute entreprise !
Tout ce qui vient entraver ce but sera obsolète !
C'est effectivement le but, on pourrait faire le parrallèle avec la 'robotisation' des chaîne de production dans les années 70-80, mais il y a une énorme différence par rapport au changement qui en a découlé. (j'y revient après).

Citation Envoyé par Artemus24 Voir le message
Et quand est-il de l'aspect sociologique ? Je veux dire où va se situer l'homme dans tout ça ?
Ne serait-il pas la grande inconnue que l'IA ne sait pas résoudre ?
L'homme ? Je ne pense pas que ceux d'en haut se préoccupe de ceux d'en bas. ça n' jamais été le cas dans l'histoire, et ça ne vas pas changer de si tôt.

Citation Envoyé par Artemus24 Voir le message
Qu'est devenu l'homme de Neandertal quand l'homme de Cro-Magnon est apparu ?
Que deviendra l'homo sapiens (l'homme moderne) quand l'IA apparaitra ?
Je ne suis pas historien, et surement pas spécialiste en ce domaine, mais il n'y a que 2 réponses:
- Soit il a été balayé par l'homo sapiens,
- Soit il s'est "fondu" dedans,
Mais c'est sûrement un mélange des deux...

Mais là ou je voulais en venir, c'est que la révolution industriel, la robotisation, à permis à une floppée de personnes (et à une majorité), de ne plus devoir faire toute une sorte de travaux pénibles.

- Ne plus avoir a descendre dans une mine pour aller y perdre ces poumons,
- Ne plus devoir se casser le dos a porter des chargent très lourdes,
- Ne plus devoir travailler comme un força pour labourer un champ,
- Ne plus devoir faire et refaire le même "mouvement" ou la même chose durant toute ça vie.
- ...

Dans le cas de la révolution industriel, elle a "profité" à l'homme, même si tous n'en n'ont pas profité de la même manière.

Dans la "révolution de l'IA", il y aura un changement, mais vert le bas plutôt que vers le haut, pour ce qui concerne l'homme. Si l'IA remplace tout (ce qui n'arrivera pas avant longtemps), on lui demandera de moins en moins (a l'homme) de "penser" et petit à petit tout un "savoir" risque de disparaître. Plus besoin d'ingénieurs (L'IA pondra les plans d'un pont, d'un immeuble), plus besoin de développeurs (l'IA fera le taf via un prompt), plus besoin de chirurgiens, etc. Bref, on peut multiplier les exemples qui iront dans ce sens. Et on se retrouvera dans l'idiocratice (voir le film du même non). Et le monde régressera, l'humain ne s'interessera plus a cultiver leur savoir, car cela n'aura plus d'intérêt, et au final, c'est toute la société qui fera un retour en arrière. Il 'y aura plus personne pour "innover", "bousculer les idée reçues", juste des plantes dans un transat autours d'une piscine au départ, puis ça finira en dictature (car l'homme n'aura plus de valeur, donc plus nécessaire, etc)

Citation Envoyé par Artemus24 Voir le message
Tiens cela me rappelle "le grand remplacement", théorie complotiste d'extrême droite.
Et si c'était vrai ?
Je ne veux pas rentrer dans un débat "politique" de bas niveau, surtout comme vous abordez le sujet, qui est assez dérangeant, en éludant un sujet avant même d'en discuter, en faisant un lien direct entre "grand remplacement" et "théorie complotiste" et forcément "d'extrème droite." C'est extrêmement récucteur et c'est des propos qui on infusé lentement dans la majorité d'une partie de la population, car on est matraqué d'idées (je dirais même d'idéologie) via des "média" et autre "artistes", tous du même bord, conduisant à une pensée unique et balayant d'un revert de la main dédaigneux, tout discours contradictoire.

BàV.
et Peace & Love.
1  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 11/09/2024 à 11:38
Citation Envoyé par OuftiBoy Voir le message
Et le monde régressera, l'humain ne s'interessera plus a cultiver leur savoir, car cela n'aura plus d'intérêt, et au final, c'est toute la société qui fera un retour en arrière. Il 'y aura plus personne pour "innover", "bousculer les idée reçues", juste des plantes dans un transat autours d'une piscine au départ, puis ça finira en dictature (car l'homme n'aura plus de valeur, donc plus nécessaire, etc)
Et pour moi c'est là que le cycle se relance,
Que se passe-t-il quand les choses dysfonctionnent trop pour qu'elles deviennent viables?
1. L'humain doit reprendre le contrôle pour avoir des voitures qui roulent, des ordinateurs qui tournent, une tondeuse qui tond etc.
2. L'humain abandonne ces besoins et revient à l'âge de pierre.

Perso : je crois plus dans le 1, nous aimons trop notre confort pour qu'il n'y ai pas un petit génie qui refait un truc qui remplit son besoin. Truc qui va intéressé ses voisins qui devront apprendre à le faire aussi etc.
Et pour moi l'âge de pierre est surtout notre vision actuelle, ce passage sera peut être la révolution vers un système plus censé que le capitalisme actuel.
1  0