Vulnérabilités des chatbots IA : Grok d'Elon Musk obtient la pire note en matière de sécurité parmi les LLM les plus populaires

Selon les tests d'Adversa AI. Llama de Facebook fait mieux que ChatGPT

Elon Musk travaillerait au lancement d'une startup d'IA pour faire concurrence à OpenAI et son ChatGPT,
le milliardaire chercherait à lever des fonds auprès d'investisseurs de SpaceX et Tesla

Le milliardaire Elon Musk travaillerait au lancement d'une startup d'intelligence artificielle qui rivalisera avec OpenAI, le fabricant de ChatGPT, a rapporté vendredi le Financial Times citant des personnes familières avec ses plans. Le propriétaire de Twitter, Musk, rassemble une équipe de chercheurs et d'ingénieurs en IA, selon le rapport du FT, et est également en pourparlers avec certains investisseurs de SpaceX et Tesla Inc pour investir dans sa nouvelle entreprise.

L'entrepreneur technologique Elon Musk développerait des plans pour créer une startup d'intelligence artificielle (IA) pour concurrencer le fabricant de ChatGPT OpenAI, l'une des sociétés d'IA générative les plus populaires qu'il a cofondée en 2015.

La révélation est intervenue après que des informations ont fait surface selon lesquelles Musk est en train de constituer une équipe de chercheurs et d'ingénieurs en intelligence artificielle, selon le Financial Times. Alors que Musk a quitté le conseil d'administration d'OpenAI en 2018, le lancement de la nouvelle startup de l'IA le placera parmi d'autres géants de la technologie, tels que Google et Microsoft, pour construire une IA de nouvelle génération.

Le rapport suggère que Musk est en pourparlers avec les investisseurs existants de SpaceX et de Tesla concernant les investissements dans la prochaine entreprise d'IA. « Un groupe de personnes y investit... c'est réel et ils en sont ravis », a ajouté la source de FT.

Une société dédiée à l'intelligence artificielle créée en mars

Elon Musk a créé une nouvelle société dédiée à l'intelligence artificielle - et elle s'appelle X.AI, comme l'a rapporté pour la première fois le Wall Street Journal. La société, qui, selon un dossier du Nevada, a été constituée le mois dernier, a actuellement Musk comme directeur et Jared Birchall, le directeur du family office de Musk, répertorié comme son secrétaire. Le dossier indique que Musk a constitué l'entreprise le 9 mars 2023.

Des rumeurs selon lesquelles Musk créerait une entreprise d'IA circulent depuis des jours. Un rapport de Business Insider a révélé que Musk avait acheté des milliers d'unités de traitement graphique (GPU) pour alimenter un prochain produit d'IA générative. Deux sources anonymes proches de l'entreprise ont révélé au quotidien que le PDG de Twitter a récemment acheté près de 10 000 unités de traitement graphique (GPU) à utiliser sur la plateforme.

En règle générale, les GPU fonctionnent sur des modèles d'IA à grande échelle en raison de la puissance de calcul massive requise par la technologie. Cela fait suite à un tweet de Musk du 18 mars, dans lequel il a déclaré que la société utiliserait l'IA pour « détecter et mettre en évidence la manipulation de l'opinion publique » sur Twitter.

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">In the months ahead, we will use AI to detect & highlight manipulation of public opinion on this platform.<br><br>Let’s see what the psy ops cat drags in …</p>— Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1636898888287236099?ref_src=twsrc%5Etfw">March 18, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Les sources anonymes auraient estimé que le projet n'en était qu'à ses débuts, mais l'achat d'une telle quantité de GPU montre que Musk y est « engagé ». L'une des sources a déclaré que le projet fonctionne avec un grand modèle de langage. Cependant, les sources ont également déclaré que le rôle précis de l'IA générative sur Twitter n'est pas clair.

De plus, Twitter a récemment acquis de nouveaux talents avec une vaste expérience dans le domaine de l'IA. En mars, les ingénieurs Igor Babuschkin et Manuel Kroiss ont rejoint l'équipe de Musk après avoir travaillé avec DeepMind, une filiale de recherche en IA d'Alphabet, la société mère de Google.

Ces développements surviennent quelques semaines seulement après que Musk a signé une lettre ouverte, avec des milliers d'autres chercheurs dans le domaine de la technologie, pour demander de suspendre temporairement le développement de l'IA en raison du risque pour l'humanité.

Musk a également lancé en 2017 un avertissement aux régulateurs lors d'un événement avec l'Association nationale des gouverneurs des États-Unis selon lequel la recherche sur l'IA doit être réglementée « avant qu'il ne soit trop tard ».

Le Financial Times a également rapporté que Musk prévoyait de créer une entreprise d'IA pour concurrencer l'OpenAI soutenu par Microsoft. Il n'est pas précisé s'il s'agit de X.AI ou d'une autre société. Musk aurait même demandé des fonds aux investisseurs de SpaceX et de Tesla pour démarrer l'entreprise.

Lors d'une interview sur Twitter Spaces avec BBC, lorsque Musk a été interrogé sur tous les GPU qu'il a achetés, le milliardaire n'a fait aucune mention de son intention de créer une société d'IA, déclarant « il semble que tout le monde achète des GPU à ce stade ». « Twitter et Tesla achètent certainement des GPU », a ajouté Elon Musk. Le prétendu nom X.AI correspond à l'image de marque du nom X Corp. qu'il a depuis attribué à Twitter, ainsi qu'à l'étiquette «X» qu'il a appliquée à sa vision d'une «application tout».


Pour mémoire, Twitter, Inc. s'appelle désormais X Corp., selon un dossier déposé par un tribunal de Californie. Étant donné que Twitter n'est plus une entreprise publique, elle n'a pas à signaler les mises à jour telles que les changements de nom à la SEC. Quoiqu'il en soit, le nouveau nom a été repéré dans un document du 4 avril lié au procès de la militante d'extrême droite Laura Loomer contre Twitter et Facebook. « Twitter, Inc. a été fusionné avec X Corp. et n'existe plus », indique le document.

Des difficultés entre Elon Musk et OpenAI

Dans une annonce en 2018 après le départ d'Elon Musk, OpenAI a déclaré que Musk continuerait à financer l'organisation, mais Musk ne l'a pas fait, selon des personnes proches du dossier. Il avait promis de donner environ 1 milliard de dollars sur une période de plusieurs années (il avait déjà contribué 100 millions de dollars), mais ses paiements ont cessé après son départ, ont déclaré des personnes proches du dossier. Cela a laissé l'organisation à but non lucratif dans l'impossibilité de payer les frais astronomiques associés à la formation de modèles d'IA sur des superordinateurs.

Cet automne-là, il est devenu encore plus évident pour certaines personnes d'OpenAI que les coûts pour devenir une entreprise d'IA de pointe allaient augmenter. Le « transformateur » de Google Brain avait ouvert une nouvelle frontière, où l'IA pouvait s'améliorer à l'infini. Mais cela signifiait lui fournir des données sans fin pour le former (une entreprise coûteuse).

OpenAI a pris la grande décision de pivoter vers ces modèles de transformateurs.

Le 11 mars 2019, OpenAI a annoncé qu'elle créait une entité à but lucratif afin de pouvoir collecter suffisamment d'argent pour payer la puissance de calcul nécessaire pour poursuivre les modèles d'IA les plus ambitieux. « Nous voulons augmenter notre capacité à lever des capitaux tout en servant notre mission, et aucune structure juridique préexistante que nous connaissons ne trouve le bon équilibre », écrivait la société à l'époque. OpenAI a déclaré qu'il plafonnait les bénéfices pour les investisseurs, tout excédent revenant à l'organisation à but non lucratif d'origine.

Moins de six mois plus tard, OpenAI a pris 1 milliard de dollars à Microsoft, qui pourrait fournir non seulement un financement, mais aussi un savoir-faire en matière d'infrastructure. Ensemble, ils ont construit un superordinateur pour former des modèles massifs qui ont finalement créé ChatGPT et le générateur d'images DALL-E. Le dernier modèle de langage, GPT-4, a 1 000 milliards de paramètres.

Lorsque ChatGPT a été lancé en novembre, OpenAI est instantanément devenu la nouvelle startup technologique la plus en vogue, forçant Google à se démener pour jouer au rattrapage. Musk était furieux, selon des personnes proches du dossier.

En décembre, un mois après le lancement de ChatGPT, Musk a retiré l'accès d'OpenAI au « firehorse » de données de Twitter (un contrat qui a été signé avant que Musk n'acquière Twitter).

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Not surprising, as I just learned that OpenAI had access to Twitter database for training. I put that on pause for now. <br><br>Need to understand more about governance structure & revenue plans going forward.<br><br>OpenAI was started as open-source & non-profit. Neither are still true.</p>— Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1599291104687374338?ref_src=twsrc%5Etfw">December 4, 2022</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Le 17 février, il a tweeté « OpenAI a été créé comme open source (c'est pourquoi je l'ai nommée "Open" AI), une société à but non lucratif pour servir de contrepoids à Google, mais maintenant c'est devenu une source fermée, maximum -société à but lucratif effectivement contrôlée par Microsoft ».

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.<br><br>Not what I intended at all.</p>— Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1626516035863212034?ref_src=twsrc%5Etfw">February 17, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Le 15 mars, il a tweeté : « Je ne comprends toujours pas comment une organisation à but non lucratif à laquelle j'ai fait don d'environ 100 millions de dollars est devenue en quelque sorte une capitalisation boursière de 30 milliards de dollars. Si c'est légal, pourquoi tout le monde ne le fait-il pas ? »

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">I’m still confused as to how a non-profit to which I donated ~$100M somehow became a $30B market cap for-profit. If this is legal, why doesn’t everyone do it?</p>— Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1636047019893481474?ref_src=twsrc%5Etfw">March 15, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Source : Financial Times

Et vous ?

Quelle lecture faites-vous des rapports entre Elon Musk et OpenAI depuis son départ de la société ?
Que pensez-vous de son idée de lancer une startup d'IA pour lui faire concurrence ? Êtes-vous surpris de le voir aller dans ce sens ?
Cela vous semble-t-il contradictoire qu'il soit demandé dans le même temps la suspension du développement de GPT pour une période d'au moins six mois ? Dans quelle mesure ?