La start-up de recherche sur l'IA Anthropic vise à lever jusqu'à 5 milliards de dollars au cours des deux prochaines années pour affronter son rival OpenAI. Un pitch deck pour la collecte de fonds de série C d'Anthropic révèle ces objectifs et d'autres à long terme pour l'entreprise, qui a été fondée en 2020 par d'anciens chercheurs d'OpenAI. Anthropic indique qu'il prévoit de construire un « modèle frontière » (provisoirement appelé "Claude-Next"
10 fois plus outillé que l'IA la plus populaire d'aujourd'hui, mais que cela nécessitera un milliard de dollars de dépenses au cours des 18 prochains mois.En mai 2021, Dario Amodei, ancien vice-président de la recherche chez OpenAI, a cofondé Anthropic avec sa sœur Daniela (également employée d'OpenAI), et a expliqué que l'entreprise se concentrait principalement sur la recherche sur la sécurité de l'IA. Mais même à l'époque, il a dit qu'il pouvait voir de nombreuses opportunités pour son travail de créer de la valeur commerciale. Dario Amodei a emmené un certain nombre d'employés d'OpenAI, dont l'ancien responsable des politiques d'OpenAI, Jack Clark. Amodei s'est séparé d'OpenAI après un désaccord sur la direction de l'entreprise, à savoir l'orientation de plus en plus commerciale de la startup.
Le quotidien The Information a rapporté début mars qu'Anthropic a levé 300 millions de dollars supplémentaires et était désormais valorisée à 4,1 milliards de dollars. Fin 2022, quelques semaines après les débuts grand public de ChatGPT, Anthropic avait déjà récolté entre 300 et 400 millions de dollars auprès de Google. Depuis sa création en janvier 2021, la startup a levé près de 1,5 milliard de dollars.
Cette fois-ci, un quotidien américain a mis la main sur des documents qui laissent entendre qu'OpenAI pourrait bientôt avoir une concurrence sérieuse, et pas seulement de Google. Ces documents, sous la forme d'un pitch deck pour un tour de financement de série C, révèlent que la startup d'intelligence artificielle Anthropic cherche à lever 5 milliards de dollars au cours des deux prochaines années pour affronter le créateur de ChatGPT et accéder à une douzaine d'industries majeures.
Anthropic prévoit de construire un « modèle frontière » au cours des 18 prochains mois appelé « Claude-next » qui serait 10 fois plus puissant que les modèles d'IA actuels et coûterait un milliard de dollars à développer. Le modèle frontière est décrit dans les documents comme un « algorithme de nouvelle génération pour l'autoapprentissage de l'IA », avec des références à la technique de formation à l'IA exclusive de l'entreprise appelée IA constitutionnelle, qui implique à la fois un apprentissage supervisé et une phase d'apprentissage par renforcement. À un niveau élevé, l'IA constitutionnelle cherche à fournir un moyen d'aligner l'IA sur les intentions humaines (permettant aux systèmes de répondre aux questions et d'effectuer des tâches en utilisant un ensemble simple de principes directeurs).
Anthropic estime que son modèle frontière nécessitera de l'ordre de 1025 FLOP, soit plusieurs ordres de grandeur plus grands que même les plus grands modèles actuels. Bien sûr, la façon dont cela se traduit en temps de calcul dépend de la vitesse et de l'échelle du système effectuant le calcul ; Anthropic implique (dans le pitch) qu'il s'appuie sur des clusters avec « des dizaines de milliers de GPU ».
Ce modèle frontière pourrait être utilisé pour créer des assistants virtuels capables de répondre aux e-mails, d'effectuer des recherches et de générer de l'art, des livres et plus encore, dont certains que nous avons déjà aperçus avec GPT-4 et d'autres grands modèles de langage.
« Ces modèles pourraient commencer à automatiser de grandes parties de l'économie », indique le pitch deck. « Nous pensons que les entreprises qui forment les meilleurs modèles 2025/26 seront trop en avance pour que quiconque les rattrape dans les cycles suivants ».
Le modèle frontière est le successeur de Claude, le chatbot d'Anthropic qui peut être chargé d'effectuer une série de tâches, y compris la recherche dans des documents, la synthèse, l'écriture et le codage, et la réponse à des questions sur des sujets particuliers. De cette manière, il est similaire au ChatGPT d'OpenAI. Mais Anthropic fait valoir que Claude est (grâce à l'IA constitutionnelle) « beaucoup moins susceptible de produire des sorties nocives », qu'il est « plus facile à converser avec » et qu'il est « plus orientable ».
Anthropic a commercialisé Claude en mars après une bêta fermée à la fin de l'année dernière, permettant à environ 15 partenaires d'avoir un accès initial. Il compte parmi ses utilisateurs bêta et clients potentiels les industries suivantes (avec l'astérisque indiquant qu'un humain est dans la boucle pour superviser le modèle) :
- résumé et analyse des documents juridiques ;
- dossiers médicaux et analyse des patients ;
- e-mails et chat du service client ;
- modèles de codage pour les consommateurs et B2B ;
- recherche liée à la productivité, édition de documents et génération de contenu ;
- chatbot pour des questions-réponses et des conseils publics ;
- recherche utilisant des réponses en langage naturel ;
- tâches RH telles que les descriptions de poste et l'analyse des entretiens ;
- thérapie et coaching ;
- assistants virtuels ;
- éducation à tous les niveaux.
Anthropic est désormais en concurrence avec OpenAI ainsi qu'avec des startups telles que Cohere et AI21 Labs, qui développent et produisent toutes leurs propres systèmes d'IA générant du texte et, dans certains cas, des images. OpenAI a de loin levé le plus en termes de capital, obtenant récemment 10 milliards de dollars de Microsoft dans le cadre d'un cycle de financement qui a valorisé l'entreprise à 29 milliards de dollars.
« Anthropic s'est fortement concentré sur la recherche pendant la première année et demie de son existence, mais nous avons été convaincus de la nécessité de la commercialisation, à laquelle nous nous sommes pleinement engagés en septembre [2022] », indique le pitch deck. « Nous avons développé une stratégie de mise sur le marché et de spécialisation initiale des produits qui correspond à notre expertise de base, à notre marque et où nous voyons l'adoption se produire au cours des 12 prochains mois ».
Le pitch deck révèle qu'Alameda Research Ventures, la société sœur de FTX, la start-up de cryptomonnaie effondrée de Sam Bankman-Fried, était un « investisseur silencieux » dans Anthropic avec des actions « sans droit de vote ». La société a participé à la série B de 580 millions de dollars d'Anthropic. Anthropic s'attend à ce que les actions d'Alameda soient cédées dans le cadre d'une procédure de faillite dans les prochaines années.
Google fait également partie des investisseurs d'Anthropic, ayant promis 300 millions de dollars à Anthropic pour une participation de 10% dans la startup. Selon les termes de l'accord, qui a été rapporté pour la première fois par le Financial Times, Anthropic a accepté de faire de Google Cloud son « fournisseur de cloud préféré » en plus du fait que les entreprises « co-développent des systèmes informatiques d'IA ».
Parmi les autres bailleurs de fonds d'Anthropic figurent James McClave, le cofondateur de Facebook et d'Asana Dustin Moskovitz, l'ancien PDG de Google Eric Schmidt et l'ingénieur fondateur de Skype Jaan Tallinn.
Open source et IA
Les signes de conquêtes du marché de l'IA ne font aucun doute. Pour l'illustrer, nous pouvons évoquer un article du New York Times qui a rendu compte des mesures agressives de Google et Microsoft pour contrôler l'IA générative depuis qu'OpenAI a lancé ChatGPT en novembre 2022.
Selon l'article, lorsque l'industrie technologique se tourne soudainement vers les nouvelles technologies, la première entreprise à introduire un produit « est le gagnant à long terme simplement parce qu'elle a commencé en premier », a écrit Sam Schillace, un responsable technologique chez Microsoft, dans une note interne obtenue par le quotidien. « Parfois, la différence se mesure en semaines ».
Mais la semaine dernière, les dirigeants de Hugging Face, qui ont organisé un événement de rencontre sur l'IA open source à San Francisco qui s'est rapidement transformé en un moment "Woodstock of AI" de 5 000 personnes, ont tenu à souligner le pouvoir et l'influence de l'IA open source :
« S'il n'y avait pas eu l'article 'Attention Is All You Need', l'article 'The BERT' et l'article 'Latent Diffusion', nous serions peut-être à 20, 30, 40 ou 50 ans de là où nous sommes aujourd'hui en termes de capacités et de possibilités pour l'IA », a déclaré le PDG de Hugging Face, Clément Delangue. « S'il n'y avait pas de bibliothèques ou de langages open source, s'il n'y avait pas de frameworks comme PyTorch, TensorFlow, Keras, Hugging Face, des transformateurs et des diffuseurs, nous n'en serions pas où nous en sommes aujourd'hui ».
Et mars a été un mois particulièrement fort pour l'IA open source, selon Sebastian Raschka, qui, dans un article de blog, a écrit « qu'après des inquiétudes quant au fait que le développement de l'IA tendait vers une source fermée (voir GPT-4), l'open source a eu un second souffle et est à la hausse, ce qui est génial ».
En plus de PyTorch 2.0 et Lightning 2.0, il y avait Lit-LLaMA, une réécriture des grands modèles de langage LLaMA de Meta. Il y avait aussi plusieurs modèles qui découlaient de LLaMA, y compris Alpaca, publié par Stanford, Vicuna, publié par plusieurs universités, et Dolly, publié par Databricks. Tous sont plus petits, moins coûteux et plus flexibles que les LLM Big Tech / Big Lab et évitent le verrouillage du fournisseur.
Pourtant, même les entreprises open source les mieux financées peuvent être vulnérables. Par exemple, Stability AI, qui a lancé Stable Diffusion, est sur un terrain fragile, selon un nouveau rapport de Semafor Tech (qui a déclaré que Stability AI a « brûlé une part importante des 100 millions de dollars qu'elle a levés à la fin de l'année dernière, et deux investisseurs en capital-risque qui ont parlé à Semafor sous le couvert de l'anonymat ont des doutes sur la participation à une levée de fonds qui quadruplerait la valorisation de l'entreprise à 4 milliards de dollars, selon des personnes informées des plans »).
Source : pitch Deck Anthropic
Et vous ?
Aviez-vous déjà entendu parler d'Anthropic ? Quelle lecture faites-vous de ces ambitions ? Êtes-vous surpris de savoir que FTX de SBF est un investisseur silencieux ? IA et open source, compatible ou non selon vous ? Pourquoi ?