Pour Sam Altman, PDG d'OpenAI, la future version de ChatGPT surveillerait en permanence l'écran de votre ordinateur, vos réunions, vos appels, vos e-mails et vos documents

Puis s'occuperait de vos tâches

Sam Altman a prédit un changement majeur dans la manière dont les humains interagiront avec les assistants d’intelligence artificielle (IA) dans les jours à venir. Sam Altman a décrit un système que les utilisateurs contrôleraient en décidant à quelles informations et à quels services il pourrait accéder. Plutôt que de prendre des décisions à la place des utilisateurs, l’assistant IA travaillerait à leurs côtés en gardant le fil de leurs activités et en leur fournissant des suggestions ou en effectuant des tâches.​ Il a déclaré : « Je pense que nous sommes proches d’un monde où un descendant de ChatGPT pourra surveiller votre écran d’ordinateur en permanence, assister à toutes les réunions auxquelles vous participez, enregistrer tous vos appels, tout ce qui offre un contexte parfait de l’ensemble de votre vie, tout ce que vous voyez. »

Samuel Harris Altman est un entrepreneur et investisseur américain qui occupe depuis 2019 le poste de président-directeur général (PDG) de la société d’intelligence artificielle OpenAI. Altman a cofondé OpenAI en 2015 et en est devenu le PDG en 2019, un poste qui a fait de lui une figure de proue de l'essor de l'IA. Il a supervisé le lancement de ChatGPT en novembre 2022. En 2023, il a été évincé par le conseil d’administration de l’organisation pour ne pas avoir fait preuve d’une « franchise constante ». Cette décision a suscité une vive levée de boucliers de la part des employés et des investisseurs, ce qui a conduit à la réintégration d’Altman cinq jours plus tard et à la formation d’un nouveau conseil d’administration.

Récemment, OpenAI a discrètement transformé ChatGPT en un outil qui surveille votre façon de travailler. La société a lancé « Computer History », une fonctionnalité optionnelle de l’application ChatGPT pour Mac qui enregistre vos clics, vos frappes, vos raccourcis clavier et vos changements d’application, puis les rassemble dans une chronologie consultable de votre journée. Cette fonctionnalité est disponible pour les abonnés Pro, Business et Enterprise, mais pas encore au Royaume-Uni, en Suisse ni dans l’Espace économique européen, où OpenAI indique qu’elle sera accessible dans les semaines à venir.

Après cette annonce, Sam Altman a prédit un changement majeur dans la manière dont les humains interagiront avec les assistants d’intelligence artificielle (IA) dans les jours à venir. Dans une récente interview, le PDG d’OpenAI a affirmé qu’une future version de ChatGPT pourrait observer en continu l’écran d’ordinateur d’un utilisateur, ses réunions et ses appels, tout en accédant à des informations provenant de services tels que les e-mails, les documents et Slack.

Interrogé par l’interviewer Cory Levy, fondateur de Z Fellows, sur la date à laquelle un tel système pourrait devenir utile, Sam Altman a avancé un délai de six mois. « D’ici les six prochains mois », a-t-il déclaré. Sam Altman a décrit un système que les utilisateurs contrôleraient en décidant à quelles informations et à quels services il pourrait accéder. Plutôt que de prendre des décisions à la place des utilisateurs, l’assistant IA travaillerait à leurs côtés en gardant le fil de leurs activités et en leur fournissant des suggestions ou en effectuant des tâches.​


Sam Altman affirme que le futur système pourrait surveiller l’ensemble de votre vie, tout ce que vous voyez

Au cours de son entretien, Sam Altman a déclaré que le futur système pourrait surveiller un écran d’ordinateur, assister à des réunions et enregistrer des appels afin de construire un contexte autour du travail d’un utilisateur. Les utilisateurs pourraient le connecter à leurs SMS, e-mails, documents ou à Slack, en fonction des informations qu’ils choisiraient de partager. Il a déclaré : « Je pense que nous sommes proches d’un monde où un descendant de ChatGPT pourra surveiller votre écran d’ordinateur en permanence, assister à toutes les réunions auxquelles vous participez, enregistrer tous vos appels, tout ce qui offre un contexte parfait de l’ensemble de votre vie, tout ce que vous voyez. »

Il a ajouté : « Vous choisissez les informations que vous souhaitez lui fournir, mais vous pouvez le relier à vos SMS, vos e-mails, vos documents, Slack ou tout autre service ; vous disposez alors d’un outil qui ne prend pas de décisions à votre place. Cependant, si vous êtes PDG d’une start-up, il y a toujours plus de tâches à accomplir que vous ne pouvez en gérer et trop de contexte pour que vous puissiez tout suivre. Vous ne pouvez pas lire tous les retours clients chaque jour. »

C'est dans ce contexte précis que l'outil serait utile. Sam Altman affirme : « Et vous pouvez simplement disposer de cet outil qui travaille à vos côtés : tandis que vous rédigez un argumentaire de vente pour un client ou un document stratégique, il vous dira simplement : « Tiens, voici peut-être une autre idée, ou je pense que tu fais une erreur ici. Tu devrais envisager ceci, ou je peux m’en charger pour t’aider. » Je pense qu’il ne nous manque qu’une génération de modèles pour que cela devienne réellement incroyablement utile. Et je pense que cela changera, du moins pour moi, j’espère, ma façon de travailler. »

L’assistant proposé serait donc capable de puiser des informations provenant de multiples sources pendant qu’une personne travaille, en proposant des suggestions adaptées au contexte sans prendre de décisions de manière autonome. Son utilité dépendrait de la manière dont il gère l’accès aux informations personnelles et professionnelles, ainsi que des contrôles dont disposent les utilisateurs sur ce que l’assistant peut voir.

La vision de Sam Altman rappelle Windows Recall de Microsoft

OpenAI a déjà introduit des fonctionnalités permettant à ChatGPT d’utiliser les informations issues de conversations précédentes pour fournir des réponses plus personnalisées. Les utilisateurs peuvent gérer les paramètres de mémoire et d’historique des discussions, notamment en désactivant la sauvegarde des souvenirs.​ Microsoft a développé une approche similaire via Recall, une fonctionnalité Windows destinée aux PC équipés de Copilot+ qui capture des instantanés de l’écran actif d’un utilisateur. Microsoft précise que Recall est une fonctionnalité optionnelle, qui stocke les instantanés localement et les crypte sur le disque dur. Les utilisateurs peuvent suspendre la fonctionnalité, supprimer des instantanés et contrôler le contenu capturé.

Le développement de l’assistance IA au niveau de l’écran a également soulevé des questions de sécurité. Les versions antérieures de Recall ont fait l’objet d’un examen minutieux après que des chercheurs ont identifié des moyens d’accéder aux données d’instantanés stockées dans des versions préliminaires. Microsoft a par la suite ajouté des contrôles et des exigences de sécurité autour de cette fonctionnalité.

​Sam Altman a déclaré que la technologie décrite pourrait s’avérer utile après une nouvelle génération de modèles, en particulier pour les personnes gérant de grandes quantités d’informations et de tâches. Le système qu’il a décrit se distinguerait d’un chatbot classique en conservant un contexte continu sur les activités de l’utilisateur plutôt qu’en se contentant de répondre à des demandes ponctuelles, et reposerait sur le choix des utilisateurs quant aux informations et applications auxquelles l’assistant serait autorisé à accéder.

Toutefois, ce délai de six mois est une estimation d’Altman et non une date de lancement annoncée pour un produit OpenAI spécifique. Au cours de l’entretien, il n’a pas cité de produit, ni confirmé de date de sortie, ni présenté un ensemble définitif de fonctionnalités. Cependant, elle rappelle une déclaration antérieur où Sam Altman est revenu sur la question en lien avec les avancées en matière d’intelligence artificielle et affirme que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.

Et vous ?

Pensez-vous que cette déclaration est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Chronicle, l'agent d'OpenAI qui filme votre écran pour « mieux coder » : OpenAI a réinventé Windows Recall, avec moins de chiffrement et un abonnement à 200 dollars par mois

Après un an de critiques, Microsoft déploie sa fonctionnalité IA Windows Recall. L'entreprise promet une expérience sécurisée pour capturer toute votre activité, mais les experts restent sceptiques

Sam Altman, PDG d'OpenAI et leader dystopique, affirme qu'un « cas d'utilisation sympa » de ChatGPT serait un podcast quotidien par l'IA consacré à vos enfants, ce qui a suscité une vive critique