Bruce Schneier, chercheur renommé en sécurité, a mis en garde contre une nouvelle ère d’espionnage de masse rendue possible par les modèles d’intelligence artificielle. Ces technologies pourraient permettre aux entreprises et aux gouvernements d’automatiser l’analyse et la synthèse de vastes volumes de données de conversation, abaissant fondamentalement les barrières aux activités d’espionnage qui nécessitent actuellement un travail humain.Schneier souligne que le paysage actuel de la surveillance électronique a déjà transformé l’ère moderne, devenant le modèle commercial d’Internet où nos empreintes numériques sont constamment suivies et analysées pour des raisons commerciales. L’espionnage, en revanche, peut porter ce type de surveillance économiquement inspirée à un tout autre niveau. « L’espionnage et la surveillance sont des choses différentes mais liées », écrit Schneier. « Si j’engageais un détective privé pour vous espionner, ce détective pourrait cacher un micro dans votre maison ou votre voiture, mettre votre téléphone sur écoute et écouter ce que vous dites. À la fin, je recevrais un rapport de toutes les conversations que vous avez eues et le contenu de ces conversations. Si j’engageais ce même détective privé pour vous surveiller, je recevrais un rapport différent : où vous êtes allé, avec qui vous avez parlé, ce que vous avez acheté, ce que vous avez fait ».
Selon Schneier, les méthodes d’espionnage actuelles, comme les écoutes téléphoniques ou la surveillance physique, demandent beaucoup de main-d’œuvre, mais l’avènement de l’IA réduit considérablement cette contrainte. Les systèmes d’IA génératifs sont de plus en plus aptes à résumer de longues conversations et à trier d’énormes ensembles de données pour organiser et extraire des informations pertinentes. Cette capacité, soutient-il, rendra non seulement l’espionnage plus accessible, mais aussi plus complet.
« Cet espionnage n’est pas limité aux conversations sur nos téléphones ou ordinateurs », écrit Schneier. « Tout comme les caméras partout ont alimenté la surveillance de masse, les microphones partout alimenteront l’espionnage de masse. Siri, Alexa et ‘Hey, Google’ écoutent déjà en permanence ; les conversations ne sont simplement pas encore enregistrées ».
De l’action à l’intention
Nous avons récemment assisté à un mouvement de la part d’entreprises comme Google et Microsoft pour alimenter ce que les utilisateurs créent à travers des modèles d’IA à des fins d’assistance et d’analyse. Microsoft intègre également des copilotes IA dans Windows, qui nécessitent un traitement cloud à distance pour fonctionner. Cela signifie que les données privées des utilisateurs sont envoyées à un serveur distant où elles sont analysées hors du contrôle de l’utilisateur. Même si elles sont exécutées localement, les modèles d’IA suffisamment avancés comprendront probablement le contenu de votre appareil, y compris le contenu des images.
Microsoft a récemment déclaré : « Bientôt, il y aura un Copilot pour tout le monde et pour tout ce que vous faites ».
Malgré les assurances de confidentialité de ces entreprises, il n’est pas difficile d’imaginer un avenir où des agents d’IA fouillant nos fichiers sensibles au nom de l’assistance commencent à communiquer avec leur serveur pour aider à personnaliser l’expérience publicitaire. Finalement, la pression du gouvernement et des forces de l’ordre dans certaines régions pourrait compromettre la vie privée des utilisateurs à grande échelle. Les journalistes et les travailleurs des droits humains pourraient devenir les premières cibles de cette nouvelle forme de surveillance automatisée.
« Les gouvernements du monde entier utilisent déjà la surveillance de masse ; ils se livreront également à l’espionnage de masse », écrit Schneier. En cours de route, les outils d’IA peuvent être reproduits à grande échelle et sont en constante amélioration, de sorte que les lacunes de la technologie actuelle pourraient bientôt être comblées.
Ce qui est particulièrement pernicieux avec l’espionnage alimenté par l’IA, c’est que les systèmes d’apprentissage profond introduisent la capacité d’analyser l’intention et le contexte des interactions grâce à des techniques comme l’analyse des sentiments. Cela signifie un changement d’observation des actions avec la surveillance numérique traditionnelle à l’interprétation des pensées et des discussions, impactant potentiellement tout, de la vie privée personnelle aux stratégies d’entreprise et gouvernementales en matière de collecte d’informations et de contrôle social.
Une évolution technologique qui a des conséquences
Ci-dessous les mots de Bruce Schneier :
Avant Internet, mettre quelqu’un sous surveillance était coûteux et prenait beaucoup de temps. Vous deviez suivre manuellement quelqu'un, en notant où il allait, à qui il parlait, ce qu'il achetait, ce qu'il faisait et ce qu'il lisait. Ce monde a disparu à jamais. Nos téléphones suivent nos emplacements. Les cartes de crédit suivent nos achats. Les applications suivent à qui nous parlons et les liseuses savent ce que nous lisons. Les ordinateurs collectent des données sur ce que nous faisons sur eux, et comme le stockage et le traitement sont devenus moins chers, ces données sont de plus en plus enregistrées et utilisées. Ce qui était manuel et individuel est devenu volumineux et de masse. La surveillance est devenue le modèle économique d’Internet, et il n’existe aucun moyen raisonnable pour nous d’y renoncer.
L'espionnage est une autre affaire. Il est depuis longtemps possible de mettre sur écoute le téléphone de quelqu’un ou d’installer un dispositif dans sa maison et/ou sa voiture, mais ces choses nécessitent toujours que quelqu’un écoute et donne un sens aux conversations. Oui, les sociétés de logiciels espions comme NSO Group aident le gouvernement à pirater les téléphones des gens, mais quelqu’un doit encore trier toutes les conversations. Et des gouvernements comme la Chine pouvaient censurer les publications sur les réseaux sociaux sur la base de mots ou d’expressions particuliers, mais cela était grossier et facile à contourner. L'espionnage est limité par le besoin de travail humain.
L’IA est sur le point de changer cela. La synthèse est quelque chose qu’un système d’IA générative moderne fait bien. Donnez-lui une réunion d'une heure et il renverra un résumé d'une page de ce qui a été dit. Demandez-lui de rechercher parmi des millions de conversations et de les organiser par sujet, et il le fera. Vous voulez savoir qui parle de quoi ? Cela vous le dira.
Les technologies ne sont pas parfaites ; certaines d'entre elles sont assez primitives. Elles passent à côté de choses importantes. Elles se trompent sur d’autres choses. Mais les humains aussi. Et contrairement aux humains, les outils d’IA peuvent être reproduits par millions et s’améliorer à un rythme étonnant. Ils s’amélioreront l’année prochaine, et encore meilleurs l’année suivante. Nous sommes sur le point d’entrer dans l’ère de l’espionnage de masse.
La surveillance de masse a fondamentalement changé la nature de la surveillance. Parce que toutes les données sont enregistrées, la surveillance de masse permet aux gens d’effectuer une surveillance à rebours dans le temps, et sans même savoir qui spécifiquement vous souhaitez cibler. Dites-moi où était cette personne l'année dernière. Énumérez toutes les berlines rouges qui ont emprunté cette route au cours du mois dernier. Énumérez toutes les personnes qui ont acheté tous les ingrédients pour une bombe à autocuiseur au cours de la dernière année. Retrouvez-moi toutes les paires de téléphones qui se rapprochaient, s'éteignaient, puis se rallumaient une heure plus tard en s'éloignant l'un de l'autre (signe d'une rencontre secrète).
De la même manière, l’espionnage de masse modifiera la nature de l’espionnage. Toutes les données seront enregistrées. Tout cela sera consultable et compréhensible en masse. Dites-moi qui a parlé d'un sujet particulier au cours du mois dernier et comment les discussions sur ce sujet ont évolué. La personne A a fait quelque chose*; vérifiez si quelqu'un leur a dit de le faire. Trouvez tous ceux qui préparent un crime, répandent une rumeur ou envisagent d'assister à une manifestation politique.
Il y a tellement plus. Pour découvrir une structure organisationnelle, recherchez quelqu'un qui donne des instructions similaires à un groupe de personnes, puis toutes les personnes à qui elles ont transmis ces instructions. Pour trouver les confidents des gens, regardez à qui ils confient leurs secrets. Vous pouvez suivre les amitiés et les alliances au fur et à mesure qu’elles se forment et se rompent, dans les moindres détails. Bref, vous pouvez tout savoir de ce dont tout le monde parle.
Conclusion
Dans son éditorial, Schneier s'inquiète de l'effet dissuasif que l'espionnage de masse pourrait avoir sur la société, avertissant que le fait de savoir qu'il est sous surveillance constante peut conduire les individus à modifier leur comportement, à s'autocensurer et à se conformer aux normes perçues, ce qui finirait par étouffer leur liberté d'expression ainsi que leur vie privée.
Alors, que peuvent faire les gens à ce sujet ? Quiconque cherche à se protéger contre ce type d’espionnage de masse devra probablement se tourner vers la réglementation gouvernementale pour le contrôler, car les pressions commerciales l’emportent souvent sur la sécurité technologique et l’éthique. Le projet de déclaration des droits de l’IA du président Biden mentionne la surveillance basée sur l’IA comme une préoccupation. Le projet de loi sur l’IA de l’Union européenne pourrait également aborder cette question de manière indirecte dans une certaine mesure, bien que apparemment pas directement. Ni l’un ni l’autre n’ont actuellement d’effet juridique.
Schneier n'est cependant pas optimiste sur ce front :
Au début de Gmail, Google envisageait d’utiliser le contenu Gmail des utilisateurs pour leur proposer des publicités personnalisées. L’entreprise a arrêté de le faire, presque certainement parce que les données sur les mots clés qu’elle collectait étaient très pauvres et donc inutiles à des fins de marketing. Cela va bientôt changer. Peut-être que Google ne sera pas le premier à espionner les conversations de ses utilisateurs, mais une fois que d’autres se lanceront, ils ne pourront plus résister. Leurs véritables clients, leurs annonceurs, l’exigeront.
Nous pourrions limiter cette capacité. Nous pourrions interdire l’espionnage de masse. Nous pourrions adopter des règles strictes en matière de confidentialité des données. Mais nous n’avons rien fait pour limiter la surveillance de masse. Pourquoi l’espionnage serait-il différent ?
Nous pourrions limiter cette capacité. Nous pourrions interdire l’espionnage de masse. Nous pourrions adopter des règles strictes en matière de confidentialité des données. Mais nous n’avons rien fait pour limiter la surveillance de masse. Pourquoi l’espionnage serait-il différent ?
Et vous ?
Que pensez-vous des propos de Bruce Schneier au sujet de l'implication de l'IA dans l'espionnage de masse ? Les assurances de confidentialité des entreprises sont-elles suffisantes pour protéger contre l’espionnage potentiel de masse par l’IA ? Pourquoi ? Quelles mesures les individus peuvent-ils prendre pour protéger leur vie privée face à l’espionnage alimenté par l’IA ? Comment la société devrait-elle réglementer l’utilisation des données personnelles par les systèmes d’IA ? Quel rôle les gouvernements devraient-ils jouer dans la limitation de l’espionnage de masse par l’IA ? Quelles pourraient être les conséquences à long terme de l’espionnage de masse sur la société ? Comment les journalistes et les défenseurs des droits humains peuvent-ils se protéger contre l’espionnage de masse par l’IA ? « Le fait de savoir qu’ils sont sous surveillance constante change le comportement des gens. Ils se conforment. Ils s’autocensurent, avec les effets dissuasifs que cela entraîne. La surveillance facilite le contrôle social, et l’espionnage ne fera qu’empirer la situation ». Que pensez-vous de ces propos de Bruce Schneier ?Voir aussi :
Le nouveau Microsoft 365 Copilot, alimenté par le GPT-4 d'OpenAI, est disponible pour 30 $ par mois. L'outil sera intégré dans les applications Microsoft 365, y compris Word, Excel et plus encore Bing Chat s'appelle désormais « Microsoft Copilot », un changement de marque qui pourrait prêter à confusion, bien que l'intérêt de Microsoft soit d'unifier 
