Quand arrivera l'intelligence artificielle supérieure AGI~? quand les humains seront totalement remplacés par l'IA~? la fin du monde par l'IA

Une nouvelle enquête dévoile les prédictions de 2 778 chercheurs sur le futur de l'IA. Parmi les sujets abordés : quand arrivera l'intelligence artificielle supérieure AGI, quand les humains seront totalement remplacés par l'IA, la fin du monde par l'IA, et bien d'autres.

Dans le cadre de la plus grande enquête de ce type, 2 778 chercheurs ayant publié dans des revues d'intelligence artificielle (IA) de premier plan ont été interrogé, en leur demandant leurs prévisions sur le rythme des progrès de l'IA ainsi que sur la nature et l'impact des systèmes d'IA avancés. Les prévisions globales indiquent qu'il y a au moins 50 % de chances que les systèmes d'IA atteignent plusieurs étapes importantes d'ici 2028, notamment la construction autonome d'un site de traitement des paiements à partir de zéro, la création d'une chanson indiscernable d'une nouvelle chanson d'un musicien populaire, et le téléchargement autonome et l'ajustement d'un grand modèle de langage.

Si la science se poursuit sans interruption, la probabilité que les machines autonomes surpassent les humains dans toutes les tâches possibles a été estimée à 10 % d'ici à 2027, et à 50 % d'ici à 2047. Cette dernière estimation est en avance de 13 ans sur celle obtenue dans une enquête similaire menée seulement un an plus tôt [Grace et al., 2022]. Toutefois, la probabilité que toutes les professions humaines deviennent entièrement automatisables devrait atteindre 10 % en 2037 et 50 % en 2116 (contre 2164 dans l'enquête de 2022).


La plupart des répondants ont exprimé une grande incertitude quant à la valeur à long terme des progrès de l'IA : Si 68,3 % d'entre eux estiment que les résultats positifs de l'IA surhumaine sont plus probables que les résultats négatifs, 48 % de ces optimistes nets donnent au moins 5 % de chances à des résultats extrêmement négatifs tels que l'extinction de l'humanité, et 59 % des pessimistes nets donnent 5 % ou plus de chances à des résultats extrêmement positifs. Entre 37,8 % et 51,4 % des personnes interrogées ont donné au moins 10 % de chances à l'IA avancée d'aboutir à des résultats aussi mauvais que l'extinction de l'humanité.

Plus de la moitié des personnes interrogées ont estimé qu'il y avait lieu de s'inquiéter "fortement" ou "extrêmement" de six scénarios différents liés à l'IA, notamment la diffusion de fausses informations, le contrôle autoritaire de la population et l'aggravation des inégalités. Les avis divergent sur la question de savoir si une progression plus rapide ou plus lente de l'IA serait meilleure pour l'avenir de l'humanité. Toutefois, un large consensus s'est dégagé sur la nécessité d'accorder une plus grande priorité à la recherche visant à minimiser les risques potentiels liés aux systèmes d'IA.


Résumé des résultats

Les participants ont exprimé un large éventail d'opinions sur presque toutes les questions : certains des plus grands domaines de consensus concernent l'étendue des possibilités d'avenir. Cette incertitude est frappante, mais plusieurs modèles d'opinion sont particulièrement instructifs.

Alors que l'éventail des opinions sur le temps nécessaire pour que les étapes soient réalisables peut être large, l'enquête de cette année a montré un changement général en faveur d'attentes plus précoces. Au cours des quatorze mois qui se sont écoulés depuis la dernière enquête [Grace et al., 2022], un groupe de participants similaire s'attendait à des performances humaines de 13 à 48 ans plus tôt en moyenne (selon la formulation de la question), et 21 des 32 étapes à court terme sont maintenant attendues plus tôt.

Une autre tendance frappante est l'attribution généralisée de crédit à des résultats extrêmement négatifs de l'IA. Comme en 2022, une majorité de participants considère que l'IA a au moins 5 % de chances de provoquer l'extinction de l'humanité ou une déchéance permanente et grave de l'espèce humaine, et ce résultat est cohérent pour quatre questions différentes, deux étant attribuées à chaque participant. Pour ces mêmes questions, entre 38 % et 51 % des participants ont estimé qu'il y avait au moins 10 % de chances que l'IA avancée entraîne ces conséquences.


En général, les opinions sur les conséquences sociales attendues de l'IA avancée sont très variées, et la plupart des participants accordent une certaine importance aux résultats extrêmement bons et extrêmement mauvais. Si les scénarios optimistes reflètent le potentiel de l'IA à révolutionner divers aspects du travail et de la vie, les prédictions pessimistes - en particulier celles qui impliquent des risques d'extinction - rappellent brutalement les enjeux importants liés au développement et au déploiement de l'IA.

Des inquiétudes ont été exprimées sur de nombreux sujets allant au-delà de l'extinction de l'homme : plus de la moitié des onze scénarios d'IA potentiellement préoccupants ont été jugés "substantiellement" ou "extrêmement" préoccupants par plus de la moitié des répondants.

Mises en garde et limites : Les prévisions sont difficiles, même pour les experts

Les prévisions sont difficiles en général, et on a observé que les experts en la matière n'obtenaient pas de bons résultats [Tetlock, 2005, Savage et al., 2021]. L'expertise des participants de cette enquête porte sur l'IA et ils n'ont pas de compétences inhabituelles en matière de prévision en général.

Cette recherche et les enquêtes précédentes montrent que ces experts ne sont pas des prévisionnistes précis pour l'ensemble des questions posées. D'une part, pour de nombreuses questions, différents répondants donnent des réponses très différentes, ce qui limite le nombre d'entre eux qui peuvent être proches de la vérité. Néanmoins, dans d'autres contextes, les moyennes d'un large ensemble de prédictions bruyantes peuvent encore être relativement précises [Surowiecki, 2004], de sorte qu'il reste à savoir dans quelle mesure ces prévisions agrégées sont informatives.

L'observation d'importants effets de cadrage est un autre élément de preuve qui va à l'encontre de l'exactitude des prévisions. Si des changements apparemment insignifiants dans la formulation des questions entraînent des changements importants dans les réponses, cela suggère que même les réponses globales à une question donnée ne constituent pas un guide précis de la réponse. Dans un exemple extrême d'une étude étroitement liée, Karger et al [2023] ont constaté que les diplômés de l'enseignement supérieur donnaient des réponses de près de six ordres de grandeur différents lorsqu'on leur demandait d'estimer l'ampleur des risques existentiels liés à l'IA : lorsqu'on leur donnait des exemples de probabilités d'événements peu probables, les estimations étaient beaucoup plus faibles. Un effet similaire pourrait s'appliquer à une certaine échelle aux participants de cette étude, bien que leur expertise et leur formation quantitative puissent l'atténuer. Les participants qui avaient davantage réfléchi par le passé aux risques de l'IA semblent donner des chiffres plus élevés, ce qui suggère qu'il est peu probable qu'ils donnent des chiffres radicalement inférieurs avec d'autres exemples de risques.


Malgré ces limites, les chercheurs en IA sont bien placés pour contribuer à la précision des hypothèses collectives sur l'avenir. Même si elles ne sont pas fiables, les suppositions éclairées sont ce à quoi on doit se fier, et elles s'appuient sur une expertise dans le domaine concerné. Ces prévisions devraient faire partie d'un ensemble plus large de preuves provenant de sources telles que les tendances du matériel informatique, les progrès des capacités de l'IA, les analyses économiques et les idées des experts en prévision. Toutefois, la familiarité des chercheurs en IA avec la technologie concernée et leur expérience de la dynamique de ses progrès font d'eux les mieux placés pour formuler des hypothèses éclairées et informatives.


Participation

L'enquête a été suivie par 15 % des personnes contactées. Ce chiffre semble se situer dans la fourchette habituelle pour une grande enquête auprès d'experts. D'après une analyse de Hamilton [2003], le taux de réponse médian pour 199 enquêtes était de 26 %, et les listes d'invitation plus importantes ont tendance à produire des taux de réponse plus faibles : les enquêtes envoyées à plus de 20 000 personnes, comme cette enqupete, devraient avoir un taux de réponse de l'ordre de 10 %. Dans les échantillons spécialisés, tels que les scientifiques, les taux de réponse plus faibles sont fréquents en raison des difficultés d'échantillonnage, comme le montre l'enquête Assessing Fundamental Attitudes of Life Scientists as a Basis for Biosecurity Education [2009], qui a obtenu un taux de réponse de 15,7 % dans le cadre d'une enquête menée auprès de spécialistes des sciences de la vie.

Comme pour toute enquête, ces résultats pourraient être faussés par un biais de participation, si les participants avaient des opinions systématiquement différentes de celles des personnes qui ont choisi de ne pas participer. Les enquêteurs ont cherchés à minimiser cet effet en cherchant à maximiser le taux de réponse et en limitant les indices sur le contenu de l'enquête disponibles avant de choisir de participer à l'enquête. Ils ont cherché des preuves d'un biais de réponse significatif au niveau de l'enquête et au niveau des questions, et ils n'en ont pas trouvé.

Source : "Thousands of AI Authors on the Future of AI"

Et vous ?

Pensez-vous que cette enquête est crédible ou pertinente ?
Quelles sont vos prédictions pour le futur de l'AI ?
Quand arrivera l'intelligence artificielle supérieure AGI ? Les humains seront-ils totalement remplacés par l'IA ? La fin du monde pourrait-elle arriver à cause de l'IA ? Croyez-vous au scénario Skynet de Terminator ?

Voir aussi :

« L'AGI est le mensonge de l'année. L'intelligence artificielle générale n'existe pas », selon un critique qui affirme que ce mensonge est raconté pour des raisons financières et politiques

Bill Gates prévient que l'intelligence artificielle est susceptible d'attaquer les humains et ravive les craintes sur une possible future apocalypse résultant de la création de l'IA

2023, l'année de l'IA ? L'année a été marquée par l'émergence de l'IA générative, une explosion des investissements dans le domaine et l'accélération dans les législations