L'Inde demande aux entreprises technologiques d'obtenir une autorisation avant de diffuser des outils d'IA "peu fiables",

Le pays durcit ainsi sa position en matière de réglementation de l'IA

Les entreprises d'IA pourraient avoir du mal à pénétrer le marché indien à l'avenir, car le pays a choisi de durcir sa position en matière d'IA. Le gouvernement indien a publié un avis qui informe les entreprises qu'elles doivent obtenir une autorisation avant de rendre publics des produits d'IA qui ne sont pas fiables ou qui sont à l'essai. L'avis précise que ces outils d'IA devraient être étiquetés en raison de la possibilité qu'ils renvoient des réponses erronées aux questions des utilisateurs. Selon les experts, ces nouvelles règles pourraient nuire gravement à l'innovation dans le secteur indien de l'IA et creuser entre l'Inde et les autres pays dans la course mondiale à l'IA.

L'Inde a récemment introduit de nouvelles règles en matière d'IA. Alors que le pays a semblé adopter une approche laxiste ou permissive au départ, les nouvelles règles s'avèrent très strictes et suscitent de nombreuses critiques dans la communauté. Dans un nouvel avis publié récemment, l'Inde demande aux entreprises technologiques d'obtenir son accord avant de rendre publics des outils d'IA qui ne sont pas fiables ou qui sont à l'essai. « Ces règles sont un coup dur pour les entreprises qui voudront publier leurs modèles à l'avenir. Le gouvernement décidera du modèle qui est apte à être publié ou non », a écrit un critique.

L'avis a été publié le 1er mars et indique également que ces systèmes d'IA devront être étiquetés comme susceptibles de fournir des réponses erronées aux questions des utilisateurs. En outre, l'avis indique : « l'utilisation de ces outils, y compris l'IA générative, et leur mise à disposition des utilisateurs sur l'Internet indien doivent se faire avec l'autorisation explicite du gouvernement indien ». Pour finir, le gouvernement indien exige également que les entreprises technologiques s'assurent que leurs services ou produits d'IA ne permettent pas de biais ou de discrimination et ne menacent pas l'intégrité du processus électoral.

These are direct violations of Rule 3(1)(b) of Intermediary Rules (IT rules) of the IT act and violations of several provisions of the Criminal code. @GoogleAI @GoogleIndia @GoI_MeitY https://t.co/9Jk0flkamN

— Rajeev Chandrasekhar 🇮🇳(Modiyude Kutumbam) (@Rajeev_GoI) February 23, 2024

Ce nouvel avis intervient peu après que l'un des principaux ministres indiens a critiqué Google et son système d'IA Gemini pour ses réponses jugées "inexactes" ou partiales, dont l'une affirmait que le Premier ministre indien Narendra Modi avait été qualifié par certains de "fasciste". Google s'est excusé pour les lacunes de Gemini et a déclaré qu'il n'est pas toujours fiable, en particulier pour les sujets d'actualité sociale. Rajeev Chandrasekhar, vice-ministre indien des Technologies de l'information, a répondu à Google en déclarant dans un message : « la sécurité et la confiance sont des obligations légales pour les plateformes ».

Chandrasekhar a ajouté : « l'expression "désolé de ne pas être fiable" n'échappe pas à la loi ». Bien que le ministère admette que l'avis n'est pas juridiquement contraignant, Chandrasekhar a déclaré que "cet avis signale qu'il s'agit de l'avenir de la réglementation". Il a aussi ajouté : « nous le faisons à titre de conseil. Nous le faisons aujourd'hui sous la forme d'un avis vous demandant de vous y conformer ». Dans un autre message publié lundi sur X, Chandrasekhar a expliqué que "les nouvelles règles visaient les plateformes d'IA non testées qui se déploient sur l'Internet indien et qu'il ne s'appliquait pas aux startups d'IA".

Dans son avis, le ministère cite les pouvoirs qui lui sont conférés par la loi sur les technologies de l'information de 2000 et les règles sur les technologies de l'information de 2021. À ce titre, le ministère demande une mise en conformité avec "effet immédiat" et invite les entreprises technologiques à lui soumettre "un rapport sur les mesures prises et leur état d'avancement" dans un délai de 15 jours. Bien sûr, cela ne plaît pas aux critiques. « Il ne peut y avoir de...