IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La plupart des modèles de fondation ne sont pas conformes à la loi européenne sur l'IA
Selon les chercheurs de l'université Stanford

Le , par Bruno

4PARTAGES

4  0 
Au cours de la dernière décennie, nous avons assisté à une explosion des applications de l'intelligence artificielle. Au cours de cette période, l'intelligence artificielle est passée d'un projet purement académique à une force qui alimente des actions dans une myriade d'industries et qui affecte la vie de millions de personnes chaque jour. Les chercheurs du Centre de recherche sur les modèles de fondation de l’université Stanford examinent la conformité des fournisseurs de modèles de fondation, comme ChatGPT, au projet de loi de l’UE sur l’IA, qui vise à réguler l’IA de manière globale.

Ils ont constaté que les fournisseurs ne respectent pas les exigences de transparence du projet de loi, notamment en ce qui concerne les données, le calcul et le déploiement de leurs modèles. Les chercheurs du Centre de recherche sur les modèles de fondation de l’université Stanford recommandent aux décideurs politiques de renforcer la transparence dans l’écosystème des modèles de fondation, qui ont un impact croissant sur la société.

L’Institut de Stanford pour l’intelligence artificielle centrée sur l’homme (HAI) a lancé le Centre de recherche sur les modèles de fondation (CRFM), une initiative interdisciplinaire qui vise à faire progresser la recherche, le développement et le déploiement de modèles de fondation.

Les modèles de fondation comme ChatGPT ont un impact profond sur la société avec leurs performances impressionnantes, leurs dangers potentiels, leur diffusion rapide, leur adoption massive et leur débat permanent. En même temps, l’Union européenne (UE) finalise sa loi sur l’IA, qui sera la première réglementation mondiale de l’IA. Le projet de loi a été approuvé par le Parlement européen avec 499 voix pour, 28 voix contre et 93 abstentions. Le projet de loi impose des obligations spécifiques aux fournisseurs de modèles de fondation tels qu’OpenAI et Google.

Évaluation de la conformité des fournisseurs de modèles de fondation avec le projet de loi de l'UE sur l'IA


Selon le Centre de recherche sur les modèles de fondation, les fournisseurs de modèles de base divulguent rarement des informations adéquates concernant les données, le calcul et le déploiement de leurs modèles, ainsi que les principales caractéristiques des modèles eux-mêmes. En particulier, les fournisseurs de modèles de base ne respectent généralement pas les projets d'exigences visant à décrire l'utilisation de données de formation protégées par des droits d'auteur, le matériel utilisé et les émissions produites lors de la formation, ainsi que la manière dont ils évaluent et testent les modèles.

Par conséquent, le CRFM recommande aux décideurs politiques de donner la priorité à la transparence, en s'appuyant sur les exigences de la loi sur l'IA. « Notre évaluation démontre qu'il est actuellement possible pour les fournisseurs de modèles de base de se conformer à la loi sur l'IA et que la divulgation des informations relatives au développement, à l'utilisation et aux performances des modèles de base améliorerait la transparence dans l'ensemble de l'écosystème », déclare le CRFM.

Qu'est-ce qu'un modèle de fondation ?

Ces dernières années, les chercheurs ont réussi à construire des systèmes d'IA capables d'apprendre à partir de milliers, voire de millions, d'exemples pour nous aider à mieux comprendre notre monde ou à trouver de nouvelles solutions à des problèmes difficiles. Ces modèles à grande échelle ont donné naissance à des systèmes capables de comprendre ce que nous disons ou écrivons, comme les programmes de traitement et de compréhension du langage naturel que nous utilisons tous les jours, qu'il s'agisse d'assistants numériques ou de programmes de conversion de la parole en texte.

D'autres systèmes, formés sur des éléments tels que l'ensemble des œuvres d'artistes célèbres ou tous les manuels de chimie existants, nous ont permis de construire des modèles génératifs capables de créer de nouvelles œuvres d'art basées sur ces styles, ou de nouvelles idées de composés basées sur l'histoire de la recherche chimique.

Bien que de nombreux nouveaux systèmes d'IA aident à résoudre toutes sortes de problèmes du monde réel, la création et le déploiement de chaque nouveau système nécessitent souvent beaucoup de temps et de ressources. Pour chaque nouvelle application, vous devez vous assurer qu'il existe un vaste ensemble de données bien étiquetées pour la tâche spécifique à laquelle vous souhaitez vous attaquer. Si l'ensemble de données n'existait pas, il faudrait que des personnes passent des centaines ou des milliers d'heures à trouver et à étiqueter des images, des textes ou des graphiques appropriés pour l'ensemble de données.

Le modèle d'IA doit ensuite apprendre à reconnaître tout ce qui se trouve dans l'ensemble de données, puis il peut être appliqué au cas d'utilisation que vous avez, de la reconnaissance du langage à la génération de nouvelles molécules pour la découverte de médicaments. La formation d'un grand modèle de traitement du langage naturel, par exemple, a à peu près la même empreinte carbone que l'utilisation de cinq voitures pendant toute leur durée de vie.

La prochaine vague d'IA vise à remplacer les modèles spécifiques à une tâche qui ont dominé le paysage de l'IA jusqu'à présent. L'avenir est aux modèles formés sur un large ensemble de données non étiquetées qui peuvent être utilisées pour différentes tâches, avec une mise au point minimale. C'est ce que l'on appelle les modèles de fondation, un terme popularisé pour la première fois par l’HAI du Stanford Institute. « Nous avons vu les premières lueurs du potentiel des modèles de fondation dans les mondes de l'imagerie et du langage. Les premiers exemples de modèles, comme GPT-3, BERT ou DALL-E 2, ont montré ce qu'il était possible de faire », IBM.

Ce qui fait de ces nouveaux systèmes des modèles de fondation, c'est que, comme leur nom l'indique, ils peuvent servir de fondation à de nombreuses applications du modèle d'IA. Grâce à l'apprentissage auto-supervisé et à l'apprentissage par transfert, le modèle peut appliquer les informations qu'il a apprises sur une situation à une autre. Bien que la quantité de données soit considérablement plus importante que celle dont une personne moyenne a besoin pour transférer sa compréhension d'une tâche à une autre, le résultat final est relativement similaire : vous apprenez à conduire une voiture, par exemple, et sans trop d'efforts, vous pouvez conduire la plupart des autres voitures - ou même un camion ou un bus.

L’écart entre les modèles de fondation et la loi sur l’IA : pourquoi la transparence est essentielle

Les modèles de fondation sont au cœur du discours mondial sur l'IA : le paradigme technologique émergent a un impact concret et croissant sur l'économie, la politique et la société. Parallèlement, la loi européenne sur l'IA est l'initiative réglementaire la plus importante en matière d'IA dans le monde aujourd'hui. La loi imposera non seulement des exigences en matière d'IA dans l'UE, qui compte 450 millions d'habitants, mais créera également un précédent pour la réglementation de l'IA dans le monde entier (l'effet Bruxelles).

Les décideurs politiques du monde entier s'inspirent déjà de la loi sur l'IA, et les entreprises multinationales pourraient modifier leurs pratiques mondiales afin de maintenir un processus unique de développement de l'IA. La manière dont nous réglementons les modèles de fondation structurera la chaîne d'approvisionnement numérique au sens large et façonnera l'impact sociétal de la technologie.

Les publications de modèles de fondation sont généralement devenues moins transparentes, comme en témoignent les principales publications de ces derniers mois. Les rapports sur le GPT-4 d'OpenAI et le PaLM 2 de Google indiquent ouvertement qu'ils ne font pas état de nombreux aspects pertinents concernant les données et le calcul. Le document sur le GPT-4 indique que « compte tenu du paysage concurrentiel et des implications pour la sécurité des modèles à grande échelle tels que le GPT-4, ce rapport ne contient aucun détail supplémentaire sur l'architecture (y compris la taille du modèle), le matériel, le calcul d'entraînement, la construction de l'ensemble de données, la méthode d'entraînement ou d'autres éléments similaires ».

Selon le CRFM, une transparence suffisante pour satisfaire aux exigences de la loi en matière de données, de calcul et d'autres facteurs devrait être commercialement possible si les fournisseurs de modèles de fondations prennent collectivement des mesures résultant de normes ou de réglementations sectorielles.

La loi sur l'IA est toujours en discussion et sera finalisée lors du prochain dialogue entre la Commission européenne, le Conseil et le Parlement. Les fournisseurs de modèles de fondation ont également des obligations en vertu des dispositions de la loi sur l'IA qui ne concernent pas uniquement les modèles de base, par exemple lorsque leurs modèles de base sont intégrés dans des systèmes d'IA à haut risque. Par conséquent, les évaluations pourraient diverger de la conformité des fournisseurs de modèles de fondation à la version finale de la loi sur l'IA.

L'adoption et l'application de la loi européenne sur l'IA entraîneront des changements positifs importants dans l'écosystème des modèles de fondation. Selon le CRFM, le respect par les fournisseurs de modèles de fondation des exigences relatives aux droits d'auteur, à l'énergie, aux risques et à l'évaluation est particulièrement faible, ce qui indique les domaines dans lesquels les fournisseurs de modèles peuvent s'améliorer.

Sources : CRFM

Et vous ?

Les conclusions du CRFM sur les modèles de fondation sont-elles pertinentes ?

Selon vous, quels sont les avantages et les inconvénients de la transparence comme priorité pour responsabiliser les fournisseurs de modèles de fondation ?

À votre avis, quels sont les risques et les opportunités liés à la réglementation des modèles de fondation au niveau mondial ?

Comment les fournisseurs de modèles de fondation peuvent-ils s’adapter aux exigences du projet de loi de l’UE sur l’IA tout en préservant leur innovation et leur compétitivité ?

Voir aussi :

L'UE vote pour interdire l'IA dans la surveillance biométrique et exiger la divulgation des systèmes d'IA, le projet de loi de l'UE sur l'IA se durcit, mais reste ouvert à la négociation

Un groupe de consommateurs demandent à l'UE d'enquêter d'urgence sur les risques liés à l'IA générative et d'appliquer la législation existante pour protéger les consommateurs

Data Act : l'UE s'accorde sur des règles de protection des données face aux grandes enseignes du numérique, les entreprises les critiquent et un groupe paneuropéen de consommateurs affiche sa déception

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 07/02/2024 à 22:16
Encore une étude de greenwashing
4  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 24/03/2024 à 11:22
Et comme pour le 99,9% des résolutions de l'ONU, strictement personne n'en tiendra compte!
4  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 10/04/2024 à 8:28
Je n'ai pas très bien compris ce qui était mesuré pour définir que l'IA émet moins de CO2 qu'un humain pour écrire une page.

Est-ce que l'empreinte carbone des datas center servant à l'IA pour produire sa page est comptée ou non ? Si c'est juste l'empreinte carbone pour l'écriture finale, c'est-à-dire le "pouillème" final, alors l'étude est biaisée.
4  0 
Avatar de mach1974
Membre averti https://www.developpez.com
Le 13/12/2023 à 16:20
Bonjour,
Un peu de rationalisation que diable. On reste sur de l'ia qui calcule les corrélations et en tire des arbres causaux sans décrire les mécaniques même avec LIME et SHAPE, alors que l'analyse grammaticale avec les COI et COD permet de déterminer le sujet et le complément , ce qui permet une logique de prédicat avec le respect des 3 lois d'ASIMOV. C'est un cauchemar. On va voir revenir le temps des sorciers même si Athur C Clarke parle de magie comme la techno qui disparaît. On va élever l'ordinateur au rang de Dieu dans la prochaine étape . C'est bien la peine de faire du modèle checking dans la norme ISO179 pour l'aéronautique ou dans le ferroviaire ....
2  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 10/04/2024 à 8:01
Citation Envoyé par Jade Emy Voir le message
Il est essentiel de se pencher sur le type d'impact environnemental que l'IA peut finir par avoir. Cependant, il s'avère que l'IA pourrait en fait produire moins d'émissions de carbone que les humains, ce qui la rendrait plus durable. L'IA émet des centaines de fois moins de gaz à effet de serre que l'homme lorsqu'il s'agit d'écrire et de créer des images.
C'est une analyse intéressante mais est ce que ça veut dire qu'utiliser une IA émet moins de carbone qu'utiliser une personne?
Non, pour une raison simple:
Quand la personne travaille et pas l'IA, l'IA n'émet rien
Quand l'IA travaille et pas la personne, la personne émet toujours.
Donc il faudrait comparer le surplus d'émission de la personne quand elle travaille à l'IA.
Les autres facteurs sont nombreux :
L'IA produit (probablement) peu de carbone quand elle travaille parce qu'elle est plus rapide que l'homme mais combien émet son apprentissage?
L'IA nécessite une revue de son travail plus importante que la personne donc combien émet la différence de revue?
Combien d'IA différente faut il pour remplacer toutes les taches d'une personne?
Et je n'ai pas encore parlé de l'apport social d'une personne...

Pensez-vous que cette étude est crédible ou pertinente ?
L'étude en tant que telle à l'air crédible (faite de façon honnête et rigoureuse) par contre le but de celle ci me parait beaucoup moins pertinent.
Quelle conclusion tirer? Qu'il faut faire travailler les IA plutôt que les personnes pour l'édition? Ce n'est pas ce que disent les chercheurs, c'est pourtant ce que nous lisons.
Qui a financer cette étude? Dans quel but? Avec ces réponses nous aurons peut être une clarification de sa pertinence.
On sait que l'un des auteur détient des actions chez NVIDIA mais je n'ai rien trouvé chez le financeur.
Quel est votre avis sur le sujet ?
L'IA n'a rien d'écologique parce qu'elle ajoute de la production de carbone à la production humaine, attaquer la question par cet angle est absurde. (A moins que l'on décide de "faire disparaitre" les personnes qui deviennent "inutiles" mais on dérive vers des gros problèmes éthiques).
Par contre l'IA a d'autres avantages qui méritent d'être étudiés.

Des gens essayent d'aborder les sujets de façon "rationnelle" en ce moment pour transformer des solutions plus ou moins absurdes en bon sens.
La Science n'apporte pas toujours les bonnes réponses aux problèmes parce qu'elle ignore les sciences humaines ou l'éthique.
Pourtant il me semble qu'Asimov nous avait déjà prévenu que cette méthode ne fonctionnait pas.
2  0 
Avatar de Jules34
Membre expérimenté https://www.developpez.com
Le 27/10/2023 à 9:41
il prévoit la création d'un organisme international de l'IA
Bin si c'est pour faire l'OMS de l'IA ça va plus nous rapprocher de la fin du monde que nous en éloigner

Chaque organisme mondial supplémentaire réduit un peu plus le droit des peuples à disposer d'eux même.
1  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 15/11/2023 à 15:30
Mon avis est double. D'un coté, je pense qu'il est important et urgent de légiférer, d'un autre, qu'il est nécessaire de préserver les acteurs moindres dans leurs recherches au niveau de l'IA.
Je pense que la législation devrait mettre des barrières aux grandes entreprises afin de ne pas leur laisser le champ libre et de tuer dans l'œuf toute concurrence, comme ils savent si bien le faire.

Mais gageons que le poids des billets de ces cadors, soit plus audible que toutes les objections raisonnables émises par un groupe moins... pourvus de liasses.
1  0 
Avatar de TJ1985
Membre chevronné https://www.developpez.com
Le 17/11/2023 à 8:58
J'imagine les débats le jour où l'Homme à domestiqué le Feu...

Réguler l'IA comme l'entendent les politicards et les bien-pensants revient à pratiquer une stérilisation intellectuelle. Ce n'est pas parce que de plus en plus d'utilisateurs de l'informatique ne sont pas capables d'additionner 1 et 1 qu'il faut priver ceux qui savent que ça fait 10 de poursuivre les développements les plus prometteurs de ces derniers temps.

Les catastrophistes qui prédisent que mon Raspberry Pi tournant Llama va déclencher la fin du monde sont pathétiques, et dangereux, car ils offrent une occasion aux sempiternels protecteurs des populations une magnifique occasion de tenter encore une fois de prouver leur utilité.

Les travaux de Yann LeCun visant à contextualiser les données des LLMs sont prometteurs et pourraient aboutir à instiller un brin d'intelligence dans ces systèmes, qui sont pour le moment d'une totale indigence dès lors qu'on tente de les extraire de le leur cadre d'entraînement. Mais sur le fond, observez vous, voyez comment le vivant est fabriqué, évaluez les flux d'informations reçu en permanence par notre système nerveux central et comparez ces volumes à ceux que reçoit une système d'IA dans son boîtier...

Si nous ne voulons pas souffrir de l'émergence de l'IA au sens général, il faut que nous nous formions à son usage, que nous en comprenions les bases de fonctionnement et puissions en tirer parti. Nous devons aussi en mesurer les limites, savoir d'où ça vient. Nous devons en quelque sorte (re)devenir intelligents et cesser de sauter sur chaque superstition qui passe par là.
En bref, nous devons prouver que nous restons plus aptes que n'importe laquelle de nos créa-tion-tures (voilà t'y pas que je m'y mets aussi !). Nous priver d'un bulldozer nous empêchera de construire les routes dont nous aurons besoin dans le futur.
1  0 
Avatar de pierre-y
Membre chevronné https://www.developpez.com
Le 14/02/2024 à 13:03
L'UE c'est vraimment le bal de la corruption. Quand je pense que la parlementaire grec qui c'était fait choper a recevoir du blé du Qatar a put tranquillement reprendre son poste comme si de rien n'était... C'est vraiment a vomir.
2  1 
Avatar de Eye_Py_Ros
Membre à l'essai https://www.developpez.com
Le 10/04/2024 à 15:18
> Pensez-vous que cette étude est crédible ou pertinente ?
> Quel est votre avis sur le sujet ?

Que dire que dire, un petit essai improvisé.
Pour commencer cette étude à un objectif assez clair et malsain, contrer le bashing de l'IA qui pollue à cause de sa consommation excessive en ressource en ce qui concerne sa création / entraînement / formation.
Je dirais que l'étude est remplie de biais, mais aussi qu'elle souligne un sujet mortifère et dont les philosophes devraient se saisir.

Pour commencer en ce qui concerne les biais, les graphiques sont ultras simpliste et ne prenne pas en compte les ressources nécessaires pour l'entraînement des AI ni même les ressources consommées pour concevoir le hardware.
De la production de silicium au GPU en passant par l'humain qui a conçu le GPU à la chaîne d'assemblage jusqu'au data center où elle est en fonction à déjà consommé plusieurs années CO2 d'une ville humaine.

La conclusion stéréotypée que l'on peut faire de ce genre d'étude. Au mon dieu, un humain, ça respire ça émet du CO2, un caillou alimenté avec de l'Énergie pure sa ""n'émet pas"" de CO2. Il faut donc remplacer toute la population humaine par des cailloux qui imite les humains.
Je tire volontairement le trait, mais c'est une pente glissante vers lequel les bobo extrêmes écolos ont tendance à prendre de vouloir éliminer le vivant sous prétexte qu'il émet du CO2. Si on suit leur logique uniquement les plantes auraient le droit de vivre puisqu’elles n'émettent pas de CO2 (dans leurs schémas de pensée) ce qui est faux et sans CO2 elles ne peuvent se développer autant... Alors si on en fait la seule source de nourriture...

Concernant les schémas on nous montre une quantité d'Énergie consommée en instantané lorsque le réseau (de neurones en cailloux) fait une génération unique, versus le pc d'un auteur allumé.
Déjà pour commencer le biais, un serveur qui fait tourner de l'IA est allumé H24, consomme rien que pour être allumé 100W et peut monter à 3000W voir plus. Le pc d'un auteur est allumé disons 6-8h et un pc portable sobre peut, disons consommer au max 25w dans un standard sobre écoresponsable. De plus un auteur peut ne pas passer toute une session d'écriture sur un pc, on peut aussi avoir des machines tablette dans le futur à base d'epaper comme écran, utiliser le stylo et la feuille.... Donc déjà la méthode de travail est un biais choisi non représentatif des "travailleurs" du secteur. Doit-on compter les repas, et la tasse de café en terrasse ?

Idem dans la création d'images, un peintre ne va pas utiliser un ordinateur de la même manière voir pas du tout, un photographe non plus et un graphiste peut faire des recherches de diverses manières. Leur activité n'est pas 100% numérique.

Coté IA, ouaaa une génération consomme peux. Sauf que qui aujourd'hui ne demande pas à l'IA plusieurs générations pour avoir un résultat un peut exploitable et qui ne passe pas un peu de temps pour intégrer la réponse...
10 générations consommeraient déjà le CO2 pour une journée de travail humain. Or il est si facile de cliquer sur généré que l'étude ne prend pas en compte le fait que cette facilité va augmenter le nombre de générations demandé et donc pour une même tache incitée à consommer plus.
Plutôt qu'un travail réfléchis, fait et plutôt droit au but, on va frénétiquement cliqué sur générer, une, deux, 10, 20, 50 fois dans la journée jusqu'à avoir un travail prémâché qu'il faudra de toute façon relire puis intégrer.

Au final une IA, est un outil qui consomme, et sa facilité d'usage poussera a consommer par ce que dans un même espace de temps on le peut.
Et si on pense éliminer complètement les humains, alors nous allons créer une société de machine qui travaillera pour des machines.
Le summum du capitalisme, nous créons du travail/ de la valeur à l'aide de machine pour qu'elle soit consommée par d'autres machines et faire tourner le capitalisme.

Nous avons des Shadock qui pompe, que nous remplaçons par des machines qui pompes pour se maintenir entre elles en vie et soutenir artificiellement le capitalisme et "sa croissance infinie" artificielle.
On va basculer d'une économie pétrodollar en data dollar.
(et il faudra mettre des humains sur des vélos pour combler le manque de pétrole pour alimenter en Énergie les machines)

Tout ceci est absurde tout comme confondre un outil et une volonté créatrice vivante.
Le côté mortifère, c'est de vouloir a tout pris évincer l'humain de la composante économique pour des raisons de coûts. De l'autre côté, ce que l'on aura sacrifié... nous fera plonger vers une économie dystopique, avec une économie parallèle qui ne sert qu'aux machines et de l'autre, des humains tout tombés dans la précarité.
Et le risque, c'est un arrêt de la créativité, un grippage de l'inventivité et d'évolution.
Où à côté d'usines fumantes, nous aurions une population qui n'a plus les moyens de consommer.
Sauf, si la réalité réajuste la situation, car non viable et qu'un mixte des deux finissent par co exister.

Ce que je dirais, c'est que ce genre d'étude envoie un signal malsain coté sociétal, poussant des résonnements inachevés polarisant des questions légitimes en réponse absurde. Plantant les graines d'idéologie néfaste pour une société.

Nous sommes nés trop tard pour explorer les continents, trop tôt pour explorer Mars, mais dans l'époque de l'avènement de l'IA et d'un grand bouleversement économique et sociétal mondiaux en perspective que l'on veuille ou non.
L'avenir dépend de ce qui est en train de s'écrire, des luttes et intérêts de certains. De l'éducation ou du manque des masses en vers ce type d'enjeux, et si nous finissons tout droits vers un avenir dystopique d'une dictature mondiale et d'une misère qui fera régresser l'humanité ou si nous deviendrons tous lucide sur le sujet. comme le plat réchauffé que les mails allaient tuer le métier de postier. Que les livres numériques allaient faire disparaître les imprimeurs ect, ect.

Tous sa pour dire (sans se méprendre, ça reste intéressant que le site nous permette de faire une veille techno) y en a marre de ce genre d'étude de lobbying pondu par des cabinets com , la seule chose que ça génère c'est de la méfiance en vers les études et une perte de crédibilité du peuple en vers toutes analyses et réflexion.
Remplaçons les cabinets de com par de l'IA, peut être que l'on aura moins de mensonge comme ça.
1  0