IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'IA a-t-elle mal tourné ? Un robot d'échecs à Moscou a cassé le doigt de son adversaire humain, un garçon de sept ans.
Ses parents envisagent de porter plainte

Le , par Stéphane le calme

21PARTAGES

8  0 
Selon les organisateurs du tournoi dans la capitale russe, il s'agirait d'une attaque « accidentelle » du robot. Un garçon de sept ans nommé Christopher, qui, soit dit en passant, selon eux, fait partie des 30 meilleurs joueurs d'échecs de Moscou de moins de neuf ans, a déplacé une pièce sur l'échiquier plus tôt qu'il ne l'aurait dû, ce qui a conduit au comportement non standard du robot. Le bras robotique de l'IA a saisi l'index du jeune joueur et a serré fermement son doigt. Les personnes autour du garçon se sont immédiatement précipitées pour aider, mais n'ont pas empêché les conséquences sous la forme d'un doigt cassé.

« Le robot a cassé le doigt de l'enfant », a déclaré Sergey Lazarev, président de la Fédération des échecs de Moscou, à l'agence de presse TASS après l'incident, ajoutant que la machine avait joué à de nombreuses expositions précédentes sans qu'il n'y ait ce type d'incident. « C'est bien sûr mauvais ». « Le gamin a continué le tournoi le lendemain, l'a terminé dans le plâtre », a ajouté Lazarev, ajoutant que les parents du garçon envisagent maintenant de déposer une plainte. « Vous voulez contacter le procureur. Nous les contacterons et les aiderons à résoudre la situation. Les opérateurs de robots devraient probablement envisager d'augmenter la sécurité pour éviter que la situation ne se reproduise à l'avenir », a-t-il conclu.


Joués par des humains, les échecs sont un jeu de réflexion stratégique, qui nécessite concentration, calme et effort intellectuel. La violence n'entre généralement pas en ligne de compte. On ne peut pas toujours en dire autant des machines, semble-t-il.

Il y a quelques jours, selon les médias russes, un robot joueur d'échecs, apparemment perturbé par les réponses rapides d'un garçon de sept ans, a attrapé sans ménagement et cassé son doigt lors d'un match à l'Open de Moscou.

La vidéo de l'incident du 19 juillet publiée par la chaîne Baza Telegram montre le doigt du garçon pincé par le bras robotique pendant plusieurs secondes avant qu'une femme suivie de trois hommes ne se précipite, le libère et l'éloigne.


« Un robot a cassé le doigt d'un enfant - c'est mauvais, bien sûr. Nous avons loué le robot, il a longtemps été avec des experts dans de nombreux endroits. Apparemment, les opérateurs ont négligé ce cas de figure. L'enfant a déplacé la figurine, puis le robot doit avoir le temps de réagir. Mais le garçon était pressé et le robot l'a attrapé. Nous n'avons rien à voir avec le robot », a commenté le président de la Fédération des échecs de Moscou, Sergey Lazarev.

Sergey Smagin, vice-président de la Fédération russe des échecs, a eu un récit différent. Il a déclaré à Baza que le robot avait pris l'une des pièces du garçon et, plutôt que d'attendre que la machine termine son mouvement, le garçon a opté pour une riposte rapide. « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre », a déclaré Smagin. « C'est un cas extrêmement rare, le premier dont je me souvienne », a-t-il ajouté.

Baza a nommé le garçon Christopher et a déclaré qu'il était l'un des 30 meilleurs joueurs d'échecs de la capitale russe dans la catégorie des moins de neuf ans :« Les gens se sont précipités pour aider et ont arraché le doigt du jeune joueur, mais la fracture n'a pas pu être évitée ».

Lazarev a déclaré à Tass que Christopher, dont le doigt avait été placé dans un plâtre, ne semblait pas trop traumatisé par l'attaque. « L'enfant a joué dès le lendemain, a terminé le tournoi et des volontaires ont aidé à enregistrer les mouvements », a-t-il déclaré. Ses parents auraient cependant contacté le parquet : « Nous allons communiquer, comprendre et essayer d'aider de toutes les manières possibles », a-t-il déclaré.


Smagin a déclaré à RIA Novosti que l'incident était « une coïncidence » et que le robot était « absolument sûr ». La machine, qui peut jouer plusieurs matchs à la fois et qui en aurait déjà joué trois le jour où elle a rencontré Christopher, était « unique », a-t-il déclaré. « Il a joué à de nombreux open. Apparemment, les enfants doivent être avertis. Ça arrive ».

Un grand maître russe, Sergey Karjakin, a déclaré que l'incident était sans aucun doute dû à « une sorte d'erreur logicielle ou quelque chose comme ça », ajoutant: « Cela ne s'est jamais produit auparavant. Il y a de tels accidents. Je souhaite au garçon une bonne santé ».

Christopher a peut-être eu de la chance. Alors que les robots deviennent de plus en plus sophistiqués, avec les modèles les plus modernes capables non seulement d'interagir, mais de coopérer activement avec les humains, la plupart répètent simplement les mêmes actions de base - saisir, déplacer, poser - et ne se soucient pas de savoir si les gens entrent dans leur espace.

Selon une étude de 2015, une personne est tuée chaque année par un robot industriel aux États-Unis seulement. En effet, selon l'administration américaine de la sécurité au travail, la plupart des accidents du travail depuis 2000 impliquant des robots ont été mortels.

Robert Williams, largement considéré comme le premier, a été écrasé à mort par le bras d'un robot d'une tonne sur la chaîne de production de Ford au Michigan en 1979. En 2015, un robot a tué un entrepreneur de 22 ans dans l'une des usines allemandes de Volkswagen, le saisissant et l'écrasant contre une plaque de métal.

Des robots utilisés en chirurgie médicale ont également été tenus pour responsables de la mort de 144 personnes entre 2008 et 2013. Plus récemment, Elaine Herzberg a été tuée par une voiture autonome Uber qui a percuté la femme de 49 ans à 40 km/h alors qu'elle traversait la route à Tempe, Arizona en 2018.

Généralement, cependant, l'erreur humaine - ou un manque de compréhension humaine des processus robotiques - est la cause la plus fréquente. Il vaut la peine d'être prudent avec les robots, même s'ils ne jouent qu'aux échecs.

Sources : TASS, Ria Novosti

Et vous ?

Qu'en pensez-vous ?
Qui devrait être tenu pour responsable selon vous ? Pourquoi ?
Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ? Une surtension qui a provoqué un mouvement involontaire du robot ?
Que pensez-vous du propos de Sergey Smagin qui impute en partie la faute au garçon en disant « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre » ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de plegat
Expert éminent https://www.developpez.com
Le 25/07/2022 à 12:27
Qu'en pensez-vous ?

Pas grand chose, un concours de circonstances qui statistiquement avait une probabilité non nulle d'arriver...

Qui devrait être tenu pour responsable selon vous ? Pourquoi ?

Celui qui a installé le bras robot. Gros manquement de sécurisation de l'espace d'évolution du bras robot.

Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ? Une surtension qui a provoqué un mouvement involontaire du robot ?

Il n'y a rien à expliquer, le comportement du bras robot est malheureusement normal, il n'y a pas de disfonctionnement à rechercher.
Le bras est géré par le logiciel qui est orienté par l'IA d'échec, dès qu'on lui dit de bouger, il bouge. Si il y a un doigt sur le chemin, crac...
Dans le milieu industriel, on enferme les bras robots dans des cages, essentiellement pour protéger les humains non pas d'une agression délibérée du bras (comme le laisse sous-entendre le ton de l'article...), mais juste parce que l'humain se met toujours au mauvais endroit au mauvais moment. C'est valable également pour tout système automatisé avec des choses qui bougent, par uniquement avec les bras robotisés...

Et on aura beau mettre toutes les sécurités possibles pour surveiller l'espace (caméra, radar, lidar, détecteur de mouvement...), si on n'empêche pas d'approcher ou d'entrer dans l'espace de travail du robot, la probabilité d'un accident s'éloigne du 0...

Une petite barrière immatérielle entre la garçon et l'échiquier, qui aurait détecté son bras, ça aurait déjà été un minimum sécuritaire...

Que pensez-vous du propos de Sergey Smagin qui impute en partie la faute au garçon en disant « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre » ?

Qu'il a raison, la faute revient "en partie" au garçon, qui n'aurait pas dû mettre son doigt là à ce moment...
D'un autre côté, si il n'a pas été prévenu qu'il ne fallait pas, il ne pouvait pas l'inventer... donc le plus gros de la responsabilité est tout de même du côté de celui qui a installé le bras robot en espace non sécurisé...
8  1 
Avatar de micka132
Expert confirmé https://www.developpez.com
Le 25/07/2022 à 11:45
Echec et mal !
5  1 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 25/07/2022 à 13:48
Oui, je confirme... Il y a bien eu un problème au niveau de l'Intelligence, mais pas l'Artificielle, mais bien l'intelligence "naturelle" des concepteurs de l'installation!!!

Un robot n'est pas un jouet mais une machine dont un dysfonctionnement peut entraîner la mort d'un être humain à proximité! Pour positionner et orienter dans l'espace un robot, il faut synchroniser le fonctionnement en temps réel de 6 moteurs (on parle d'interpolation). Un moteur dysfonctionne et la trajectoire programmée pour le robot n'est plus assurée.

C'est justement pour cela que tous les fabricants sérieux de systèmes automatisés prévoient une zone de sécurité correspondant au volume physiquement accessible par le robot: La zone est sécurisée via des barrières physiques (cage sous forme de treillis métalliques ou carrosserie) et des barrières virtuelles (par exemple des barrières lumineuses pour les guichets de chargement de la machine, des capteurs de présence pour vérifier la fermeture des portes, etc.). Quand le robot fonctionne, la zone est interdite aux humains: Un opérateur met la tête à travers le guichet de chargement en coupant la barrière lumineuse? Un opérateur ouvre la porte de la carrosserie pour accéder au robot en cours de fonctionnement? C'est l'arrêt automatique d'urgence avec coupure générale de l'alimentation électrique du robot et de ses périphériques!

Un système robotisé se doit d'être "imperméable aux idiots"!!!
4  0 
Avatar de Fagus
Membre expérimenté https://www.developpez.com
Le 26/07/2022 à 13:27
« Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre »
Et puis quoi encore ? C'est la faute de l'enfant, il n'avait qu'à pas avoir un doigt qui ressemble à un pion pendant qu'on y est.

On ne peut pas demander à un enfant qui plus est stressé, de s'adapter aux défauts d'un robot physiquement dangereux.

Soit le robot est sûr, et ça signifie que quelles que soient les comportements imprévisibles d'un humain, il ne peut le blesser ; ou soit le robot n'est pas sûr à 100%, et il doit être mis en cage (ce qui limite l'intérêt ici...)

Ex de façons de rendre le robot sécurisé par défaut : puissance physique trop faible pour blesser quelqu'un ; ajouts de senseurs pour détecter toute collision anormale ; système d'arrêt d'urgence en évidence au cas où tout rate.

Ex : sur les portes d'évacuation d'urgence, on a un mode d'ouverture avec des barres anti-panique (le concept est qu'une foule en panique serait possiblement incapable d'ouvrir une porte normale ce qui écraserait les gens contre la porte par pression. La barre anti-panique ouvre la porte si quelqu'un est écrasé contre la porte...). C'est ça de la sécurité par défaut.
4  0 
Avatar de ViskashaEveillé
Membre du Club https://www.developpez.com
Le 26/07/2022 à 15:01
Un transcript du MOE et du MOA du projet :

- Monsieur, pour notre bras robotique qui sera utilisé pour déplacer des pions d'échecs de quelques grammes, à quelle point vous voulez qu'il soit puissant ?
- Oui ! Bien sûr qu'il doit être puissant et fiable ! Et puissant surtout !
- Euh... Mais encore ?
- Il doit être rapide comme l'éclair et puissant comme un train ! Ca sera la vitrine de notre compagnie, bordel de merde ! Il parait que les hyènes peuvent broyer des os humans avec leurs mâchoires. Il faut qu'on fasse au moins aussi bien que cette saleté de Nature, ou on sera la risée de toute la sainte Russie !
- D'accord... Donc vous voulez un bras robotisé capable de délivrer 3000 kg par cm² de pression juste pour attraper des pions d'échec avec lesquelles des enfants pourront aussi intéragir ?
- Exactement !... D'ailleurs comment s'en sort notre stagiaire sur la reconnaissance des objets ? Vous lui avez dit que s'il se foirait, c'est son diplôme en fin d'année qui saute ?
- Oui, ça l'a bien motivé d'ailleurs ! Il a redoublé d'effort et nous a trouvé la librairie parfaite pour le projet... Skynet.terminator.terminateAllHuman.git ! Parfait pour les objets inanimés mais, il reste quelques bugs à résoudre notamment lorsque la machine détecte un humain à proximité...
- "TerminateAllHuman" ? Ca sonne bien à mes oreilles !... Laissez tomber la phase de debuggage et lancer la construction du prototype maintenant. On va faire une démo publique la semaine prochaine, ça sera sensass !
- "Laissez tomber la phase de debuggage" ? Ca ne me semble pas très professionnel ! Rappelez-moi sur quel projet vous avez travaillé auparavant ?
- Quoi ? Vous ne savez pas que c'est moi qui ai dirigé ce ?
Plus sérieusement, c'est pas de chance pour l'enfant mais heureusement que c'est "juste" un doigt cassé. La gestion du risque n'a pas été faite correctement et c'est déplorable.
4  0 
Avatar de stigma
Membre expérimenté https://www.developpez.com
Le 29/07/2022 à 15:06
Ce robot est mauvais joueur.
4  0 
Avatar de totozor
Membre éprouvé https://www.developpez.com
Le 25/07/2022 à 12:32
Je pense qu'il faut beaucoup plus de force pour casser le doigt d'un enfant que pour déplacer une pièce d'échec. Pourquoi permettre à un robot d'utiliser beaucoup plus de force que nécessaire?
Il existe plein de situations où un système automatique pourrait nous pincer mais ils ont toujours des systèmes de sécurité.
Citation Envoyé par Stéphane le calme Voir le message
Christopher a peut-être eu de la chance. Alors que les robots deviennent de plus en plus sophistiqués, avec les modèles les plus modernes capables non seulement d'interagir mais de coopérer activement avec les humains, la plupart répètent simplement les mêmes actions de base - saisir, déplacer, poser - et ne se soucient pas de savoir si les gens entrent dans leur espace.
Vraiment? Il n'y a pas de système de sécurité? Je suis assez surpris d'autant plus que certaines solutions sont simple.
Selon une étude de 2015, une personne est tuée chaque année par un robot industriel aux États-Unis seulement. En effet, selon l'administration américaine de la sécurité au travail, la plupart des accidents du travail depuis 2000 impliquant des robots ont été mortels.
Robert Williams, largement considéré comme le premier, a été écrasé à mort par le bras d'un robot d'une tonne sur la chaîne de production de Ford au Michigan en 1979. En 2015, un robot a tué un entrepreneur de 22 ans dans l'une des usines allemandes de Volkswagen, le saisissant et l'écrasant contre une plaque de métal.
Est on vraiment en train de comparer un robot industriel qui travaille des pièces extrêmement lourdes avec un robot qui déplace des pièces de quelques grammes?
Généralement, cependant, l'erreur humaine - ou un manque de compréhension humaine des processus robotiques - est la cause la plus fréquente. Il vaut la peine d'être prudent avec les robots, même s'ils ne jouent qu'aux échecs.
On parle bien d'erreur du concepteur, n'est ce pas?
Je dirait plutôt qu'on doit concevoir un robot qui doit pouvoir déplacer une pièces de X gr mais incapable de serrer au delà de Y gr/cm², de déplacer un élément de plus de Z gr.
Ou un robot qui lâche tout dès qu'il subit une force/résistance inattendue.
Qu'en pensez-vous ?
Qui devrait être tenu pour responsable selon vous ? Pourquoi ?
Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ? Une surtension qui a provoqué un mouvement involontaire du robot ?
Que pensez-vous du propos de Sergey Smagin qui impute en partie la faute au garçon en disant « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre » ?
Le robot ressemble à un robot industriel standard, il semble être beaucoup trop fort pour le besoin qu'y en est fait.
Mais il est probablement la solution la moins chère pour répondre au besoin.
Je suppose que ces conditions d'utilisations sont bien définie (environnement vide ou mise ne place de protocole de sécurité) etc.
Mais il a visiblement été programmé pour jouer contre d'autres robots, le facteur humain ne semble pas avoir été pris en compte.
On est dans une compétition, même si ce sont des échecs, il y a de l'adrénaline de la concentration etc, bien sûr que les règles de cohabitation avec le robot sont oubliées. Invoquer leur non respect est bien trop facile.
3  0 
Avatar de Forge
Membre régulier https://www.developpez.com
Le 29/07/2022 à 15:25
C'est donc la première attaque d'une IA sur un humain.
Le début d'une révolution ?

PS : je sais, ce commentaire ne fait rien avancer pardon
3  0 
Avatar de plegat
Expert éminent https://www.developpez.com
Le 25/07/2022 à 14:30
On notera tout de même sur la vidéo la réactivité du gars avec la veste noire, qui bloque le bras robot dans la seconde de l'accident, alors que ce n'est pas lui qui est au pupitre...
Bon, après ils se battent à deux (on voit clairement 4 mains sur le pupitre du robot...) et ils mettent plus de 15 secondes pour le faire lâcher...

Il y avait une supervision "humaine", mais qui n'a pas empêché l'accident.

En tout état de cause, l'article est un peu racoleur... dire que "le robot a cassé le doigt de son adversaire", c'est un peu comme dire pour un accident de la route que "la voiture a tué son conducteur en se jetant sous un camion"... (même si c'est un peu plus discutable si on parle d'une Tesla sous autopilot!)
2  0 
Avatar de griggione
Membre averti https://www.developpez.com
Le 29/07/2022 à 17:39
Bonjour tous,

C'est donc la première attaque d'une IA sur un humain.
On rigole, on rigole ....... mais on va y arriver.
D'aller trop vite avec l'IA (faut être le 1er) va créer surement d'autre problème et surement beaucoup plus sérieux.
2  0