Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Airbnb prétend que son IA peut prédire si les clients sont des psychopathes,
Après avoir scanné leur vie en ligne et regroupé des informations sur eux

Le , par Stan Adkens

115PARTAGES

12  0 
Pour protéger ses hôtes, l'application de location à court terme Airbnb utilise maintenant un outil alimenté par l'IA qui prend en compte la "personnalité" des invités en ligne lorsqu'ils réservent un logement, selon le site Web de nouvelles scientifiques et technologiques Futurism. Selon les documents de brevet examinés par le quotidien Evening Standard, Airbnb possède les droits d'un logiciel conçu pour scanner la présence en ligne des gens afin de prédire s'ils sont dignes de confiance. L'outil prend en compte même le casier judiciaire dans son évaluation de la "fiabilité et la compatibilité" des utilisateurs Web dans le but de prévoir l'aptitude à louer une propriété.

Selon le brevet, Airbnb pouvait déployer son logiciel pour scanner les sites, y compris les posts sur les médias sociaux, à la recherche de caractéristiques telles que "la conscience et l'ouverture" par rapport aux vérifications habituelles de crédit et d'identité et à ce qu'il décrit comme des "bases de données tierces sécurisées". Des caractéristiques telles que "névrose et implication dans des crimes" et "narcissisme, machiavélisme ou psychopathie" sont "perçus comme indignes de confiance".


Si vous avez été refusé de réserver une location Airbnb, c'est peut-être parce que l'intelligence artificielle de la plateforme communautaire a déterminé que vous êtes un psychopathe. La technologie de vérification des antécédents a été révélée dans un brevet délivré par l'Office européen des brevets et publié aux États-Unis l'année dernière, selon Evening Standard. L'outil de vérification est l'œuvre de Trooly, une startup qu’Airbnb a acquise en 2017, après que la société basée en Californie ait aidé la plateforme de l’immobilier à éviter les problèmes depuis 2015, en filtrant les annonces mensongères.

Évaluation des invités par l’IA pour déterminer des clients aux caractères "indignes de confiance"

Selon le quotidien londonien, la technologie d’Airbnb utilise l'intelligence artificielle pour repérer les personnes "associées" à de faux profils de réseau social ou celles qui ont donné de faux détails. Le brevet vu par le quotidien suggère également que les utilisateurs sont mal notés si les mots clés, les images ou les vidéos qui leur sont associés sont liés à la drogue ou à l'alcool, à des sites ou des organisations haineuses ou au travail du sexe. Les personnes « impliquées dans la pornographie » ou qui ont « écrit du contenu en ligne avec un langage négatif » seront également notées à la baisse.

Selon un article de quartz qui a rapporté l’achat de Trooly en juin 2017, la startup de vérification des antécédents utilise des informations provenant du Web public, du Web noir, des médias sociaux autorisés et de sa propre agrégation de dossiers pour évaluer les références des individus et des entreprises. Selon l’article, le site Web de Trooly affirmait à l’époque que les prédictions comparativement fiables sont « exemptes de biais que les vérifications d'antécédents, les cotes de crédit et les outils de gestion du risque de la vieille école ».

Airbnb n’a pas répondu à une demande de commentaires d’Evening Standard concernant la mesure dans laquelle le site Web utilise l'outil de Trooly. Cependant, son site Web indique l'utilisation que la plateforme fait de son IA pour évaluer les clients potentiels : « Chaque réservation d'Airbnb est notée pour le risque avant qu'elle ne soit confirmée. Nous utilisons l'analyse prédictive et l'apprentissage machine pour évaluer instantanément des centaines de signaux qui nous aident à repérer et à enquêter sur les activités suspectes avant qu'elles ne se produisent ».

L'apprentissage machine analyse les informations trouvées sur le demandeur de logement, y compris, par exemple, un article lié à un crime, et peut "pondérer " la gravité des infractions. Ses sources d'information sont ensuite prises en compte pour former un "diagramme de la personne", selon le brevet. Selon le quotidien, ces données combinées permettent d’analyser la façon dont le client agit envers les autres hors ligne. L'apprentissage machine calcule ensuite la "compatibilité" de l'hôte et du client.

L’IA d’Airbnb arrive alors que la société fait face depuis des années aux problèmes des clients indélicats

Selon Business Insider, l'application de location à court terme a tenté d'assurer la sécurité des invités et des hôtes à la suite de plusieurs crises très médiatisées l'année dernière. La société aurait interdit les fêtes dans ses listes après que cinq personnes aient été tuées en octobre lors d'une fusillade à un Airbnb en Californie, et d'autres hôtes ont accusé les invités d'avoir subi des millions de dollars de dommages. Airbnb est également aux prises avec des hôtes qui pratiquent des escroqueries à long terme par le biais de l'application, en se faisant passer pour des propriétaires qui affichent des listes frauduleuses sur le site. Donc si l'outil peut éliminer les fauteurs de troubles potentiels et les faux hôtes, il est facile de voir pourquoi la société serait désireuse de le mettre en œuvre.


Cependant, selon Futurism, il est difficile de dire si une IA peut réellement prédire si une personne est un psychopathe – ou du moins quelqu'un qu’Airbnb ne voudrait pas voir chez les hôtes – uniquement à partir des informations en ligne la concernant.

Dans une déclaration à Business Insider, un porte-parole d'Airbnb a confirmé qu'elle est propriétaire du brevet, mais qu'elle n'applique pas actuellement toutes les méthodes de filtrage du logiciel telles que décrites dans le dépôt de brevet. Il a ajouté que la société se limite aux vérifications des antécédents des utilisateurs. « Comme pour toute autre entreprise, nous déposons un certain nombre de brevets, allant de la recherche de listes à l'automatisation de la disponibilité des réservations, et cela ne signifie pas nécessairement que nous mettons en œuvre tout ou partie de ce qu'ils contiennent », a déclaré le porte-parole.

Les applications de l’IA se sont multipliées ces dernières années. Des chercheurs de l'Université de Cambridge ont publié en décembre dernier une proposition dans la revue Ethics and Information Technology qui exploite les techniques de cybersécurité basée sur l’IA pour donner le contrôle à ceux qui sont ciblés par les discours haineux, sans recourir à la censure. En effet, ces chercheurs ne s’alignent pas sur le principe de détection automatique du discours haineux, qui est selon eux difficile, parce que les définitions de ces contenus varient en fonction de la nation. D’après eux, le discours haineux doit être signalé par ceux qui y sont exposés, après que le « préjudice psychologique » voulu ait été infligé.

Les experts de Cambridge Language et Machine Learning utilisent, par conséquent, des bases de données de menaces et d'insultes violentes pour créer des algorithmes qui peuvent fournir un score pour la probabilité d'un message en ligne contenant des formes de discours haineux. Et à mesure que ces algorithmes s'affinent, les discours de haine potentiels pourraient être identifiés et « mis en quarantaine ». Les utilisateurs recevraient une alerte d'avertissement avec un « Hainomètre » (baromètre indiquant le score de gravité du discours haineux), le nom de l'expéditeur et une option pour afficher le contenu ou le supprimer sans l'afficher.

Selon des commentateurs du sujet concernant l’IA d’Airbnb, la technologie de la plateforme de location ne pourra fonctionner qu’avec les utilisateurs qui utilisent leur vrai nom sur Internet ou qui utilisent la même adresse e-mail pour leur compte de média social que pour leurs posts de réservations AirBNB.

Sources : Futurism, Documents de brevet

Et vous ?

Que pensez-vous de l’IA d’Airbnb ?
L’outil d’IA d’Airbnb scanne Internet à la recherche d'indices pour écarter les clients non fiables. N’y aurait-il pas de risques de biais liés à cette technologie, selon vous ?

Lire aussi

Des chercheurs font appel à un outil basé sur l'IA pour mettre en quarantaine le discours haineux, afin d'éviter de passer par la censure et donner à l'utilisateur plus de contrôle
L'IA identifie des caractéristiques auparavant inconnues associées à la récurrence du cancer, selon un nouveau rapport
Ubisoft a construit une nouvelle IA pour apprendre à une voiture à se conduire dans un jeu de course, en utilisant l'apprentissage par renforcement
IA : des scientifiques du MIT conçoivent un algorithme capable d'interpréter des images, pour répondre à des questions sur leur contenu

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 08/01/2020 à 11:46
Par curiosité, j'ai cherché la définition du terme "psychopathe" et que trouve-t-on?

"Il n'existe aucun consensus concernant le critère symptomatique et de nombreuses hypothèses ont été élaborées concernant les causes et les éventuelles possibilités de traitement... Il n'y a jamais eu de définition diagnostique officielle portant la dénomination « psychopathie », que ce soit dans le Manuel diagnostique et statistique des troubles mentaux (DSM) ou dans la Classification statistique internationale des maladies et problèmes de santé connexes."

D'accord... Donc, le monde médical est incapable de décrire ce qui permet de détecter et diagnostiquer une personne psychopathe, mais AirBnB arrive à le faire???

Les acteurs de la "nouvelle économie du numérique" sont vraiment trop forts!
22  0 
Avatar de MRSizok
Membre habitué https://www.developpez.com
Le 08/01/2020 à 11:56
D'accord avec @Anselme45.

A part trouver un agitateur. Ils trouveront pas les vrais psycopaths avec ça. Ils ont pas vue Dexter?
5  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 08/01/2020 à 12:25
Citation Envoyé par Stan Adkens Voir le message
Des caractéristiques telles que "névrose et implication dans des crimes" et "narcissisme, machiavélisme ou psychopathie" sont "perçus comme indignes de confiance".
Les psychopathes ne font pas plus le bordel dans les locations Airbnb que la moyenne... Souvent les psychopathes ne ressentent pas de sentiments, ils sont fort en manipulation, donc ils peuvent être haut dans la société :
20% des patrons seraient des psychopathes, selon une étude
Antisocial, sans remords et manquant de "comportements humains". À l'image du défunt dirigeant et fondateur d'Apple, Steve Jobs, ce sont là pour beaucoup les traits caractéristiques (et caricaturaux) des chefs d'entreprise. Il s'agit pourtant des symptômes les plus fréquents de la psychopathie. Mais si la confusion existe, il y a une raison scientifique derrière : 21% des patrons montrent des traits psychopathiques, selon une récente étude de l'Université de Bond, aux États-Unis, présentée le 14 septembre au congrès annuel de la Société australienne de psychologie.
Les 10 professions qui attirent les psychopathes
Faites-vous partie de la liste ? Le psychologue britannique Kevin Dutton a répertorié dans son livre La sagesse des psychopathes, les métiers qu’ont tendance à exercer les psychopathes.
  • 10. Les fonctionnaires
  • 09. Chef cuisinier
  • 08. Membre du clergé
  • 07. Policier
  • 06. Journaliste
  • 05. Chirurgien
  • 04. Commercial
  • 03. Présentateur télé ou radio
  • 02. Avocat
  • 01. Chef d’entreprise
J'en verrais bien chez les ministres/sénateurs/présidents.
1 manager sur 5 serait un psychopathe
Vous trouvez que votre patron s'énerve rapidement et dévalorise sans cesse ses collaborateurs. Rien d'étonnant. Selon des psychologues, les postes à responsabilités seraient trop souvent occupés par des personnalités psychopathiques.
Citation Envoyé par Stan Adkens Voir le message
Selon Business Insider, l'application de location à court terme a tenté d'assurer la sécurité des invités et des hôtes à la suite de plusieurs crises très médiatisées l'année dernière. La société aurait interdit les fêtes dans ses listes après que cinq personnes aient été tuées en octobre lors d'une fusillade à un Airbnb en Californie, et d'autres hôtes ont accusé les invités d'avoir subi des millions de dollars de dommages. Airbnb est également aux prises avec des hôtes qui pratiquent des escroqueries à long terme par le biais de l'application, en se faisant passer pour des propriétaires qui affichent des listes frauduleuses sur le site. Donc si l'outil peut éliminer les fauteurs de troubles potentiels et les faux hôtes, il est facile de voir pourquoi la société serait désireuse de le mettre en œuvre.
Ceux qu'il faut bannir en priorité ce sont qui vont faire la fête, et laisser le bordel dans l'appartement en partant.
Je ne sais pas si ces personnes lâchent sur les réseaux sociaux les informations nécessaire pour qu'un algorithme comprennent qu'ils foutraient la merde dans un Airbnb.
Il faut respecter la location et ne pas se croire tout permis.

Ça fait chier de laisser des gens occuper ta maison et ils cassent tout :
5  1 
Avatar de micka132
Expert confirmé https://www.developpez.com
Le 08/01/2020 à 12:30
Sur le lien du brevet ca ne parle pas de psychopathe mais de façon plus large d'incompatibilité...

Determining trustworthiness and compatibility of a person
Methods, systems, and apparatus, including computer programs encoded on a computer storage medium, for identifying documents related to a person, deriving behavior and personality trait metrics from analyzing the documents for information relevant to assessing behavior and personality of the person, and determine a trustworthiness score or compatibility score of the person based on the behavior and personality trait metrics using a scoring system.
Ca ne me surprend pas du tout, c'est juste le vrai danger que représente les réseaux sociaux qui prend son visage finale petit à petit.
4  0 
Avatar de Neckara
Inactif https://www.developpez.com
Le 08/01/2020 à 15:33
Les psychopathes aussi ont droit de se loger, faut pas discriminer.

Plus sérieusement, ce système me semble très discriminatoire et risque franchement d'empiéter sur la liberté d'opinion et d'expression, voire même de religion.
Ce n'est pas parce que j'ai une position politique que AirBnB n'aime pas que cela justifie de me refuser l'accès à un logement.

De même, si j'ai un compte sur YouPorn ou que-sais-je-encore quel site, en quoi cela regarde AirBnB ?
Qu'ils se mêlent de leur propre cul.
4  0 
Avatar de hugo93
Nouveau Candidat au Club https://www.developpez.com
Le 08/01/2020 à 13:25
Juste comme ça, cela suppose de nourrir l'IA avec des données qui peuvent-être sensible (casier judiciaire) pour objectif le profilage d'un individu sans son consentement...
Combien de principes de la RGPD sont enfreints ?
1  0 
Avatar de sergio_is_back
Membre expert https://www.developpez.com
Le 08/01/2020 à 14:18
Airbnb prétend que son IA peut prédire si les clients sont des psychopathes, Après avoir scanné leur vie en ligne et regroupé des informations sur eux
Et ils ont appelé leur IA comment ? Mme IRMA ?
1  0 
Avatar de SoyouzH2
Membre régulier https://www.developpez.com
Le 08/01/2020 à 15:29
@Ryu2000

Ça c'est ton coté "Ont est pas de droite c'est pas vrai ! ont est PAS DE DROITE !... enfin ont est quand même pas de gauche faut pas déconner non plus."

Des fois je viens lire les comms juste pour te voir faire la toupie sur un sujet de société.
1  0 
Avatar de el_slapper
Expert éminent sénior https://www.developpez.com
Le 08/01/2020 à 16:22
Citation Envoyé par Neckara Voir le message
Les psychopathes aussi ont droit de se loger, faut pas discriminer.
+1. Tant qu'ils ne logent pas chez moi(mais bon, je ne fais pas d'airBnB, alors ça devrait aller)

Citation Envoyé par Neckara Voir le message
Plus sérieusement, ce système me semble très discriminatoire et risque franchement d'empiéter sur la liberté d'opinion et d'expression, voire même de religion.
Ce n'est pas parce que j'ai une position politique que AirBnB n'aime pas que cela justifie de me refuser l'accès à un logement.
En outre, si on se fait usurper son identité, on est mal.

Citation Envoyé par Neckara Voir le message
De même, si j'ai un compte sur YouPorn ou que-sais-je-encore quel site, en quoi cela regarde AirBnB ?
Qu'ils se mêlent de leur propre cul.
Ils cherchent des signes de déviance. Généralement, quelqu'un qui ne respecte pas les autres sur un critère précis ne les respecte pas non plus sur les autres(effet Al Capone, il a tué 110 personnes de ses mains, mais on l'a fait tomber pour fraude fiscale - parceque là il y avait des preuves). Sauf que pour que ça aie un sens, il faut considérer le signal comme un simple signal. Pas comme une preuve. Comme expliqué sur ce lien gauchiste qui va te faire hurler, quand une dame(spécialement tout en bas de l'échelle) se plaint de harcèlement sexuel, c'est le moment d'ouvrir une enquête. La probabilité de trouver des trucs non liés, genre des malversations, est très élevée. Mais ça reste une probabilité. Pas une preuve. Tant qu'on a pas de preuve, aucune mesure ne devrait être prise.

Et ils prennent des mesures basées sur des signaux, pas sur des preuves. En outre, on peut douter de la pertinence desdits signaux, mais même si ils étaient pertinents, ça resterait des signaux, pas des preuves. Des gens accusés(voire même convaincus par un tribunal) de harcèlement sexuel et qui n'ont jamais piqué dans la caisse, ça existe. Et avoir un compte youporn est bien moins pertinent encore que ce genre d'accusation.

C'est le problème de confondre la statistique et l'individu. La statistique me dit que j'ai de fortes chances de trouver quelqu'un qui va mettre à sac l'appartement si son profil internet est de telle manière. Ca n'est qu'une statistique. Ca ne me renseigne pas sur un individu précis. Les gauchistes que j'ai citées sont bien plus prudentes - elles parlent juste de vérifier plus en détail, voir si on trouve facilement des choses(semble-t-il le plus facile à trouver, c'est les fausses notes de frais, à partir de quoi on peut remonter la piste). Si on ne trouve rien, on ne trouve rien. AirBnB n'a pas ce genre de précautions. C'est mal.

En même temps, AirBnB, c'est mal par définition(de l’hôtellerie sans les normes de sécurité ou d'hygiène qui vont avec, très peu pour moi).
1  0 
Avatar de ddoumeche
Membre extrêmement actif https://www.developpez.com
Le 10/01/2020 à 12:43
Ce n'est pas parce que j'ai une tête de psychopathe repris de justice que je doive être discriminé, mon casier judiciaire est vierge. Contrairement à celui de nos chèrs élus de tout bord, ne nous trompons pas d’ennemis.
L'IA d'AirBnb devrait aussi discriminer les latinos et les afro-américains, puisque nous en somme à juger à la tête du client.

En fait c'est l'arrivé du crédit social chinois, mais par la porte du privé. Pas très surprenant en fait.
1  0