"L'Apple Card est vraiment un putain de programme sexiste", a tweeté jeudi un entrepreneur américain, David Heinemeier Hansson. "Ma femme et moi-même déclarons nos impôts conjointement et nous sommes mariés depuis très longtemps. Et pourtant l'algorithme 'boîte noire' d'Apple pense que j'ai le droit à une limite de crédit 20 fois plus élevée qu'elle", a-t-il continué.
L'entrepreneur a depuis tweeté une série de messages, racontant ses discussions infructueuses avec le service client d'Apple et pestant contre l'impossibilité à expliquer pourquoi l'algorithme a décidé que sa femme était moins éligible à des crédits que lui.
La qualification de "boîte noire" désigne des systèmes d'intelligence artificielle dont on ne parvient pas à expliciter les raisons ayant conduit aux décisions qu'ils prennent.
Question de solvabilité
Nous allons "mener une enquête pour déterminer si la loi de New York a été enfreinte et nous assurer que tous les consommateurs sont traités de manière égale quel que soit leur sexe", a déclaré un porte-parole de Linda Lacewell, directrice du département des services financiers de New York.
Apple propose depuis mars dernier l'Apple Card avec deux partenaires, Mastercard et la banque Goldman Sachs.
"Nos décisions en termes de crédit sont fondées sur la solvabilité des clients et non pas sur le genre, la race, l'âge, l'orientation sexuelle ou tout autre facteur interdit par la loi", a déclaré de son côté Andrew Williams, porte-parole de Goldman Sachs.
ats/gma