Un concert annulé à cause d’une erreur d’IA #
Un musicien canadien a vu son concert annulé après avoir été incorrectement identifié comme un délinquant sexuel par un résumé d’IA de Google.
Confusion due à une fausse information #
Ashley MacIsaac, violoniste et chanteur primé aux Juno, devait se produire à la Sipekne’katik First Nation en Nouvelle-Écosse, au Canada, le 19 décembre. Il a révélé avoir été informé de l’annulation suite à des erreurs dans un résumé d’IA de Google, qui l’a accusé à tort d’avoir été condamné pour divers crimes, notamment des agressions sexuelles.
Le lieu a apparemment noté la désinformation en ligne, et MacIsaac pense que l’IA l’a confondu avec un autre individu canadien portant le même nom.
Conséquences possibles de la méprise #
Le musicien a déclaré à The Canadian Press qu’il pourrait avoir été diffamé par cette erreur. “Si un avocat souhaite s’investir (à titre gracieux)… je serais prêt à me battre, car je ne suis pas le premier et certainement pas le dernier,” a-t-il déclaré.
Il a aussi souligné qu’être mis dans une situation risquée à cause d’une entreprise de médias constitue de la diffamation. “Je redoute ce qui pourrait se passer si j’essayais d’entrer dans un autre pays. J’aurais pu me retrouver en prison à la frontière. Il faut donc réfléchir à ce que les entreprises d’IA doivent assumer comme responsabilités et quelles mesures elles peuvent prendre pour éviter de telles situations.”
Wendy Manton, porte-parole de Google Canada, a précisé dans un communiqué que leurs résumés d’IA changent fréquemment pour afficher les informations les plus “utiles”. “Lorsqu’il y a des problèmes – comme si nos fonctionnalités interprètent mal le contenu du web ou manquent de contexte – nous utilisons ces exemples pour améliorer nos systèmes et pouvons prendre des mesures en fonction de nos politiques.”
La Sipekne’katik First Nation a présenté des excuses à MacIsaac, déclarant : “Nous déplorons sincèrement le préjudice causé à votre réputation et à votre subsistance. Le chef et le conseil apprécient votre art, votre contribution à la vie culturelle des Maritimes et votre engagement envers la réconciliation.”
À lire Lana Del Rey répond aux accusations selon lesquelles elle aurait grandi dans la richesse.
MacIsaac a exprimé son enthousiasme à recommencer l’événement et a déjà été contacté par des avocats intéressés à prendre en charge son cas.
“Je vous assure, ce n’est pas un endroit agréable,” a-t-il confié. “Je suis assis devant chez ma grand-mère en attendant Noël. Ce n’est pas la conversation que je veux avoir aujourd’hui – ‘Oh, oui, quelqu’un m’a traité de délinquant sexuel.’”
