Intelligence artificielle : l'erreur humaine coûte des vies

Angela Lipps a passé cinq mois en prison. Pour une accusation de fraude qu'elle nie. L'intelligence artificielle, censée faciliter la justice, a commis une erreur fatale. Un cas qui révèle les dangers de la confiance aveugle dans les algorithmes.

Un algorithme l'a accusée, la justice l'a emprisonnée

À Tennessee, Angela Lipps, alors baby-sitter, a été arrêtée à la suite d'une accusation de fraude bancaire en Dakota du Nord. L'accusation reposait sur une reconnaissance faciale réalisée par un logiciel.

Le système, analysant des images de caméras de surveillance bancaires, a identifié Angela Lipps comme étant la personne impliquée dans les fraudes. Un détective a ensuite comparé sa photo de permis de conduire avec les images des réseaux sociaux, confirmant – à ses yeux – la correspondance. Le résultat ? Une arrestation, une détention provisoire et cinq mois de prison, le tout sans que Angela Lipps n'ait jamais mis les pieds dans le Dakota du Nord.

Le report de l'Inforum détaille l'affaire : Angela Lipps a été privée de son travail, de son logement et même de son chien pendant son incarcération. L'enquête de la police de Fargo, après son transfert, a rapidement révélé l'absurdité de l'accusation. Des relevés bancaires ont démontré qu'elle avait effectué des achats dans le Tennessee, au même moment où les fraudes étaient commises.

Ce n'est pas un cas isolé. Il s'agit du neuvième exemple aux États-Unis où une personne a été injustement incarcérée sur la base d'une accusation d'intelligence artificielle. Le problème n'est pas laफलता technique de l'IA, mais la propension des humains à accepter ses conclusions sans vérification.

Le risque est que les opérateurs de ces systèmes, trop confiants, ne remettent pas en question les résultats. Cela concerne tous les domaines : des calculs bancaires aux recrutements, en passant par la vérification d'identité. L'affaire Lipps souligne une vérité amère : la Technologie, aussi sophistiquée soit-elle, doit rester au service de la justice, et non l'inverse. La confiance aveugle en l'intelligence artificielle, c'est abdiquer de notre propre jugement.

La justice américaine a-t-elle besoin d'une mise à jour sur le rôle des humains dans la validation des algorithmes ? La réponse est plus urgente qu'on ne le pense.

Le coût humain de cette erreur silencieuse est immense. Et il ne cessera de croître.