L’utilisation de l’intelligence artificielle pour prédire des comportements criminels et les empêcher n’est plus de la fiction. Le développement de ce procédé est déjà à un stade avancé dans nos sociétés occidentales. Mais les pires dérives déjà observables en Chine peuvent-elles nous faire renoncer à ce rêve, qui ressemble beaucoup à une dystopie ?
Connaissez-vous Norman ? Nommé d’après le personnage de fiction Norman Bates, le type qui tue des femmes sous la douche dans le film Psychoses de Hitchcock, Norman est la première intelligence artificielle psychopathe jamais inventée selon la description même de ceux qui l’ont créée.
Élevé de façon isolée par des chercheurs du Massachusetts Institute of Technology, Norman est un réseau de neurones auto-apprenant qui a été nourri de descriptions écrites de photos et vidéos explicitement violentes.
Norman a appris à reconnaître les choses, mais il l’a fait à partir de données bien spéciales. Une autre intelligence artificielle, un autre réseau auto-apprenant dénommé Inkblot a, quant à lui, été nourri avec des images de fleurs, de chats et de jolies familles. Norman et Inkblot ont ensuite été confrontés à une tâche d’encre similaire à celles utilisées dans les tests psychologiques humains.
Ils n’ont pas reconnu la même chose : là ou Inkblot reconnaissait «un vase rempli de fleurs», Norman reconnaissait « un homme en train de se faire tirer dessus ». Là ou Inkblot voyait des oiseaux sur un arbre, Norman voyait une personne en train de se faire électrocuter. L’objectif de l’expérience ? Comprendre la façon dont les données influencent la soi-disant neutralité des intelligences artificielles et leur capacité supposée à repérer des schémas.
Connaissez-vous Compas ? Correctional Offender Management Profiling for Alternative Sanctions, ou plus simplement Compas, est un outil de gestion et de profilage des délinquants en milieu judiciaire pour l’orientation des sanctions alternatives, est un outil informatique d’évaluation des risques et des besoins fondés sur la recherche qui aide les praticiens de la justice pénale à placer, superviser et gérer les délinquants.
Utilisé dans de nombreux États nord-américains, Compas permet de placer les détenus dans les programmes appropriés. Par exemple :
● En donnant la priorité de traitement la plus élevée à ceux qui présentent un risque élevé et modéré de récidive.
● En offrant aux délinquants à faible risque des programmes de réadaptation axés sur le travail, les aptitudes à la vie quotidienne et la croissance personnelle plutôt que sur des programmes de traitement et de réadaptation.
La recherche montre que les programmes intensifs de traitement et de réadaptation – les programmes les plus intensifs en termes de conséquences sociales et de restrictions de libertés, n’ont aucun intérêt pour les délinquants à faible risque, voire augmentent le risque de récidive.
