Reactus.news.blog

Depuis quelques jours, un événement plutôt surprenant est en train de se dérouler à l’Assemblée Nationale française : les députés sont en train de débattre d’un amendement rédigé par… un robot conversationnel ! En effet, ChatGPT, l’IA développée par OpenAI, a rédigé presque intégralement un amendement qui a été proposé par Jean-Félix Acquaviva, un député de Haute-Corse, afin d’alerter sur les risques des nouvelles technologies, en particulier l’utilisation de caméras intelligentes de vidéosurveillance, autorisée par l’article 7 du projet de loi relatif aux Jeux Olympiques de Paris 2024.

L’IA a ainsi été sollicitée pour défendre les droits et libertés fondamentaux des personnes concernées par cette mesure qui inquiète de nombreuses associations et députés. Signé par vingt députés issus du groupe Libertés, indépendants, outre-mer et territoires (LIOT), cet amendement, qui est le tout premier texte rédigé par une IA à avoir franchi l’hémicycle de l’Assemblée Nationale, réclame une transparence adéquate quant aux traitements algorithmiques mis en place, afin que les personnes concernées puissent exercer leurs droits et demander une intervention humaine en cas de doute raisonnable sur la pertinence ou l’exactitude de la décision prise.

Plus précisément, ChatGPT explique que « la mise en place de traitements algorithmiques en vue de détecter en temps réel des événements susceptibles de présenter ou de révéler des risques, à des fins de sécurité publique (…) doit être encadrée afin de préserver les droits et libertés fondamentaux des personnes concernées, notamment en garantissant une prise de décision humaine à chaque étape du traitement ». En effet, l’amendement vise l’article 7 qui traite de la sécurité lors des JO de Paris et prévoit l’utilisation de caméras augmentées par des algorithmes censés détecter des « comportements anormaux », à titre expérimental et jusqu’au 30 juin 2025, soit bien après la fin des compétitions.

Il est ainsi prévu que l’IA scanne des millions de personnes et sépare le normal de l’anormal en recherchant des événements prédéterminés, qui seraient définis par décret. Une fois averti par le système, un agent public déciderait ensuite d’agir ou pas. Toutefois, un collectif d’associations internationales a déploré la mise en place d’une « surveillance injustifiée et disproportionnée dans l’espace public, au détriment des droits fondamentaux et des libertés », tandis que des avocats craignent que « les Jeux olympiques (ne se) transforment en concours Lépine des atteintes aux libertés individuelles ». Ces voix ont ainsi reçu un soutien inattendu : celui de ChatGPT en personne.

En définitive, cet amendement est une occasion de sensibiliser l’opinion publique sur les dangers de la surveillance de masse et de souligner la nécessité de garantir le respect des droits et libertés fondamentaux des personnes, même dans un contexte de sécurité publique renforcée.