L'Intelligence Artificielle et la Surveillance: Les Enjeux de l'AI Act et la Protection des Données
L’intelligence artificielle (IA) est en pleine expansion, et avec elle, les préoccupations concernant la surveillance et la protection des données. L’Union Européenne vient d’adopter la première loi mondiale sur l’IA, l’AI Act, une étape cruciale dans la régulation de cette technologie. Cette loi, dont la source est *The Verge*, vise à encadrer les risques liés à l’IA et à garantir la protection des citoyens.
L’AI Act classifie les systèmes d’IA en fonction de leur niveau de risque, divisés en systèmes à faible risque et systèmes à haut risque. Les systèmes à haut risque, comme ceux utilisés dans les infrastructures critiques ou les dispositifs médicaux, sont soumis à des règles de transparence et de responsabilité accrues. Parmi les interdictions, on retrouve l’utilisation de systèmes d’IA pour la « notation sociale » et la « police prédictive », qui pourraient conduire à des discriminations et à une surveillance généralisée. Les règles de transparence exigent, par exemple, que les individus puissent savoir si un système d’IA prend des décisions qui les concernent et quel est le processus qui a mené à cette décision. Il est essentiel de noter que, selon la source, cette loi fait partie d’une stratégie plus large visant à protéger les droits fondamentaux et les libertés publiques.
Un exemple concret est l’évocation du projet « mouchard » de France Travail, qui est présenté comme un exemple de surveillance qui pourrait être rendue obsolète par cette nouvelle réglementation. En effet, la transparence exigée par l’AI Act limitera la possibilité de collecter et d’analyser des données de manière discrète et potentiellement intrusive. Il est donc crucial que les acteurs concernés adoptent des pratiques de développement et de déploiement responsables de l'IA, en privilégiant la transparence et la conformité avec les nouvelles réglementations.
Le conseil de la conseillère, tel que donné par l’une des conseillères mentionnées dans le contexte, est d’éviter d’être surveillé, ce qui se traduit par l’utilisation de logiciels libres et open source qui permettent d’éviter les traqueurs et les systèmes de surveillance. La création d'un portfolio basé sur des projets libres, comme des scripts ou des interfaces, peut renforcer la crédibilité et démontrer un engagement envers la protection des données et la sécurité. En résumé, l'AI Act marque un tournant dans la régulation de l'IA, en mettant l'accent sur la transparence, la responsabilité et la protection des droits fondamentaux.