L’Intelligence Artificielle (IA) est dorénavant juridiquement encadrée !
Un règlement du conseil européen du 21 mai dernier, encadre l’Intelligence Artificielle (IA) tout en favorisant l’innovation technologique.
Contrairement à une directive européenne qui fixe un résultat à atteindre tout en laissant aux autorités nationales une marge de manœuvre concernant la forme et les moyens pour y parvenir, un règlement du conseil européen est un acte juridique, obligatoire, et directement applicable. Ce règlement uniformise le développement et l’utilisation de l’IA dans tous les pays de l’Union européenne. Il vise aussi à garantir la protection des droits fondamentaux des citoyens.
Les systèmes d’IA sont classés en 4 niveaux de risques.
Les systèmes d'IA à risques inacceptables
Les systèmes totalement interdits sont ceux ayant recours à des techniques manipulatrices, de notation sociale, de déduction des émotions sur le lieu de travail,
On peut citer à titre d’exemple des systèmes de vidéosurveillance policiers fondés sur le profilage.
Les systèmes d'IA à haut risques
Certains systèmes seront soumis à des normes de sécurité particulières s’ils établissent des profils de personnes pour évaluer les performances professionnelles, la situation économique, la santé ou les déplacements d’un individu. Pour cela, les fournisseurs de tels systèmes doivent intégrer des dispositions de gestion des risques, de traçabilité des résultats ainsi que des instructions aux utilisateurs.
Si des systèmes de ce type sont mis en place sur le lieu de travail, l’employeur doit préalablement informer les représentants du personnel et les salariés concernés.
Les modèles d’IA à usage général
Les systèmes apprenants, gérants de très grandes quantités de données, et capables d’effectuer un large éventail de tâches sont considérés à risque limité. Ils doivent néanmoins se conformer à la réglementation sur les droits d’auteur.
……..et au quotidien ?
Les systèmes d’IA utilisés par les outils d’assistance présentent un risque minimal. Ils sont présents dans les moteurs de recherche en ligne, les logiciels de traduction, les modèles de santé publique – comme l’évolution d’une infection -, ou encore les algorithmes d’identification des situations potentiellement dangereuses dans les véhicules.
L'usage de l'intelligence artificielle est en plein développement dans l'entreprise, dans beaucoup de domaines. C'est une formidable opportunité de simplifier les tâches fastidieuses, d'aborder de nouveaux business... Mais il faut rester vigilant sur son bon usage. La Cfdt suit de près les applications chez Michelin. N'hésitez pas à nous faire part de vos témoignages ou interrogations.
Françoise VAST, élue CSE Clermont