Pour une intelligence artificielle au service de l’intérêt général

Le Sommet mondial de l’intelligence artificielle (IA) se tiend les 10 et 11 février à Paris. Le CESE souhaitait remettre, avant cette échéance, la première contribution de la société civile proposant un cadre d’acceptabilité du déploiement de l’IA dans la société, au service des êtres humains et de l’intérêt général. Nous avons posé trois question à Eric Meyer co-rapporteur de l’avis du CESE.

Pourquoi s’emparer de ce sujet ?

L’intelligence artificielle (IA) est omniprésente dans nos vies. Nous y sommes confronté.es chaque jour, avec la recommandation de contenus ou la programmation de nos smartphones par exemple. Ce développement de l’IA, en particulier générative (qui permet la création de nouveaux contenus), suscite des inquiétudes d’ordre éthique, sociétal, social, économique, environnemental ou encore géopolitique.

La question est donc de savoir si l’IA peut se déployer dans la société au service de l’intérêt général, et à quelles conditions.

Quels sont alors vos constats et questionnements ?

Ces travaux décryptent les grands enjeux du déploiement de l’IA : son impact sur nos droits fondamentaux et libertés individuelles, son empreinte environnementale, ou encore l’impératif d’autonomie stratégique européenne qui dicte les politiques économiques. Le CESE s’intéresse aussi aux conséquences du développement fulgurant de cette technologie dans toute la société : au travail, à l’école, dans les services publics, chez le médecin… L’objectif est de dresser un panorama des impacts et perspectives de l’IA. « Pour le CESE, le développement technique n’est pertinent que s’il est au service des êtres humains et de l’intérêt général ». Cette vision doit transcender les politiques publiques, modeler chacune des orientations politiques et ainsi façonner notre manière de « faire société ». Au regard des enjeux démocratiques et géopolitiques associés à l’IA, le CESE juge important de disposer de ressources technologiques propres en Europe. Parallèlement, il appelle à une vigilance collective pour poser cadre clair garantissant un déploiement de l’IA mesuré, responsable, éthique et durable.

Quelles sont les principales préconisations de cet avis ?

Cet avis comporte 32 préconisations pour définir les contours du cadre d’acceptabilité de l’IA. Celles-ci peuvent être articulées en trois grands volets. Tout d’abord, prendre systématiquement en compte l’utilité sociétale de l’IA. Le CESE a défini quatre dimensions indissociables, qui doivent impérativement être respectées dans le déploiement de nouvelles infrastructures, le développement d’usages et l’adoption de politiques publiques relatives à l’IA : la compatibilité avec les limites planétaires ; le progrès social ; les enjeux économiques ; et le respect des droits fondamentaux, des libertés individuelles et de l’égalité réelle pour tous.tes. Ensuite, il s’agit de garantir aux citoyen.nes la faculté d’exercer leur choix et leurs esprit critique sur les usages de l’IA. Le déploiement de l’IA doit être réalisé en pleine conscience, et les citoyen.nes doivent pouvoir exercer des choix éclairés quant à l’implantation d’infrastructures et le développement d’usages associés à l’IA. Par exemple, dans le cas des services publics, cela signifie qu’un accompagnement et un accueil humain en alternative au service dématérialisé doit systématiquement être proposé. Ledernier volet explique comment assurer la transparence et l’explicabilité de la technologie. L’IA étant intrinsèquement biaisée, en raison des jeux de données qui ont servi à son entraînement ou aux choix ayant dicté la programmation de ses algorithmes, il est crucial de garantir une transparence et une explicabilité des décisions et des résultats produits par l’IA. A ce titre, la publication obligatoire d’explications claires sur le mode de prise de décision des algorithmes de la part des concepteurs de modèles d’IA, est une des recommandations opérationnelles du CESE.

Pour en savoir plus sur ce rapport, cliquez ici