Intelligence Artificielle : quelles promesses ? Quelles menaces ?

Publié le

Compte rendu du débat du Cercle du 27 avril 2017

Alors que l’intelligence artificielle est de plus en plus présente dans la sphère technologique et médiatique, que doit-on en attendre ? Des promesses ? Des menaces ? Ces questions étaient au cœur du débat organisé lors du Cercle du 27 avril avec pour intervenants, le sociologue Dominique CARDON également professeur à Science-Po Paris et Jean-Gabriel GANASCIA, professeur d’informatique à l’UMPC et Président du Comité d’éthique du CNRS. A questions (relativement) simples, réponse complexe car comme l’ont rappelé les deux experts, l’Intelligence Artificielle (IA) est une notion vieille de plus de 60 ans mais qui revient régulièrement sur le devant de la scène. Jean-Gabriel GANASCIA évoque « un temps tressé qui apparait et disparait » tandis que Dominique CARDON, préfère parler « d’Intelligence augmentée ». Car le postulat de base de l’IA est de mettre dans un automate (ça peut être un robot mais pas seulement) des ensembles de règles qui reproduiraient le raisonnement des hommes. Au fil des années, grâce aux puissances de calcul et à la sophistication des algorithmes, ces « machines » sont devenues techniquement de plus en plus performantes davantage même que les hommes sur certaines tâches précises (jeu de Go…).

Mais doit-on craindre l’étape suivante ? A savoir qu’elles deviennent plus intelligentes que les hommes, qu’elles aient leur propre but, leur propre philosophie jusqu’à se déployer toutes seules et absorber les humains ? Ce raisonnement qui trouve notamment son origine dans les romans de science-fiction a été repris par des scientifiques de renom et il est exploité aujourd’hui par certaines grandes entreprises technologiques. Pour Jean-Gabriel GANASCIA qui l’a baptisé « mythe de la Singularité », il s’agit là « d’une pure fiction » véhiculée par des « pompiers pyromanes » qui d’une part développent ces technologies d’IA et de l’autre mettent en garde sur leurs éventuels dangers. « Or rien de raisonnable ne permet de penser que cela puisse arriver ». Dominique CARDON est tout aussi critique qui dénonce ce double discours entre la fabrication d’un rêve (ou d’un cauchemar) et ce qu’il se passe réellement dans les laboratoires de ces grands groupes. De là à penser que cette exposition de l’IA pourrait cacher des buts peu avouables, le débat est ouvert. Car de fait, grâce à leur puissance financière et technologique et en s’appuyant sur le Big Data et l’IA, ces entreprises se substituent dans certains domaines (la statistique notamment) aux Etats. Et l’on assiste à un véritable transfert de souveraineté vers des acteurs privés « devenus les décrypteurs d’une certaine intelligence ». Là est sans doute le plus grand danger. Les deux intervenants appellent donc à la vigilance et à une certaine forme de contrôle via par exemple l’audit d’algorithmes et la certification des logiciels.

ECOUTER LE PODCAST

Dernière publication

Découvrez le compte rendu du débat du 27 Avril : " Intelligence Artificielle : Quelles promesses ? Quelles menaces ?" avec Dominique CARDON et Jean-Gabriel GANASCIA.

Lire