Ce mardi, le Conseil de Sécurité de l’ONU a tenu sa première réunion consacrée à l’intelligence artificielle. Antonio Guterres, le Secrétaire Général de l’organisation a notamment appelé à la mise en place de garde-fous contre l’utilisation de cette technologie à des fins criminelles. Vous trouverez ci-dessous les commentaires d’Erik Gaston, Vice-président, Global Executive Engagement chez Tanium à ce sujet :
1. Pourquoi l’IA représente-t-elle un enjeu majeur pour le Conseil de Sécurité des Nations Unies ?
« Avec ses récents progrès et son adoption qui s’accélère, l’IA aura un impact sur l’économie mondiale. Les effets pourraient être à la fois positifs et négatifs, en fonction de la capacité des grandes puissances mondiales à garantir que l’adoption de l’IA se fait de manière sûre, sécurisée et responsable. Les Nations Unies jouent un rôle essentiel en réunissant les puissances mondiales pour comprendre les effets potentiels et futurs de l’IA sur la sécurité mondiale. »
2. En juin dernier, le Secrétaire Général de l’ONU, Antonio Guterres, a soutenu une proposition de certains dirigeants du secteur de l’intelligence artificielle visant à créer un organisme international de surveillance de l’IA, à l’instar de l’AIEA. Quel est l’intérêt d’avoir autant de conseils et d’organismes qui supervisent les risques liés à l’intelligence artificielle ?
« Comme aux premiers jours du cloud, il n’existe actuellement aucune norme ou structure de gouvernance établie dans le domaine de l’IA. À mesure que l’intérêt pour l’IA se développe à travers le monde, les pouvoirs publics doivent impérativement s’accorder sur des normes communes afin de garantir une utilisation responsable et transparente de la technologie. Avec des normes établies et encadrées par des organismes de surveillance mondiaux, et mises en application par les pouvoirs publics, il serait possible de dissiper une grande partie des craintes liées à l’utilisation de l’IA dans le monde. En outre, il serait plus facile d’identifier les cas où ces normes ne seraient pas respectées et, par conséquent, identifier les mauvais comportements et les acteurs malveillants. »
3. Que doivent faire les institutions internationales pour que leur approche et les normes qu’elles définissent soient pertinentes ?
« Je pense qu’il est important de faire preuve de transparence au moment où les instances internationales établissent de nouvelles normes pour l’utilisation de l’IA. Il est également important de ne pas adopter une réglementation trop contraignante, car cela pourrait ralentir l’adoption de l’IA par des acteurs légitimes et créer un déséquilibre avec les organisations qui ont l’intention de l’utiliser pour perturber la sécurité mondiale. Il s’agit là d’une occasion pour dissiper les craintes et les idées reçues au sujet de l’IA et d’établir des normes qui favorisent un usage responsable de la technologie. »
4. Quel est le rôle que doivent jouer les grandes puissances mondiales quant à la gestion des risques liés à l’IA ?
« L’IA présente de nombreux risques et soulève de nombreuses craintes : qu’il s’agisse de la confidentialité des données personnelles, des biais, de la capacité à justifier les décisions prises, mais aussi de son impact sur l’emploi ou du manque de compréhension et de transparence dans son utilisation. Bien que tous ces éléments soient importants, il est encore plus crucial que les puissances mondiales puissent s’aligner sur des normes qui régissent l’utilisation de l’IA dans une économie mondialisée, mais aussi pour mettre la technologie au service de la paix et de la sécurité mondiales. Sans un accord à l’échelle mondiale, nous pourrions voir naître de nouvelles dissonances entre les Etats, ce qui aurait pour effet d’amoindrir l’impact de cette technologie. »