La sécurité de l’IA ? La déclaration de Bletchley Park est cruciale

Les 1er et 2 novembre derniers, lors de la Sommet sur la sécurité de l'IA, tenue au Royaume-Uni à Bletchley Park, dans le comté de Buckinghamshire, 28 pays ont signé une déclaration d'intention concernant le développement de l'intelligence artificielle dans des conditions sûres.

IA : la guerre qui est sur le point d’éclater ne sera pas celle attendue
SwissGPT : l’IA suisse qui révolutionne la sécurité des entreprises
Photogallery, l'avenir de la transformation numérique au Liechtenstein

Un lieu à haute valeur symbolique, pour le meilleur ou pour le pire…

Le lieu où s'est tenu le sommet, Bletchley Park, fut le centre de décryptage pendant la Seconde Guerre mondiale où Alan Turing et son équipe ont travaillé à la création de «Christopher», la machine informatique qui a réussi à saper le code de Énigme, un appareil allemand utilisé pour coder des messages militaires secrets jusqu'alors considéré comme mathématiquement inattaquable.

Un lieu d'une valeur symbolique particulièrement élevée, car on a calculé que grâce au savant anglais, la guerre a duré deux ans de moins, sauvant au moins 14 millions de vies.

Malheureusement, le même endroit symbolise aussi l'indifférence et l'ingratitude fondamentales de nombreux gouvernements envers leurs sauveurs, étant donné qu'Alan Turing s'est suicidé en 1954 après un an de « castration chimique » qui lui a été imposée pour son homosexualité, avec la fin grotesque de la castration royale. grâce posthume". en 2013, comme si c'était lui qui devait réparer quelque chose.

Tout cela nous amène également à nous interroger sur l'approche actuelle des plus hautes autorités face aux problèmes ouverts par la récente « explosion » des technologies liées à l'Intelligence Artificielle.

La Suisse et les États-Unis alignés sur la cybersécurité et le numérique
Eau, herbe et humanité : les limites cognitives de l'Intelligence Artificielle
L'intelligence artificielle également pour le développement de nouveaux médicaments

Mais voyons ce que contient la déclaration d'intention

Après une analyse synthétique des opportunités d'amélioration qu'offre l'IA dans les différents secteurs de l'activité humaine et le constat que les technologies qui y sont liées sont désormais largement répandues, la nécessité de leur développement en toute sécurité et de leur maintien en mettant toujours les besoins de notre espèce au premier plan. centre.

Sont ensuite répertoriées une série de risques possibles, dont certains ont déjà été vérifiés sur le terrain, liés à l'utilisation des systèmes d'IA, et notamment : les risques inhérents aux droits humains (au travail, aux soins, à la justice) ; les risques inhérents à la défense de la vie privée ; risques liés à une information correcte (contenu trompeur extrêmement crédible) ; risques liés aux « singularités » technologiques liées à l’IA (nouvelles technologies de rupture dans des contextes sensibles comme les biotechnologies et l’informatique).

En Suisse les Ecoles Polytechniques Fédérales pour une IA transparente et fiable
L’intelligence artificielle est (aussi) une révolution dans la retouche photo
Innovation et journalisme : une coexistence souvent difficile

Gérer le problème au-delà des frontières nationales

Étant donné que nombre de ces risques sont intrinsèquement de nature internationale, une coopération maximale entre les États est recommandée pour y faire face au fur et à mesure qu'ils se présentent, ainsi que la participation active de tous les acteurs, à commencer par les entreprises les plus grandes et les plus importantes, donc capables de « former » les plus puissants. L'IA, dans une comparaison continue, ouverte et transparente.

Un réseau de collaborations sera donc créé au niveau mondial dans le but d'identifier les risques de l'intelligence artificielle à travers une approche scientifique globale et partagée pour mieux comprendre son impact sur la société et par conséquent construire des politiques communes pour faire face aux changements associés.

Michael von Liechtenstein sur la géopolitique et l'intelligence artificielle
Quand la vieillesse constitue la ligne de démarcation entre la bonne et la mauvaise technologie
Le leitmotiv Big Data des «Journées suisses de la statistique 2023»

Les risques de l’approche descendante dans la gestion du sujet

Plusieurs experts du secteur soulignent qu'au-delà des bonnes intentions et des déclarations de volonté de poursuivre un dialogue ouvert avec tous les acteurs, une telle approche « top-down » risque de « lier les mains » uniquement aux grandes entreprises du secteur, laissant au contraire des entités plus petites et donc difficiles à contrôler et gratuites pour tous.

Ce sont des réalités qui se diffuseront de plus en plus précisément grâce à ces technologies, actuellement développées par des entreprises comme Google et OpenAI, qui permettront une plus grande personnalisation des systèmes d'IA grâce à l'optimisation des ressources nécessaires, opérant peut-être aux limites de la légalité. .

En bref, comme le dit l’ancienne malédiction chinoise, des temps intéressants nous attendent.

Cet acte de foi permanent dans le cinéma de Christopher Nolan
Une feuille de route pour promouvoir le Liechtenstein en tant que pôle numérique
À Frauenfeld, AI pilote une nouvelle usine de tri de PET