Le réseau des AISI publie les premiers résultats d’expérimentations conjointes

Ces expérimentations, menées principalement par Singapour, le Japon et le Royaume-Uni, ont d’une part éprouvé la robustesse cyber de deux modèles d'IA et d’autre part les réponses fournies par ces modèles en fonction de la langue de l'utilisateur. Ces essais témoignent de l'ambition du réseau d'évaluer scientifiquement des modèles d'IA et de contribuer à l'élaboration des bonnes pratiques en la matière.

La France, membre du réseau depuis son lancement à San Francisco en novembre 2024, a fourni le jeu de données de l'évaluation portant sur la cybersécurité des modèles. Elle a également réalisé les évaluations de performance relatives aux risques de sécurité se posant spécifiquement lorsque l’on interagit avec les modèles en langue française. Ces contributions s’inscrivent dans les objectifs de l'Institut national pour l'évaluation et la sécurité de l'IA (INESIA) dont la création a été dévoilée quelques jours avant la tenue du Sommet, et matérialisent la place de la France dans ce réseau. 

Les parties prenantes de l’Institut se sont particulièrement impliquées dans ces essais internationaux. Cette nouvelle collaboration internationale est fondamentale pour la conduite des évaluations afin de s'assurer de leur robustesse, de leur précision, et la bonne prise en compte des spécificités linguistiques. La coopération est d'autant plus cruciale lorsque l'évaluation des modèles porte sur des questions de défense et de sécurité nationale. 

Profitant de la présence en France de nombreux représentants des Instituts internationaux à l’occasion du Sommet, le groupe de travail s'est réuni dans les locaux des parties prenantes de l’INESIA, qui ont accueilli la rencontre. Ces travaux sont annonciateurs de futures avancées en matière d'évaluation de l’IA, dans un esprit de coopération et de soutien à l'innovation, au profit de l'écosystème et des citoyens.