Les nouvelles technologies de création et de diffusion menacent l’intégrité de l’espace informationnel, tissu du débat public et de l’action collective. Pour commencer à y faire face et lancer l’action, le Pôle d’Excellence Cyber a publié un livre blanc mobilisant les expertises d’une trentaine de contributeurs.
Poser les jalons de la lutte contre la désinformation
À l’ère des technologies d’information de masse, fakes news et autres opérations de désinformation prolifèrent. S’engagent alors manœuvres d’influence, manipulation de l’information, voire propagande. Si les solutions techniques pour lutter sont encore aujourd’hui peu développées, la capacité de réaction et de réponse s'en trouve limitée.
Le Pôle d’Excellence Cyber, fondé en 2014 par le ministère des Armées et le Conseil régional de Bretagne, à réunit un groupe de travail, dont l'IRT b<>com fait partie. Nommé « Lutte contre les manipulations de l’information », son objectif est de faire avancer le débat sur le sujet et proposer un plan d’action à l’échelle nationale voir européenne.
En mai dernier, le groupe de travail a publié un livre blanc, fruit de six mois de travail menés au travers de disciplines plurielles, allant de la défense à la géopolitique, aux opérationnels et techniques, en passant par l’environnement juridique.
L’intelligence artificielle, des progrès qui feintent la réalité
Les outils basés sur l’IA se développent et se démocratisent. La création de faux contenus visant à tromper ou biaiser les internautes devient alors simple et accessible. Face à ce constat, Stéphane Paquelet, Responsable du labo Intelligence Artificielle chez b<>com, apporte son analyse sur la nécessaire régulation de l’IA.
« La lutte contre les manipulations de l’information est promise à remodeler en profondeur le domaine de la cyber-sécurité. À un stade naissant, elle est donc une opportunité pour structurer une nouvelle filière industrielle en y associant les débats réglementaires et sociétaux nécessaires.»
Son analyse est centrée sur deux modes de fonctionnement de l’IA dans le cadre de traitement de données : l’IA générative, dont les progrès récents ne cessent de bluffer, tant aux niveaux audiovisuels et textuels, et l’IA analyse, qui peux détecter et classifier de manière totalement arbitraire des contenus.
Il précise les leviers existants pour mesurer et encadrer leurs effets, tout en prenant en compte les enjeux juridique, éthiques et ontologiques que cela engendre.
