IA Robotique & Cybersécurité

Cette année encore Thierry Berthier, Pilote du groupe « Sécurité – IA – Robotique » du Hub France IA et directeur scientifique de la fédération professionnelle européenne Drones4Sec, a organisé une table ronde intitulée “IA Robotique & Cybersécurité” le 13 décembre 2023 à Limoges.

Cybersécurité 2023 BERTHIER couverture

 

Organisée en trois grandes parties :

  • Six décennies de R&D en IA pour converger vers une IA générale ;
  • Les révolutions de la robotique associée à l’IA ;
  • La cybersécurité, comme ingrédient indispensable aux révolutions de l’IA et de la robotique.

Cette conférence reprend les grands thèmes des risques et opportunités liés aux nouvelles technologies… qui font régulièrement la une de l’actualité : intelligence artificielle (IA), essaims de drones, cyber-attaques…

L’IA s’est invité dans l’actualité il y a un an avec le lancement de ChatGPT. Américains et chinois domine le marché de l’IA mais les challengeurs ne sont pas loin, y compris la France avec Mistral AI qui a tout récemment levé 385 M€ pour développer son propre modèle.

AI RACE

Pour en savoir plus sur l’intérêt des agents conversationnels, leurs limites et s’y former : Introduction à l’utilisation des agents conversationnels (IA).

GPT-4

ChatGPT concentre l’attention du grand public mais il n’est pas la seule solution d’IA. Bien au contraire, il en existe même pléthore chacune spécialisée sur une activité prédéterminée :

Most Popular AI tools 2023

Pour mémoire, avant d’utiliser ces outils, il est nécessaire d’en comprendre risques et limites.

Les risques tout d’abord : tous ces services sont en ligne. Aussi tous les prompts soumis à ces systèmes sont envoyés sur internet avec les éventuelles données qu’ils comprennent. L’utilisateur de solutions d’intelligence artificielle doit avoir conscience qu’il perd le contrôle sur les données qu’il fournit dans ses requêtes et notamment sur l’usage que ces outils peuvent en faire ultérieurement (risque de communication à d’autres utilisateurs, de réutilisation par l’éditeur du service…). Il n’est donc pas recommandé de communiquer des données personnelles ou sensibles (RGPD), des données protégées par le secret des affaires ou appartenant à des tiers. La même prudence doit être de rigueur avec l’usage des moteurs de recherche…

Par ailleurs, l’éditeur du service d’IA (idem pour un moteur de recherche) est en mesure d’identifier les domaines de recherche de chaque utilisateur ce qui peut s’avérer problématique pour les entreprises désireuses de protéger la préparation d’opérations stratégiques n’ayant pas vocation à être rendues publiques (par exemple : préparation d’un dépôt de brevet, développement d’un nouveau produit ou logiciel…). Les entreprises doivent se prémunir et sensibiliser leurs équipes contre les risques liés à l’intelligence économique. Selon le Guide de l’intelligence économique “L’intelligence économique consiste à collecter, analyser, valoriser, diffuser et protéger l’information économique stratégique, afin de renforcer la compétitivité d’un Etat, d’une entreprise ou d’un établissement de recherche.“. Pour approfondir de dernier sujet, lire : L’intelligence économique : un guide pour en comprendre les enjeux et les risques / Tous les articles en rapport avec l’intelligence économique.

MENACES CHATGPT

Concernant les limites : il ne faut pas prendre pour argent comptant les affirmations édictées par les IA mais faire preuve d’esprit critique. En effet, les agents conversationnels sont doués pour rédiger des réponses convaincantes, argumentées… quelque fois erronées voire basées sur des données construites de toute pièce à partir de faits fictifs. Ce phénomène appelé hallucination est loin d’être rare. Aussi, il est préférable de maîtriser les sujets interrogés pour pouvoir juger de la crédibilité des réponses obtenues (à l’image des calculs effectués sur une calculatrice, mieux vaut avoir une idée du résultat attendu pour déjouer une faute de frappe)…

Complexité du réel pour l’IA : chihuahua ou muffin ?

Complexité du réel pour l'IA : chihuahua ou muffin ?

Une vache de 5,2 mètres de long ?

VACHE IA

Dilemme éthique de la voiture autonome : qui tuer ? La grand-mère qui a déjà vécu ? Le bébé qui n’a rien à faire ici ? Ou les passagers de la voiture ?

DILEMME ETHIQUE DE LA VOITURE AUTONOME

Dernier sujet : l’usage des nouvelles nouvelles technologies comme arme. Les IA sont partout y compris comme arme de guerre sans compter les drones dopés à l’IA que l’on retrouve sur les champs de bataille que ce soit dans la guerre qui oppose l’Ukraine à la Russie, ou Israël contre le Hamas… Les drones kamikazes attaquent en essaims… Les outils de lutte anti-drones se développent. De nouvelles armes appellent de nouvelles contre-mesures.

LUTTE ANTI DRONES

Le support de la conférence est téléchargeable ci-après. Lien vers les sujets 2022.

Share Button
Les Enjeux De Sécurité Des Révolutions  IA-Robotique
Les Enjeux De Sécurité Des Révolutions IA-Robotique
Les-enjeux-de-securite-des-revolutions-_IA-Robotique_-.pdf
9.8 MiB
74 téléchargements
Détails...
The following two tabs change content below.
Après seize années passées en cabinet d’expertise-comptable et de commissariat aux comptes (où j’ai exercé comme expert-comptable et chef de mission audit), j’ai pris le poste de directeur comptable d’un groupe de distribution automobile en novembre 2014. Au cours de ma carrière, j’ai acquis une expérience significative en audit et en exploitation des systèmes d’information (analyse de données, automatisation des tâches, programmation informatique) au service de la production des comptes annuels et consolidés. C’est cette expérience personnelle et ma passion pour l’informatique que je partage sur ce blog. Mon CV / Réalisations personnelles et projets informatiques / Ma collection / Me contacter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.