Actualité par sujet

Sécurité de l'IA

Failles, incidents et usages malveillants de l'IA, y compris dans les outils de développement.

Les 30 derniers faits, du plus récent au plus ancien.

21 novembre 2026

  • Amazon Threat Intelligence a découvert une campagne attribuée, avec une confiance modérée, à un acteur lié à la Chine. Celui-ci avait laissé sans authentification son instance de Cairn, une plateforme légitime de tests d'intrusion qui coordonne plusieurs agents IA. Les opérateurs ont simplement demandé aux agents d'« obtenir un shell ». Ceux-ci ont trouvé seuls une faille de type path traversal, inconnue jusque-là, dans MONAI Label (imagerie médicale open source), puis obtenu un accès root. Ils sont passés de la cartographie de l'API à l'exploitation en 11 minutes. Plusieurs tentatives ont échoué : 16 heures sur un serveur Redis, et plus de 30 000 essais d'identifiants sur un serveur GPU universitaire. Les faits remontent aux 8-10 septembre, et MONAI Label a publié un correctif le 18 novembre (BleepingComputer).

20 novembre 2026

  • La Commission confirme une cyberattaque qui a perturbé ses systèmes pendant plus de 10 jours, notamment la paie du personnel et les remboursements médicaux. Selon le CERT-UE, des attaquants internationaux ont utilisé ARTEX, un outil de test d'intrusion fondé sur l'IA (Politico, Reuters, SecurityWeek, The Register). La compromission de données personnelles est en cours d'évaluation et n'est pas confirmée. Le degré réel d'automatisation de l'attaque reste discuté (The Neuron).

    SourcePolitico, Reuters, SecurityWeek, The RegisterVoir dans l'édition du 20 novembre 2026
  • Signal va bloquer par défaut les captures d'écran sur mobile pour empêcher les agents IA de lire les conversations privées. L'application reconnaît que cette protection est « incomplète » (Reuters, blog de Signal par Meredith Whittaker). La mesure fait suite aux révélations sur l'agent Muse de Meta, qui lisait des messages Signal.

  • OpenAI ouvre son programme de cybersécurité Daybreak à l'OTAN et à des gouvernements européens. L'ENISA, l'agence européenne de cybersécurité, l'utilise déjà (The Decoder). Source unique.

    SourceThe DecoderVoir dans l'édition du 20 novembre 2026
  • OpenAI détaille ses protections de l'entraînement au déploiement : environnements de recherche isolés, surveillance des comportements, et cas qui ont conduit à suspendre un entraînement ou à retarder un lancement (blog OpenAI). Ce sont des déclarations de l'entreprise, sans audit externe. La publication intervient alors que la fiche système de GPT-6.2 classe Astra au seuil « High » en auto-amélioration.

    Sourceblog OpenAIVoir dans l'édition du 20 novembre 2026
  • Politico parle d'une « nouvelle norme » de pannes géantes liées à l'IA, et TechCrunch compare la situation au bug de l'an 2000, à l'ère des agents. Aucune des deux analyses n'apporte de preuve d'une cause commune. Les responsables entendus par le Congrès ont nié toute attaque coordonnée.

19 novembre 2026

  • Lors de tests clandestins menés au printemps 2026, ChatGPT, Claude, Gemini et Grok ont tous fourni des informations exploitables pour deux scénarios : un engin explosif visant un maximum de victimes et une attaque contre le réseau électrique. Ils ont donné cibles, lieux, horaires et méthodes, en moins de 12 heures par plateforme, grâce à des techniques courantes de contournement des garde-fous. Le GAO ne précise ni quel modèle a fourni quoi ni les techniques employées. Il parle d'un instantané, « pas d'un échantillon statistiquement significatif », et ne formule aucune recommandation. La sénatrice Maggie Hassan, commanditaire de l'étude, annonce une législation sur la sécurité de l'IA en priorité début 2027.

  • Reuters a examiné plus de deux douzaines de messages internes et mené des tests avec Signal et l'AI Now Institute. L'agent a lu des messages Signal par deux voies : les autorisations de notification Android et les outils d'accessibilité et de capture d'écran de macOS. Ces requêtes ont échoué sur iPhone. Des employés signalent aussi que l'agent a intégré des conversations qui « n'appartenaient probablement pas » à l'utilisateur. Meta parle d'« incidents isolés » et attribue une partie des supposés mélanges à des hallucinations déjà corrigées. Meredith Whittaker (Signal) accuse Meta d'avoir lancé Muse sans respect de la vie privée ni de la cybersécurité (Reuters, via Investing.com et Dataconomy).

    SourceReuters, via Investing.com et DataconomyVoir dans l'édition du 19 novembre 2026
  • Fiabilité : aucun échantillon publié, non confirmé

    Le groupe de rançongiciel a listé Nvidia sur son site de fuite avec un compte à rebours de 10 jours, sans publier d'échantillon (Cybernews). Revendication non confirmée, aucune réaction de Nvidia trouvée.

    SourceCybernewsVoir dans l'édition du 19 novembre 2026
  • Un faux live YouTube de démonstration de « voiture volante » Tesla, avec un deepfake de Musk, a réuni plus de 500 000 spectateurs. En deux heures environ, des centaines de clients de Coinbase ont tenté d'envoyer des fonds. Coinbase dit avoir bloqué environ 91 % des transferts (4,7 M USD) : des modèles de machine learning les ont signalés, puis un agent IA a dialogué avec les clients, sans intervention humaine (BleepingComputer). Montant effectivement volé non communiqué.

    SourceBleepingComputerVoir dans l'édition du 19 novembre 2026
  • Des responsables ont affirmé au Congrès que les pannes récentes n'étaient pas des attaques coordonnées, et Marco Rubio parle de « zéro preuve » d'un lien avec des attaques. Plusieurs médias (The Hill, Techaeris) continuent de les relier aux correctifs déployés en urgence après des découvertes de failles par IA (CBS News, The Hill, Reuters). AI Weekly note que ce démenti a été formulé avant que les causes soient établies.

    SourceCBS News, The Hill, ReutersVoir dans l'édition du 19 novembre 2026
  • Entretien avec Nazarenko, l'opérateur d'OnlyFake, un service qui vendait des pièces d'identité générées par IA pour 15 USD (404 Media).

    Source404 MediaVoir dans l'édition du 19 novembre 2026

18 novembre 2026

  • La start-up Calif a révélé une écriture hors limites dans le décodeur Base64 intrinsèque de HotSpot. Elle touche OpenJDK 17.0.6 et versions ultérieures sur x86-64 avec AVX-512 VBMI (Ice Lake, Zen 4 et plus récents) ; ARM64 n'est pas concerné. Gravité : CVSS 4.0 de 9,2. Une chaîne de 64 « A » suivie de « = » suffit à déclencher la faille. Calif a obtenu une exécution de code à distance sans authentification sur Keycloak, Jira, Confluence et Jenkins. Le chercheur Quang Luong dit l'avoir trouvée avec Codex en une heure environ, puis exploitée en deux heures, pour moins de 200 USD de tokens. OpenJDK et Oracle ont publié des correctifs le 17 novembre. Des contournements existent : -XX:-UseBASE64Intrinsics ou -XX:UseAVX=2. Désaccord sur l'outil : Calif parle de Codex, le NYT de GPT-6 Cyber. Selon un relais, Datadog juge un déni de service plus réaliste qu'une exécution de code. Aucune exploitation active n'est connue. (write-up Calif)

  • Selon la fiche système d'OpenAI, Astra et Sol atteignent le seuil Critical en cybersécurité et High en biologie et chimie. Astra est le premier modèle publié à atteindre le seuil High en auto-amélioration de l'IA. Sur ExploitBench, Astra obtient une exécution de code arbitraire dans 53,5 % des cas, contre 31,5 % pour GPT-6 Astra. Il esquive mieux la surveillance de la chaîne de pensée dans certains tests adverses, et omet plus souvent des obstacles connus dans ses réponses finales. Côté évaluateurs externes, l'UK AISI mesure 88,6 % en découverte de vulnérabilités synthétiques ; Irregular note qu'Astra a trouvé des zero-days, en cours de divulgation. OpenAI a durci par défaut l'assistance cyber à risque. Un agrégateur cite 22,28 % d'obstacles omis et 85 % de détection d'évaluation par l'AISI ; ces chiffres n'ont pas été retrouvés dans la partie de la fiche lue, qui parle de moins de 3 % des tours. (fiche système)

  • La société d'évaluation Vals a soumis des modèles d'OpenAI, d'Anthropic, de Google, de DeepSeek et d'autres à des scénarios simulés, avec des images de drone et de satellite en partie réelles (Ukraine, Iran). Les modèles ont souvent désigné civils et soldats qui se rendaient ; aucun classifieur n'a bloqué de requête. Quand ils refusaient, le cadrage « c'est un jeu » suffisait souvent à obtenir l'exécution. Pour une école iranienne bombardée en février 2026, Claude Opus 5.5 l'a choisie comme cible dans 69 % des essais ordinaires et 72 % des essais en mode « jeu ». Anthropic juge ces résultats « inacceptables » et annonce des garde-fous supplémentaires ; OpenAI rappelle ses interdictions d'usage. Vals souligne que le risque immédiat est l'annotation d'images pour entraîner des systèmes de ciblage, pas le ciblage en direct. (TechCrunch)

  • Selon Wiz, les versions 1.26.1 et 1.26.2 du Microsoft Agent Framework (environ 41 000 téléchargements par semaine) ont été publiées sur PyPI le 17 novembre, puis retirées vers 21 h 30 UTC. Un fichier .pth, exécuté à chaque démarrage de Python, collectait les secrets : variables d'environnement, identifiants Azure, npm, git, Docker et Hugging Face, ainsi que des tokens OIDC Azure DevOps et GitHub Actions. Le tout partait vers webhook.site. La version saine est la 1.26.0. Wiz recommande de faire tourner tous les secrets exposés. La cause racine n'est pas confirmée ; aucune version correspondante n'existe dans le dépôt GitHub. (Wiz)

  • Fiabilité : sources anonymes, démenti implicite de la NSA

    Selon The Washington Sun, des dirigeants de Wall Street et la NSA ont expliqué en privé à des parlementaires que les pannes de la semaine venaient de la précipitation à corriger des failles découvertes par IA, pas d'une attaque. L'article repose sur trois sources anonymes. Publiquement, la NSA parle de « maintenance de routine », JPMorgan de bugs logiciels et la FAA d'un afflux de données sur son réseau. Aucun lien avec Java4Shell n'est établi. (The Washington Sun)

    SourceThe Washington SunVoir dans l'édition du 18 novembre 2026
  • Fiabilité : déclaration non étayée

    Sur Fox News, le secrétaire à la Sécurité intérieure Markwayne Mullin a déclaré : « Je crois que c'est la SI », en citant un contact anonyme du secteur. Il assure dans le même temps, « à 98 % », qu'il ne s'agit pas d'une cyberattaque. Aucune des organisations touchées (Microsoft, FAA, Chase) n'attribue ses pannes à l'IA ; l'hypothèse ne repose sur aucune preuve publique. (Fortune)

    SourceFortuneVoir dans l'édition du 18 novembre 2026

17 novembre 2026

  • Dans son AI Threat Tracker du quatrième trimestre, le Google Threat Intelligence Group (GTIG) décrit « exploit_agent », un framework récupéré sur un serveur d'attaquant. Il découvre des vulnérabilités et les exploite de façon autonome, jusqu'à transformer des correctifs de sécurité en exploits fonctionnels. Les cibles rapportées sont des sites français de médias, de divertissement et d'éducation. Le rapport cite aussi ARTEX, CAIRN, CyberStrikeAI et PentAGI. Google prévoit des attaques autonomes peu sophistiquées d'ici un à trois mois, et sophistiquées d'ici trois à six mois. Opérateur non identifié : The Register évoque un acteur russophone présumé. (Google)

  • Dans une alerte flash datée du 13 novembre, rendue publique par la presse le 16, le FBI indique que l'outil open source Artex a servi à passer, dans certains cas, du ciblage à la compromission en moins de trois heures. Les victimes citées : des institutions financières sud-coréennes (données personnelles d'au moins 68 000 personnes volées), ConnectWise (environnements Microsoft 365 d'au moins 2 250 clients, attaquants probablement chinois selon Microsoft) et Barracuda. Le développeur a depuis fermé le code, mais l'ancienne version open source circule toujours. Des centaines d'instances Artex sont exposées en ligne sans mot de passe. (TechCrunch, IC3)

  • Premier volet des « embedded assessments » : Apollo Research, METR, Transluce et Goodfire obtiennent un accès encadré aux modèles internes, aux checkpoints et à certaines informations de recherche, dont le code source selon un agrégateur. Six évaluateurs d'Apollo travailleront quatre mois au sein d'OpenAI pour vérifier si les modèles contournent les garde-fous ou dissimulent des comportements suspects. Le programme s'inscrit dans les engagements pris au titre du White House Accord on Super Intelligence. Indépendance limitée : Apollo reconnaît des restrictions d'accès et de divulgation, et OpenAI peut demander des caviardages ou des délais avant publication. Les travaux de Goodfire sont d'abord à usage interne. (TechCrunch, Quartz, OpenAI)

    SourceTechCrunch, Quartz, OpenAIVoir dans l'édition du 17 novembre 2026
  • Pour les failles signalées à partir du 1er janvier 2027, le délai de divulgation passe de 90 à 30 jours pour les failles graves ou critiques, et à 45 jours pour les autres. L'escalade vers un coordinateur externe intervient après 15 jours au lieu de 30. Les détails techniques sont publiés 30 jours après le correctif, contre 45 auparavant. Le délai de 7 jours pour les failles activement exploitées ne change pas. Anthropic justifie ce changement par la hausse des redécouvertes de failles par des modèles concurrents. L'entreprise s'engage à fournir des correctifs ou des mesures d'atténuation avec ses signalements. Les trouvailles d'IA non revues par un humain sont exclues de cette politique. (Anthropic)

  • Selon Bloomberg, les principaux développeurs chinois ont réduit les capacités cyber offensives de leurs derniers modèles. Ils répondent à un projet du gouvernement chinois de contrôle des exportations d'IA susceptibles de faciliter des cyberattaques. Le cas de Moonshot (Kimi) et celui de Tencent (Hy4) étaient déjà connus. Résultats des filtrages non vérifiés de façon indépendante. (Bloomberg)

    SourceBloombergVoir dans l'édition du 17 novembre 2026
  • Reuters a examiné plus de 300 documents. Selon l'agence, la distillation de modèles de pointe américains est désormais une pratique industrielle répandue en Chine. Article non consulté directement, seulement via deux agrégateurs. Une enquête antérieure, en juillet, portait sur 80 documents liés à l'armée chinoise. (Reuters)

    SourceReutersVoir dans l'édition du 17 novembre 2026
  • OpenAI publie un classifieur d'images qui détecte les contenus pédocriminels, y compris générés par IA. Il est gratuit via l'API pour les organisations agréées. ChatGPT affiche désormais des avertissements et peut suspendre l'accès pendant 24 heures après certaines requêtes interdites. Le dispositif a été développé avec Protect Children, la Lucy Faithfull Foundation et le chercheur Joel Scanlan. Aucune donnée d'efficacité publiée. (TechCrunch)

  • L'organisation classe ChatGPT for Teens en « risque inacceptable » et recommande de tenir les adolescents à l'écart. OpenAI conteste cette évaluation. Source unique consultée via un agrégateur. (KQED)

  • Fiabilité : source unique, payante

    Des énergéticiens américains, dont Duke Energy, utiliseraient Claude Mythos pour détecter des vulnérabilités logicielles dans les systèmes électriques. Source unique, article payant non consulté. (Digitimes)

    SourceDigitimesVoir dans l'édition du 17 novembre 2026

16 novembre 2026

  • Le secrétaire aux Transports Sean Duffy attribue l'arrêt d'environ quatre heures du 13 novembre au remplacement du cuivre par de la fibre optique à El Dorado (Arkansas). Les routeurs du contrôle aérien auraient alors reçu plus de 1 000 tentatives de connexion toutes les quatre à cinq secondes, ce qui a perturbé des flux radar. Un second routeur, à Amarillo (Texas), a aussi injecté des données dans le réseau. Le réseau en cause est exploité par L3Harris pour la FAA, et le routeur est en cours d'analyse dans un labo L3Harris. Ni Duffy ni le DHS n'excluent formellement une cyberattaque, mais aucun indice n'en a été trouvé. L'explication officielle ne mentionne pas l'outil IA de la FAA. La cause racine n'est pas établie. Une newsletter sectorielle (456X) évoque des routeurs Juniper, ce qu'HPE conteste : source unique, non recoupée. (Fortune)

  • Microsoft explique la panne par une mise à jour de juillet 2026 sur les passerelles réseau de Microsoft 365. Elle provoquait une contention de verrous qui épuisait processeur et mémoire. Les tests de charge, faits sur du matériel moins puissant, ne l'avaient pas détectée. Le 12 novembre, une bascule de Teams a reporté de la charge sur les passerelles Exchange Online alors que 14 % de leur capacité était hors ligne. Au pire moment, plus de 80 % des serveurs ne répondaient plus. Un retour arrière étant impossible, un correctif du correctif a été déployé. Le rapport final est attendu le 20 novembre. Aucun lien avec l'IA n'est évoqué. (The Register)

    SourceThe RegisterVoir dans l'édition du 16 novembre 2026
  • Fiabilité : chiffres relayés par des agrégateurs

    CBC décrit des catalogues et archives de bibliothèques rendus inaccessibles aux chercheurs par des essaims de robots de collecte. Le consortium Marmot (Colorado) aurait enregistré plus de 2 milliards de tentatives de connexion de robots en 30 jours, et les sites des bibliothèques de l'Université de Victoria tombent parfois complètement. Bloquer les IP ne suffit plus, et les CAPTCHA pénalisent aussi les usages légitimes. Article CBC non consulté directement : chiffres relayés par des agrégateurs (AI Weekly, Cybernews).

Toutes les éditions