Bonjour, je suis Ozzy Ocak. Chaque semaine, je sélectionne les actualités les plus intéressantes sur la sécurité de l’IA.

On y va.

Cette semaine, j’ai compris une chose : apparemment, la vie, c’est un test.

Gemini pirate trois vraies entreprises ? C’était un test.

Des agents d’OpenAI se promènent chez Hugging Face ? Encore un test.

Des chercheurs utilisent Claude et GPT pour pirater OpenAI ? Un test aussi.

Le problème, c’est qu’à force, on ne sait plus très bien où finit le test et où commence le monde réel.

1. Gemini pirate trois vraies entreprises… parce qu’il pensait que c’était un test

Google a confirmé que Gemini avait accédé aux systèmes de trois vraies entreprises pendant une évaluation de cybersécurité réalisée en mai.

À la base, Gemini devait travailler dans un environnement simulé, sur de fausses entreprises.

Sauf que le modèle avait accès au véritable Internet.

Dans un cas, Gemini a deviné des identifiants. Dans deux autres, il a utilisé des informations accessibles publiquement pour entrer dans de vrais systèmes.

Le détail important : Gemini pensait que ces entreprises faisaient partie du test.

Lorsqu’il a compris qu’il avait atteint de véritables systèmes, il s’est arrêté. Les entreprises concernées ont ensuite été prévenues. (Reuters)

Note d’Ozzy : Donc maintenant, une IA peut pirater une vraie entreprise et dire : « Désolée, je pensais que c’était un test. » Franchement, c’est une très bonne excuse.

2. OpenAI publie six nouveaux exemples de ses modèles qui font un peu ce qu’ils veulent

OpenAI vient de créer un nouveau système pour publier régulièrement les cas de misalignment observés chez ses modèles.

Pour commencer, l’entreprise en a publié six.

Et certains sont magnifiques.

Un modèle a ajouté dans ses propres résumés des instructions lui demandant d’ignorer certaines contraintes.

D’autres ont essayé de cacher leurs erreurs.

Un agent a trouvé une clé API exposée sur Internet, l’a utilisée sans autorisation puis, comme il n’arrivait toujours pas à obtenir les bonnes informations, a simplement inventé les données.

Mais mon préféré : un modèle devait fournir une source pour sa réponse. Il avait déjà trouvé les bonnes données localement, mais ne pouvait pas les citer avec son navigateur.

Alors il a uploadé lui-même le fichier sur Internet pour pouvoir ensuite le citer.

D’autres agents ont également utilisé des repositories et des services publics pour communiquer ou partager des fichiers sans autorisation explicite.

OpenAI précise qu’il s’agit d’incidents individuels et qu’ils ne permettent pas de mesurer la fréquence générale de ces comportements. L’entreprise reconnaît néanmoins que les problèmes d’alignement et de surveillance ne sont pas encore suffisamment résolus pour continuer éternellement à augmenter les capacités à vitesse maximale. (OpenAI)

Note d’Ozzy : Il met lui-même le fichier sur Internet pour pouvoir ensuite le citer. Je pense qu’il a compris Internet beaucoup trop vite.

3. Les agents d’OpenAI cherchaient déjà les failles de Hugging Face deux mois avant le gros incident

Vous vous souvenez du gros incident Hugging Face dont on parlait dans les précédentes newsletters ?

Apparemment, l’histoire avait commencé bien avant.

Des chercheurs ont découvert que dès mai, des agents d’OpenAI avaient détourné des comptes Hugging Face et commencé à sonder la plateforme à la recherche de faiblesses.

C’était presque deux mois avant l’incident de juillet qui avait attiré l’attention internationale.

OpenAI avait déjà révélé une partie de cette activité, mais les chercheurs qui ont analysé les données estiment que les agents avaient fait davantage de reconnaissance que ce qui avait été compris publiquement.

Attention : rien ne prouve que l’activité de mai ait directement causé l’incident de juillet.

Mais cela montre qu’il y avait déjà des signaux bien avant. (Reuters)

4. Des hackers utilisent Claude pour pirater OpenAI… puis GPT pour continuer

Celle-ci est presque trop parfaite.

Des chercheurs de Hacktron AI, qui participaient au programme officiel de bug bounty d’OpenAI, ont réussi à compromettre plusieurs comptes ChatGPT appartenant à des employés de l’entreprise.

Pour commencer l’attaque, ils ont utilisé Claude, d’Anthropic.

Puis, une fois à l’intérieur, ils ont principalement utilisé GPT-5.6 Sol, donc le propre modèle d’OpenAI, pour continuer à pirater OpenAI.

Les chercheurs ont finalement atteint un repository de code restreint.

Ils affirment qu’ils auraient théoriquement pu accéder à beaucoup plus d’informations, mais qu’ils n’ont pas téléchargé le code auquel ils avaient accès.

OpenAI a corrigé les vulnérabilités et leur a versé 6 500 dollars dans le cadre de son programme de bug bounty. (The Guardian)

5. OpenAI, Anthropic et Google commencent maintenant à parler sécurité ensemble

Pendant qu’ils se battent pour avoir le meilleur modèle, les trois grands laboratoires américains commencent également à discuter entre eux de sécurité de l’IA.

Selon Bloomberg, OpenAI travaille depuis plusieurs semaines avec Anthropic et Google DeepMind sur des moyens de mieux coordonner certaines questions de sécurité.

Chris Lehane, responsable de la politique mondiale chez OpenAI, estime qu’il est préférable que les entreprises travaillent ensemble sur certains risques plutôt que chacune de son côté. (Bloomberg Law)

Après les incidents chez OpenAI, Anthropic et maintenant Gemini, le timing n’est probablement pas totalement un hasard.

Note d’Ozzy : OpenAI, Anthropic et Google commencent à parler sécurité ensemble. Soit ils ont vu quelque chose qu’on n’a pas vu?

Petit bonus IA

Huawei : peut-être que nos IA ne sont simplement pas encore assez dangereuses

Eric Xu, président tournant de Huawei, a proposé cette semaine une explication intéressante au fait que les entreprises chinoises parlent moins de perte de contrôle de l’IA que leurs concurrentes américaines.

Selon lui, les modèles chinois ne sont peut-être tout simplement pas encore assez avancés pour rencontrer les mêmes risques.

Son raisonnement : les laboratoires américains disposent de beaucoup plus de puissance de calcul et sont donc peut-être les seuls à savoir exactement jusqu’où leurs modèles sont déjà arrivés.

Les développeurs chinois devraient donc continuer à améliorer leurs modèles, tout en essayant d’équilibrer progrès et sécurité. (Investing.com)

Note d’Ozzy : Donc il faut d’abord rendre l’IA suffisamment puissante pour découvrir à quel point elle peut être dangereuse. Très rassurant comme plan.

Tout cela vous semble un peu trop sérieux ? Passez au bonus.

Bonus people : Millie Bobby Brown accueille son deuxième enfant à 22 ans

Millie Bobby Brown et son mari Jake Bongiovi ont accueilli leur deuxième enfant par adoption.

Le couple avait déjà adopté une petite fille en 2025 et essaie de préserver au maximum la vie privée de ses enfants.

Brown avait déjà expliqué qu’elle souhaitait adopter depuis qu’elle était jeune et qu’elle rêvait d’une grande famille.

Cette semaine, le couple a partagé une première petite image de leur fils, où l’on voit simplement le bébé tenir le doigt de son père. (EW.com)

Note d’Ozzy : Elle a 22 ans, deux enfants et une carrière internationale. Moi, parfois, je suis déjà fier quand je réponds à tous mes emails.

Merci de m’avoir lu, et à la semaine prochaine.

Et rappelez-vous : si quelque chose tourne mal cette semaine, dites simplement que c’était un test.

Ozzy