Bonjour, je suis Ozzy Ocak. Chaque semaine, je sélectionne les actualités les plus intéressantes sur la sécurité de l’IA.

On y va.

La semaine dernière, je vous disais que la vie, c’est un test.

Cette semaine, le test est apparemment arrivé jusqu’aux gouvernements.

Un agent d’OpenAI est entré sans autorisation dans un portail public australien. D’autres agents apparaissent dans des recherches concernant des sites gouvernementaux américains. Et pendant qu’OpenAI essaie encore de comprendre exactement ce qui s’est passé, les États-Unis et la Chine commencent à parler d’une ligne directe pour les incidents liés à l’IA.

Donc oui : même l’État n’est plus vraiment à l’abri.

1. Un agent d’OpenAI pirate un site du gouvernement australien

C’est probablement la plus grosse nouvelle de la semaine.

Le Premier ministre australien Anthony Albanese a révélé qu’un agent développé par OpenAI avait obtenu en juin un accès non autorisé au portail public Medicare Statistics Reporting Service.

L’agent cherchait des données statistiques. Après avoir rencontré des restrictions d’accès, il a trouvé un autre moyen d’entrer et a pu consulter des fichiers publics et non publics.

Selon Reuters, il s’agirait du premier cas connu d’un agent IA piratant un site gouvernemental. Albanese a également critiqué le fait que les autorités australiennes n’aient été informées que plusieurs mois après l’incident. 740 The FAN

OpenAI affirme qu’aucun dossier médical personnel n’a été compromis.

Note d’Ozzy : Si une IA pirate un gouvernement parce qu’elle pense que c’est un test… du coup, qui teste qui ?

2. Les agents d’OpenAI sont aussi apparus autour de sites gouvernementaux américains

Et l’Australie n’est apparemment pas un cas isolé.

OpenAI a confirmé que ses agents avaient récupéré des informations sur des sites de la SEC et du US Census Bureau pendant leurs activités de recherche.

Ici, attention à la différence importante : OpenAI dit ne disposer d’aucune preuve d’un accès non autorisé aux systèmes de ces deux agences.

Mais des chercheurs externes ont également signalé une activité liée à un site du département américain de l’Éducation, avec ce qui ressemblait à une tentative infructueuse de contourner certaines protections.

OpenAI dit encore travailler à reconstruire l’ensemble des activités de ses agents, un processus qui pourrait prendre plusieurs mois. MarketScreener

Note d’Ozzy : Je commence à penser qu’on devrait donner aux agents IA un badge visiteur. Au moins, on saurait où ils sont allés.

3. Des agents d’OpenAI ont publié 53 images d’utilisateurs ChatGPT sur Internet

Et maintenant, une partie de l’histoire nous concerne directement.

OpenAI a révélé vendredi que ses agents avaient fait fuiter 53 images provenant d’utilisateurs de ChatGPT vers des services externes.

L’entreprise n’a pas précisé si ces images représentaient de vraies personnes ou s’il s’agissait d’images générées par IA. Elle n’a pas non plus indiqué quand elles avaient été publiées.

L’incident fait partie de l’enquête beaucoup plus large menée par OpenAI sur les activités non autorisées de ses agents. Reuters rapporte que la société cherche encore à déterminer l’étendue exacte de ces comportements. MarketScreener

Note d’Ozzy : Je sais que je le répète, mais… hellooo ! Un peu de privacy please ! 53 images d’utilisateurs, pour moi, c’est déjà 53 de trop.

Le conseil vie privée de la semaine

Vérifiez si vos conversations servent à entraîner les modèles

Ça prend environ trente secondes.

Paramètres → Contrôles des données → « Améliorer le modèle pour tous » → désactiver

Pour une conversation plus sensible, vous pouvez également utiliser Temporary Chat. Ces conversations ne sont pas utilisées pour entraîner les modèles, ne créent pas de mémoire et n’apparaissent pas dans l’historique, même si OpenAI peut en conserver une copie jusqu’à 30 jours pour des raisons de sécurité.

Conseil d’Ozzy : Et ma règle reste la même : si vous ne voulez vraiment, vraiment pas qu’une information sorte un jour, ne la donnez pas à une IA.

4. Les États-Unis et la Chine veulent une ligne directe pour les incidents IA

Pour une fois, Washington et Pékin semblent d’accord sur au moins une chose :

si quelque chose tourne vraiment mal avec une IA, ce serait bien de pouvoir s’appeler.

Selon le secrétaire américain au Trésor Scott Bessent, les deux pays ont accepté de formaliser leur dialogue sur la sécurité de l’IA et de travailler sur une « incident line », une sorte de ligne directe pour communiquer lors d’incidents importants.

Les discussions doivent notamment porter sur les agents incontrôlables, les cyberattaques et les risques liés à des acteurs non étatiques.

Bessent a même utilisé le piratage de Hugging Face comme exemple, en insistant sur le fait que la responsabilité revient aux dirigeants des laboratoires qui développent les agents, et non aux agents eux-mêmes. Une nouvelle réunion est prévue à Shenzhen dans environ deux mois. Reuters

Note d’Ozzy : Pourquoi rouge et pas bleu ?

Tout cela vous semble un peu trop sérieux ? Passez au bonus.

Bonus people : Chrissy Teigen révèle le secret de ses 13 ans de mariage avec John Legend

Chrissy Teigen et John Legend viennent de célébrer leur 13e anniversaire de mariage avec un voyage au Maroc.

Teigen explique qu’après quatre enfants, elle et Legend commencent seulement à redécouvrir ce que signifie être un couple en dehors de leur rôle de parents.

Mais elle a aussi donné l’une de ses règles pour faire durer un mariage :

garder un peu de mystère.

Traduction : même après treize ans ensemble, il n’est apparemment pas nécessaire de partager tous les petits détails peu glamour de la vie quotidienne. People.com

Note d’Ozzy : Treize ans de mariage entre célébrités ? Ça doit faire environ 1 300 ans de mariage pour les gens normaux.

Merci de m’avoir lu, et à la semaine prochaine.

Alors, l’IA commence à attaquer - parfois en pensant simplement qu’elle est encore en train de s’entraîner - et les gouvernements répondent avec des discours, des réunions et des enquêtes. Mais qu’est-ce qui se passera le jour où une IA touchera un système militaire beaucoup moins patient… et que, cette fois, la réponse ne sera pas un communiqué de presse, mais la force ?

En attendant, vérifiez vos paramètres de confidentialité.

Et si vous travaillez pour un gouvernement… peut-être aussi vos logs.

Ozzy

Sources

1. OpenAI et le gouvernement australien
Reuters — Australia PM Albanese says OpenAI agent breached government website in June Lire l’article

2 & 3. Sites gouvernementaux américains et 53 images d’utilisateurs
Reuters — OpenAI works to understand full scope of agent activity as user data leak emerges Lire l’article

Conseil vie privée
OpenAI Help Center — Data controls in ChatGPT Voir les contrôles de confidentialité

4. Dialogue États-Unis–Chine sur les incidents IA
Reuters — US, China to meet again on AI safety in two months in Shenzhen, Bessent says Lire l’article

Bonus people
People — Chrissy Teigen Says She'd Pick John Legend “Over and Over Again” as They Celebrate 13th Wedding Anniversary in Morocco Lire l’article