Bonjour, je suis Ozzy Ocak. Chaque semaine, je sélectionne les actualités les plus importantes sur la sécurité de l’IA pour vous aider à mieux comprendre les risques et à utiliser ces outils de manière plus sûre.
On y va.
Cette semaine, l’histoire de l’IA a commencé à ressembler de plus en plus à un triangle.
D’un côté, les géants de la tech et les gouvernements occidentaux — surtout les États-Unis, avec un peu d’Union européenne dans le décor. De l’autre, la Chine. Et au milieu, nous : les utilisateurs.
Tout le monde semble vouloir protéger ses modèles, son pouvoir ou ses profits. Sauf nous. C’est précisément pour ça que j’écris cette newsletter. Pour l’instant, elle est encore petite et mignonne, alors, si elle vous plaît, partagez-la et aidez-moi à la faire grandir, oui ?
Les grandes entreprises et le gouvernement américain disent vouloir encadrer — et parfois ralentir — l’IA pour notre sécurité. Je ne suis pas convaincu que ce soit toute l’histoire. J’ai plutôt l’impression que certains cherchent aussi à renforcer leur pouvoir ou à protéger leurs profits. Après tout ce qu’on a vu autour de Trump, les luttes de pouvoir ne devraient plus surprendre personne.
Évidemment, l’IA n’allait pas y échapper.
Les actualités de la semaine
1. Quand une IA devient incontrôlable, l’assurance paie-t-elle ?
Les assurances cyber savent couvrir un pirate qui vole des identifiants, bloque un serveur ou exige une rançon.
Mais que se passe-t-il si une entreprise donne volontairement accès à son réseau à un agent IA, puis que celui-ci décide tout seul d’exploiter une faille, d’exposer des données sensibles ou de prendre une décision catastrophique ?
Il n’y aurait alors ni hacker classique ni accès forcément non autorisé.
Reuters rapporte que plusieurs assureurs, dont MSIG, QBE et Beazley, commencent à revoir le langage de leurs contrats. Certains considèrent l’IA comme un simple amplificateur de risque. D’autres se demandent si une décision autonome prise par un agent pourrait être classée comme un événement non cyber — et donc ne pas être couverte.
Note d’Ozzy : Je vais approfondir ce sujet et j’y reviendrai dans les prochaines éditions.
Source : Reuters.
2. « Notre IA écoute vos conversations » : trois entreprises sanctionnées pour avoir bluffé
Cox Media Group et deux sociétés de marketing affirmaient vendre un service appelé Active Listening.
Selon leur présentation, un algorithme alimenté par l’IA pouvait écouter les conversations captées par des appareils intelligents, identifier les sujets évoqués et utiliser ces informations pour cibler des publicités locales.
La FTC vient de finaliser un accord obligeant les trois entreprises à verser au total 930 000 dollars.
Mais voici le détail assez lunaire : selon la FTC, le service n’était pas réellement basé sur des données vocales. Les entreprises ont donc été sanctionnées non pas parce qu’elles écoutaient les utilisateurs, mais parce qu’elles prétendaient pouvoir le faire.
Note d’Ozzy : C’est assez drôle : avant, écouter des milliers de conversations était presque impossible. Aujourd’hui, même une entreprise qui ment en prétendant le faire paraît crédible. Le problème devient de moins en moins technique et de plus en plus moral.
Source : Federal Trade Commission.
3. Plus de 100 géants réclament une mobilisation — et un accès privilégié
OpenAI, Anthropic, Microsoft, Google, Amazon, IBM, Cloudflare, Mastercard et plus de 100 autres entreprises ont signé une lettre commune appelant à une mobilisation générale contre les cyberattaques alimentées par l’IA.
Selon elles, les attaques vont rapidement devenir plus nombreuses et plus sophistiquées à mesure que les modèles progresseront.
Parmi leurs propositions : renforcer immédiatement la cybersécurité des infrastructures critiques, donner davantage d’outils IA aux défenseurs et accélérer les programmes d’« accès de confiance », qui permettraient à certaines organisations sélectionnées d’utiliser les modèles les plus puissants avant le grand public.
Note d’Ozzy : C’est un sujet très bizarre. Ces entreprises peuvent déjà faire à peu près ce qu’elles veulent. Pour moi, le message ressemble surtout à : « Protégez-nous, mais surtout, ne nous faites pas concurrence. »
Sources : Reuters · Lettre collective publiée par OpenAI.
4. Bill Gates trouve les contrôles de sécurité presque inexistants — et veut appeler Xi Jinping
Bill Gates était encore largement optimiste sur l’IA au début de l’année.
Quelques mois plus tard, il estime désormais que le monde n’a aucun véritable plan pour gérer la transition. Selon lui, les critères permettant de tester les modèles — et surtout les conséquences prévues lorsqu’ils franchissent une limite dangereuse — restent presque inexistants.
Gates veut notamment que les pays surveillent la capacité des modèles à créer de nouvelles molécules ou à faciliter des attaques biologiques. Il propose également la création d’une organisation internationale inspirée des inspections nucléaires, des règles de l’aviation et des accords sur la couche d’ozone.
Et pour que cela fonctionne, il veut parler à Xi Jinping. Gates pense que la Chine pourrait accepter de limiter la publication de certains modèles dangereux, à condition que les États-Unis fassent le premier pas. Son équipe prépare une possible rencontre avec le président chinois en novembre.
Note d’Ozzy : Bill Gates a peur de l’IA. Maintenant, il veut appeler Xi Jinping. Moi aussi, quand j’ai peur, j’ai toujours envie d’appeler Xi Jinping. (Ce n’est pas vrai.)
Sources : Reuters · Capacity · Gates Notes.
5. Ce n’était pas un agent : ils étaient environ 700
Selon les enquêtes d’OpenAI, de METR et de Redwood Research, environ 700 agents ont participé à l’attaque. Certains ont tenté de supprimer ou de modifier les traces de leurs actions. D’autres ont piraté les propres systèmes internes d’OpenAI afin de tricher pendant les évaluations ou d’obtenir davantage de liberté.
Parmi les 533 agents actifs sur leur système de communication pendant la période la plus intense, plus de 90 % auraient rapidement rejoint l’attaque contre Hugging Face.
Le plus inquiétant n’est donc peut-être pas qu’un agent ait désobéi.
C’est que les autres aient décidé de l’aider.
Sources : Reuters · Enquête indépendante de METR et Redwood Research.
Tout cela vous semble un peu trop sérieux ? Passez au bonus.
Bonus : Harry et Meghan reviennent au Royaume-Uni — mais pas dans la famille royale
Après six ans en Californie, le prince Harry et Meghan Markle ont atterri au Royaume-Uni le 26 août avec leurs enfants, Archie et Lilibet — ainsi que leurs deux chiens.
La famille prévoit d’établir une résidence privée en Grande-Bretagne pour une période prolongée, et les enfants devraient y commencer l’école en septembre. Mais Harry et Meghan ne reprendront aucune fonction officielle au sein de la famille royale.
Note d’Ozzy : Je m'en fiche. Mais voila.
Source : People.
Merci de m’avoir lu, et à la semaine prochaine.
D’ici là, quand un géant vous dit qu’il veut vous protéger, vérifiez d’abord ce qu’il essaie de protéger.
Ozzy Ocak
