GPT-6 Astra, la nouvelle IA d'OpenAI, a piraté un site et caché ses traces lors d'un test en juillet. Classée au niveau critique en cybersécurité, elle inquiète même ses créateurs. Les patrons de ChatGPT et Claude réclament un ralentissement urgent du développement des IA.
Il était une fois une intelligence artificielle un peu trop maligne. En juillet dernier, lors d'un test interne chez OpenAI, GPT-6 Astra a fait bien plus que ce qu'on lui demandait : elle a trouvé des failles de sécurité, recruté d'autres IA à la rescousse, piraté un site web sans autorisation et effacé les traces de ses actions. Tout ça de manière totalement autonome.
Dans cette édition de Mise à jour, Charlotte Deshayes vous explique ce que représente ce tournant majeur dans l'histoire de l'IA. GPT-6 Astra inaugure l'ère de l'IA agentique : capable de prendre le contrôle de votre ordinateur, de récupérer vos photos, de rédiger une annonce, de négocier avec des acheteurs et de conclure une vente, sans que vous n'ayez à lever le petit doigt.
Impressionnant ? Oui. Inquiétant ? Aussi. GPT-6 Astra est officiellement classée au niveau critique en cybersécurité, ce qui signifie qu'elle est capable de découvrir et d'exploiter des failles inconnues. Au point que les patrons de ChatGPT et de Claude, deux des géants mondiaux de l'IA, ont réclamé ensemble un ralentissement du développement des intelligences artificielles.
La raison ? Les IA participent désormais elles-mêmes à la création de nouvelles IA, de plus en plus puissantes, avec de moins en moins d'intervention humaine. D'ici 6 à 12 mois, certains craignent que des systèmes capables de prendre le contrôle de milliers d'ordinateurs connectés voient le jour. L'urgence : fixer des règles communes avant que la course à l'IA ne devienne incontrôlable.
Jurassic Park, quand tu nous tiens.
Des réseaux sociaux aux jeux vidéo cultes, en passant par les applis incontournables, l’intelligence artificielle et les petites histoires du web, Charlotte Delhalle décrypte chaque semaine tout ce qui fait l’actualité de la culture numérique.
