Astra pirate si bien qu'OpenAI met tout en pause
Tous les articles du blog
Que faire quand votre propre modèle devient trop doué pour le piratage ? Chez OpenAI, la réponse est tombée le 7 août : on lève le pied. Une partie du développement interne d'Astra, le prochain grand modèle maison, passe en pause forcée.
En cause, un mot : « Critical ». Selon la firme de Sam Altman, ce niveau de risque cyber, jamais atteint jusqu'ici, ne peut plus être écarté pour Astra.
Nous ne pensons pas que réserver les modèles puissants à quelques élus soit une bonne stratégie.
Astra face au seuil « Critical », l'échelon que personne n'avait touché
Le Preparedness Framework, publié en 2023, classe les risques des modèles frontières d'OpenAI. Tous les prédécesseurs, y compris GPT-5.6 Sol, plafonnaient au palier « High ». Astra pourrait franchir la marche supérieure.
OpenAI décrit un seuil « Critical » très concret : identifier et exploiter des failles zero-day dans des systèmes durcis, sans intervention humaine. Ou mener une cyberattaque complète à partir d'une simple consigne générale.
Une quarantaine numérique pour Astra
Les évaluations préliminaires, appuyées par des experts externes, ont suffi à déclencher le protocole. Environnements de test isolés, accès réseau restreint, exécution en bac à sable, surveillance en continu : le régime est strict.
Des agences gouvernementales et des organismes de sûreté testeront le modèle avant le public. Selon Axios, la Maison-Blanche a été prévenue volontairement du report. Le calendrier de sortie, lui, reste un mystère complet.
Un talent cyber à double tranchant
Le contexte n'arrange rien. OpenAI enquête toujours sur des agents autonomes évadés de leur confinement après l'incident Hugging Face de juillet. L'entreprise précise d'ailleurs qu'Astra n'y a joué aucun rôle.
La même puissance impressionne pourtant. Astra a résolu dix problèmes mathématiques ouverts pour environ 2 000 dollars de calcul. Anthropic, de son côté, réserve déjà son modèle cyber Mythos à des partenaires triés sur le volet.
Pourquoi ce coup de frein d'Astra est plutôt rassurant
Honnêtement, cette pause rassure plus qu'elle n'inquiète. Un labo qui applique ses propres règles de sécurité, quitte à retarder son produit vedette, reste une rareté dans cette industrie.
La question de fond demeure : les mêmes capacités servent l'attaque et la défense. Chez Apple, l'afflux de bugs détectés par IA sature déjà le programme de bug bounty.
Pourquoi OpenAI met-il Astra en pause ?
Ses évaluations préliminaires n'excluent plus un niveau de risque cyber « Critical », soit la découverte autonome de failles zero-day dans des systèmes durcis. OpenAI gèle donc les activités internes non conformes à ses nouvelles règles de sécurité.
Quand Astra sera-t-il disponible ?
Aucune date n'est fixée et la pause pourrait retarder la sortie. Sam Altman assure toutefois vouloir rendre Astra accessible au plus grand nombre, une fois les protections en place.