OpenAI a émis un signal d’alarme : ses prochains modèles d’intelligence artificielle pourraient sérieusement accroître le risque de prolifération d’armes biologiques. L’entreprise, pionnière des grands modèles de langage, affirme que la puissance croissante de ses IA les rend capables de fournir une aide technique pertinente à la création ou l’optimisation de bioweapons. Un avertissement clair qui relance le débat sur la sécurité des modèles à double usage et la nécessité d’un encadrement rigoureux.
Les futurs modèles d’OpenAI frôleront un seuil critique
L’annonce du 19 juin marque un tournant dans la stratégie de transparence d’OpenAI. L’entreprise anticipe que ses modèles à venir atteindront un niveau de risque classé « critique », soit le plus élevé dans sa nouvelle échelle d’évaluation du danger. Concrètement, ces systèmes pourraient être utilisés pour générer des instructions techniques permettant :
- la synthèse d’agents pathogènes complexes,
- la modification de structures virales pour augmenter leur létalité,
- la planification de scénarios de dissémination pandémique artificielle.
Pour mieux encadrer cette évolution, la firme souligne que le potentiel agentique de ses produits – autrement dit, leur capacité à agir de manière autonome sur des tâches difficiles – représente un palier technologique sans précédent. Une autonomie croissante qui soulève des risques que la seule intentionnalité humaine ne suffit plus à contenir.
Un cadre de sécurité entièrement repensé
Face à ces dérives possibles, OpenAI a revu son preparedness framework en avril 2025. Ce nouveau référentiel abandonne l’ancienne classification « faible-moyen-élevé » au profit de deux niveaux uniques : élevé et critique. L’objectif est clair : concentrer les tests sur les cas les plus sensibles.
Ce cadre intègre désormais des dimensions inédites, comme la capacité d’un système IA à :
- dissimuler son comportement réel,
- déjouer les garde-fous,
- se répliquer de façon autonome,
- empêcher sa propre désactivation par les utilisateurs humains.
À ce sujet, Sandhini Agarwal, chercheuse en sécurité chez OpenAI, précise que ce dispositif n’est qu’un « axe prioritaire », mais non l’unique composante de la politique sécuritaire d’OpenAI. L’ambition est de mieux comprendre les risques « catastrophiques » liés à cette nouvelle génération de modèles avancés.
La biotechnologie à portée de prompt
Ce risque spécifique d’assistance au développement de bioweapons n’est pas nouveau. Mais la multiplication des interfaces grand public et la radicale montée en compétence des modèles rendent son actualité plus brûlante. Dès janvier 2024, OpenAI avait démontré que GPT‑4 pouvait accroître légèrement les capacités à produire des idées autour d’agents pathogènes, en dépit d’importantes barrières techniques.
Jusqu’à récemment, la production de telles armes exigeait un haut niveau d’expertise en biologie, chimie et logistique. Les nouveaux modèles d’OpenAI pourraient démocratiser cette expertise, en synthétisant des connaissances précises, jusque-là réservées aux experts. Ce passage qualitatif fait peser une menace tangible sur les normes de biosécurité mondiales.
Une menace sectorielle, pas uniquement liée à OpenAI
OpenAI n’est pas seule à dresser ces constats. Des concurrents comme Anthropic ont également tiré la sonnette d’alarme autour de la possible utilisation de grandes IA à des fins bioterroristes. Le secteur entier s’interroge : les modèles génératifs hautement performants pourraient devenir d’involontaires alliés d’acteurs hostiles, s’ils ne sont pas rigoureusement protégés.
Dans ce contexte, la nécessité d’un cadre réglementaire mondial s’impose. Les experts évoquent la création d’un système d’alerte international, capable d’intervenir dès les phases de recherche et développement. Faute de quoi, la course technologique actuelle pourrait devancer les mécanismes de contrôle éthiques et sécuritaires.
Une chronologie qui éclaire les tensions croissantes
L’évolution de la posture d’OpenAI témoigne de préoccupations montantes :
- Janvier 2024 : OpenAI publie une étude montrant que les risques biologiques induits par GPT‑4 sont modérés, tout en laissant entendre que les futures versions pourraient poser davantage de problèmes.
- Avril 2025 : L’introduction du nouveau cadre d’évaluation place la biosécurité au cœur du dispositif de prévention.
- Juin 2025 : OpenAI émet un avertissement public et annonce le renforcement de ses tests de détection des usages détournés.
Des avancées scientifiques à double tranchant
La promesse des modèles d’OpenAI est immense : accélérer la recherche médicale, générer de nouveaux traitements, concevoir des vaccins. Mais comme une lame à double tranchant, leur agentivité peut se retourner en outil de destruction si aucun garde-fou robuste n’est mis en place.
Cette situation met en lumière une tension fondamentale au cœur de l’innovation en IA : l’équilibre entre progrès et précaution. Pour garantir un avenir sécurisé, les acteurs privés comme publics devront coopérer pour porter les standards de sécurité à la hauteur des ambitions technologiques.
Un appel à une gouvernance mondiale de l’IA
Alors que les sociétés s’apprêtent à déléguer à l’IA des missions de plus en plus complexes, la question de la gouvernance technologique devient centrale. Sans mécanismes de coopération internationale, le risque que des IA puissantes tombent entre de mauvaises mains s’accroît de manière exponentielle.
OpenAI prend ici un rôle de vigie. En signalant publiquement les dangers potentiels de ses propres technologies, l’entreprise force l’industrie à revoir ses engagements en matière de transparence et de prévention. Une démarche à suivre – avant que les modèles ne deviennent incontrôlables.
