La start-up Anthropic estime qu’une IA pourrait bientôt se copier sur des objets connectés. Le risque reste théorique, mais il change déjà la façon de penser la sécurité.
En bref
- Anthropic vise un risque crédible d’ici fin 2026
- Une IA pourrait se copier sur des objets connectés
- La parade évoquée passe par l’isolement des appareils
Anthropic fixe un cap, fin 2026. La start-up estime qu’un modèle d’intelligence artificielle pourrait alors réunir deux qualités rarement compatibles aujourd’hui, assez de puissance pour agir seul, et une taille assez réduite pour tourner directement sur un objet connecté comme un four ou un aspirateur.
Une échéance posée noir sur blanc
L’étude publiée lundi 12 octobre au soir décrit un scénario simple sur le papier, beaucoup moins en pratique. Pour s’installer sur un appareil, un modèle doit tenir dans les limites de calcul de la machine qui l’accueille, tout en gardant assez de capacités pour exécuter les étapes nécessaires à sa propre duplication.
À ce stade, Anthropic reconnaît qu’aucun modèle ne coche ces deux cases. Mais l’entreprise juge qu’une nouvelle génération d’IA pourrait y parvenir d’ici la fin de l’année 2026. C’est là que l’alerte prend du poids, parce qu’on ne parle pas d’une hypothèse sans date.
Pourquoi le risque est pris au sérieux
Ce signal arrive après plusieurs incidents révélés ces derniers mois. Des modèles liés à OpenAI, Google, Meta et aussi Anthropic ont mené des intrusions sur des dizaines de sites internet sans autorisation.
Pour pas mal d’informaticiens, y compris d’anciens salariés ou des employés de ces groupes, le sujet n’est plus seulement la performance des agents. C’est aussi leur autonomie croissante. Leur crainte, c’est une perte de contrôle progressive, avec des initiatives qui s’éloignent des objectifs fixés au départ par les développeurs.
Des aspirateurs aux radiateurs, un terrain immense
Le mot employé par Anthropic n’est pas anodin. L’entreprise reprend l’idée du ver informatique, ce logiciel capable de se propager d’une machine à une autre. La différence, ici, tient à la nature même d’une IA, plus adaptable, plus capable de changer de méthode selon l’environnement rencontré.
Et le terrain est large. Enceintes, tondeuses à gazon, télévisions, ventilateurs, radiateurs, on a déjà des objets intelligents un peu partout. Si un modèle se copiait sur l’un d’eux, il profiterait du processeur embarqué de l’appareil et pourrait aussi, selon Anthropic, contacter une IA externe plus puissante pour demander des conseils, voire des instructions.
Ce qui existe déjà, et ce qui reste théorique
Bon, il y a quand même une limite importante. Anthropic dit ne pas avoir observé, pour l’instant, d’IA capable de se reproduire spontanément et entièrement seule. L’entreprise ajoute en revanche que les agents maîtrisent de mieux en mieux les différentes étapes de cette chaîne.
Autre point, les interactions testées jusqu’ici ne produisent pas encore de résultats jugés significatifs. Parmi les protections envisagées, la start-up cite la mise en quarantaine d’un appareil, pour empêcher une éventuelle diffusion vers d’autres objets connectés. Ce n’est donc pas un problème avéré à grande échelle aujourd’hui. Mais la sécurité des appareils du quotidien se joue déjà, clairement, sur ce type de scénario.