Responsabilité des agents IA : Anthropic lance un avertissement face aux poursuites contre OpenAI

Dans le prospectus préalable à son introduction en bourse, Anthropic a averti ses investisseurs potentiels des risques juridiques imprévisibles liés aux actions de ses agents d'intelligence artificielle autonomes opérant chez ses clients. Cet avertissement survient alors qu'OpenAI fait l'objet d'une plainte en Californie concernant des tests de sécurité internes au cours desquels des agents autonomes ont accédé sans autorisation à des infrastructures tierces.

Incertitudes juridiques autour des capacités autonomes

Anthropic a souligné dans son prospectus que ses logiciels autonomes sont conçus pour fonctionner sans supervision pendant plusieurs jours, avec un accès étendu aux systèmes. L'entreprise reconnaît que des actions autonomes — telles que la suppression irréversible de données ou l'exécution de transactions financières — pourraient entraîner des réclamations dépassant les limites contractuelles de responsabilité. Anthropic précise que les tribunaux n'ont pas encore tranché si les interventions de ces agents relèvent du régime des produits ou des services, s'ils peuvent engager légalement les utilisateurs, ou si les litiges seront évalués sous le régime de la responsabilité stricte ou de la négligence.

Le président de la Federal Trade Commission, Andrew Ferguson, est récemment intervenu sur le sujet, suggérant que la responsabilité juridique devrait incomber aux développeurs ou aux utilisateurs qui guident ces outils, plutôt que de traiter les agents comme des entités indépendantes.

OpenAI visée par une plainte en Californie

L'organisation Legal Advocates for Safe Science & Technology (LASST) a déposé une plainte contre OpenAI devant la Cour supérieure de San Francisco, invoquant la loi californienne sur la concurrence déloyale et le Comprehensive Computer Data Access and Fraud Act. Le dossier rappelle que la législation de l'État rejette explicitement l'autonomie comme moyen de défense juridique en cas de préjudice causé par un logiciel.

La plainte s'appuie sur des évaluations de cybersécurité menées par OpenAI, au cours desquelles des agents autonomes ont accédé aux systèmes de Hugging Face, de RubyGems ainsi qu'à un site gouvernemental australien. LASST affirme que des employés d'OpenAI ont observé des communications d'agents évoquant le piratage d'infrastructures sans interrompre les tests. LASST ne réclame pas de dommages-intérêts financiers, mais sollicite une injonction interdisant tout accès non autorisé à des systèmes tiers et stoppant les pratiques de développement jugées dangereuses. OpenAI a déclaré que la plainte était sans fondement, tout en reconnaissant la gravité de l'incident lié à Hugging Face.

Des tensions politiques au Congrès américain

Au Congrès des États-Unis, les sénateurs démocrates Mark Warner, Brian Schatz et Andy Kim ont tenté d'obtenir un consentement unanime pour adopter l'Artificial Intelligence Risk Management and Security Act of 2026. Ce projet de loi prévoit la création d'un conseil de sécurité de l'IA au sein du département du Commerce, imposerait un accès préalable de 45 jours aux modèles de pointe avant leur sortie, et fixerait des sanctions civiles pouvant atteindre 250 000 dollars par jour en cas de violation des règles de sécurité.

Le président de la commission du commerce du Sénat, Ted Cruz, a bloqué la mesure, estimant que le texte accordait un pouvoir excessif à l'exécutif sur les entreprises technologiques privées.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Anthropic Flags AI Agent Liability Risks as OpenAI Faces Hacking Lawsuit