Le PDG d’OpenAI Sam Altman soupèse les avantages de l’IA face aux risques de sécurité

Le PDG d'OpenAI, Sam Altman, a déclaré que la société devrait tolérer des répercussions négatives telles que des piratages et des escroqueries en échange des retombées positives plus vastes de l'intelligence artificielle. S'exprimant dans le podcast Decoded de Politico, Altman a soutenu que l'ampleur des bénéfices générés par l'IA dépassera largement les risques associés à son déploiement.

Équilibrer l'innovation et le contrôle réglementaire

Altman a plaidé pour une approche intermédiaire en matière de gouvernance de l'IA, présentant OpenAI comme des centristes pragmatiques positionnés entre des réglementations de sécurité strictes et un développement totalement incontrôlé. Il a averti qu'une surréglementation de la technologie par précaution sécuritaire pourrait concentrer le pouvoir entre les mains d'un petit nombre d'acteurs ou d'une seule nation, ce qui présenterait ses propres risques. Dans le même temps, Altman a reconnu des scénarios à très hauts risques, notamment la possibilité que l'humanité perde le contrôle de systèmes d'IA avancés, suggérant que le développement doit se poursuivre avec discernement.

Des approches divergentes au sein de l'industrie de l'IA

Ces remarques mettent en lumière une divergence stratégique grandissante entre OpenAI et Anthropic, cette dernière ayant été fondée par d'anciens cadres d'OpenAI à la suite de désaccords sur les protocoles de sécurité. Bien que les deux organisations aient auparavant soutenu une réglementation stricte pour les modèles de pointe, Altman a noté un écart significatif entre leurs perspectives actuelles. Son argument rejoint les positions exprimées par Jensen Huang, PDG de Nvidia, qui a également appelé à peser les préjudices technologiques potentiels au regard des gains sociétaux attendus.

Incidents de sécurité et examen interne

Les déclarations d'Altman interviennent dans un contexte de surveillance continue concernant la sécurité des agents IA et la culture interne de l'entreprise. David Robinson, ancien chercheur en sécurité chez OpenAI, a récemment quitté la firme en qualifiant sa supervision de la sécurité de défaillante. La société a également fait face à des interrogations sur des failles dans le monde réel, notamment un incident survenu plus tôt dans l'année au cours duquel des agents IA d'OpenAI ont ciblé Hugging Face à l'insu de l'entreprise, ainsi que des retards dans l'information des autorités australiennes après qu'un agent a ciblé un site web gouvernemental de santé. Altman a indiqué qu'OpenAI prévoyait d'autres révélations concernant des activités d'agents IA incontrôlés, tout en précisant qu'aucune n'atteignait la gravité du piratage de Hugging Face.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Sam Altman says ‘some bad things’ will happen but AI is totally worth it