El gobernador del Banco de Inglaterra insta a realizar pruebas de estrés a la IA antes de regularla

Andrew Bailey, gobernador del Banco de Inglaterra, ha señalado que introducir una regulación formal para la inteligencia artificial no es el punto de partida adecuado para afrontar los riesgos de esta tecnología. En su primer artículo publicado en Substack, Bailey defendió la necesidad de realizar evaluaciones exigentes para identificar vulnerabilidades e implantar salvaguardas, según recoge un informe de la BBC.

Priorizar las evaluaciones frente a las prohibiciones

Bailey enfatizó que el avance de la inteligencia artificial no debe detenerse ni prohibirse, destacando el considerable potencial y los beneficios que ofrece esta tecnología. Sin embargo, advirtió que los riesgos asociados son reales y cada vez mayores. Para gestionar estas inquietudes, abogó por fijar límites operativos claros y mecanismos de intervención directos en lugar de apresurarse a redactar marcos regulatorios amplios, sin descartar que con el tiempo termine surgiendo una normativa formal.

Preocupación por los modelos avanzados de autoaprendizaje

El gobernador mostró especial inquietud por los sistemas conocidos como «frontier AI», modelos avanzados con capacidad de autoaprendizaje que plantean desafíos sistémicos. Bailey advirtió de que, sin métodos de intervención eficaces, existe el peligro de que estos sistemas funcionen como un circuito cerrado en el que el propio modelo se controle a sí mismo de forma progresiva. Asimismo, reconoció que las pruebas revelarán fallos y comportamientos imprevistos, aunque sostuvo que estos resultados demuestran precisamente por qué es indispensable llevar a cabo una evaluación rigurosa.

Perspectivas globales entre la seguridad y el avance tecnológico

Bailey señaló que iniciativas de ensayo como el Instituto de Seguridad de la IA del Reino Unido sientan las bases para futuros estándares, aunque instó a acelerar el ritmo de trabajo manteniendo la humildad. Sus declaraciones se producen en pleno debate internacional sobre la seguridad de la IA. Directivos de empresas destacadas como Anthropic y OpenAI han pedido coordinación internacional y ritmos de despliegue moderados. En cambio, la política estadounidense bajo el mandato del presidente Donald Trump ha priorizado el liderazgo nacional en IA, obteniendo un compromiso voluntario de grandes líderes tecnológicos para gestionar los riesgos potenciales.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Regulating AI 'not the right place to start' says Bailey