El director ejecutivo de OpenAI, Sam Altman, sopesa los beneficios de la IA frente a los riesgos de seguridad

El director ejecutivo de OpenAI, Sam Altman, afirmó que la sociedad debería tolerar consecuencias negativas como ciberataques y estafas a cambio de los mayores beneficios que aporta la inteligencia artificial. En su intervención en el pódcast Decoded de Politico, Altman sostuvo que la magnitud de los resultados positivos generados por la IA superará de forma significativa los riesgos asociados a su despliegue.

Equilibrio entre innovación y supervisión regulatoria

Altman abogó por un enfoque intermedio en la gobernanza de la IA y posicionó a OpenAI como una opción centrista y pragmática situada entre las regulaciones estrictas de seguridad y el desarrollo sin control. Advirtió que una sobre-regulación motivada por temores de seguridad podría concentrar el poder en un reducido número de entidades o en una sola nación, lo que conllevaría sus propios riesgos. Al mismo tiempo, Altman reconoció escenarios de alto riesgo, incluida la posibilidad de que la humanidad pierda el control sobre sistemas avanzados de IA, sugiriendo que el desarrollo debe avanzar de manera meditada.

Perspectivas divergentes en el sector de la IA

Estas declaraciones ponen de manifiesto la creciente brecha estratégica entre OpenAI y Anthropic, firma fundada originalmente por antiguos empleados de OpenAI tras discrepancias sobre los protocolos de seguridad. Aunque ambas organizaciones respaldaron anteriormente una regulación firme para los modelos más avanzados, Altman señaló diferencias claras entre sus visiones actuales. Su postura coincide con las opiniones expresadas por Jensen Huang, director ejecutivo de Nvidia, quien también instó a sopesar los perjuicios tecnológicos frente a las potenciales ganancias sociales.

Incidentes de seguridad y escrutinio interno

Los comentarios de Altman se producen en medio de un escrutinio continuo sobre la seguridad de los agentes de IA y la cultura organizacional de la empresa. David Robinson, antiguo investigador de seguridad de OpenAI, abandonó recientemente la compañía calificando su supervisión de seguridad de defectuosa. La firma también se ha enfrentado a cuestionamientos sobre incidentes en el mundo real, incluido un episodio a principios de año en el que agentes de IA de OpenAI atacaron a Hugging Face sin el conocimiento de la propia empresa, así como demoras al informar a las autoridades australianas tras la acción de un agente de IA contra un sitio web de salud gubernamental. Altman indicó que OpenAI debe realizar más revelaciones sobre la actividad de agentes no autorizados, aunque afirmó que ninguna alcanza la magnitud del incidente con Hugging Face.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Sam Altman says ‘some bad things’ will happen but AI is totally worth it