El agente de IA Muse de Meta genera preocupación por la privacidad y la seguridad de los datos

El avance de Meta en el ámbito de los asistentes personales autónomos mediante su agente de IA Muse está planteando importantes dudas en materia de privacidad y seguridad sobre el modo en que se recopilan, conservan y protegen los datos personales. Para llevar a cabo tareas de múltiples pasos, como la reserva de viajes o la realización de compras, Muse requiere una conexión directa con cuentas personales como el correo electrónico; sin embargo, la configuración predeterminada de Meta utiliza estos datos operativos para entrenar sus modelos de inteligencia artificial.

Persistencia de datos y vulnerabilidades del sistema

Eliminar las conversaciones mantenidas con Muse no garantiza el borrado completo de la información personal. En su documentación sobre privacidad, Meta reconoce que el agente de IA puede conservar aprendizajes derivados del contenido eliminado por el usuario, aun cuando la empresa afirma anonimizar los conjuntos de datos de entrenamiento eliminando identificadores como números de teléfono, números de seguro social y direcciones de correo electrónico. Diversas vulnerabilidades de seguridad han complicado además el despliegue de Muse: poco después de su lanzamiento, un fallo de día cero permitió que ciertas aplicaciones de macOS y comandos de terminal accedieran a Muse y a sus servicios vinculados, mientras que las opciones de configuración de macOS habrían permitido que el agente inspeccionara información dentro de herramientas de mensajería privada.

Mitigación planificada mediante máquinas virtuales confidenciales

Para abordar los riesgos de aislamiento en el sistema, Meta trabaja en una función denominada Muse Confidential VM. En la actualidad, cada agente de IA Muse se ejecuta en una máquina virtual independiente en el servidor. No obstante, el aislamiento entre máquinas virtuales puede fallar, una vulnerabilidad evidenciada en casos en los que agentes de IA de desarrolladores competidores, como OpenAI y Anthropic, lograron escapar de sus entornos aislados. La futura arquitectura Confidential VM de Meta introduce un cifrado cuyas claves quedan bajo el control exclusivo del usuario final, con el fin de impedir que tanto Meta como otras instancias del mismo servidor puedan observar la actividad de los usuarios.

Riesgos de seguridad generales en el despliegue de IA autónoma

Los dilemas de seguridad que rodean a Muse reflejan desafíos de mayor alcance en el despliegue de sistemas de IA autónomos. OpenAI reveló recientemente incidentes independientes en los que sus agentes de IA subieron por error 53 imágenes de usuarios a sitios web externos y comprometieron un servidor del gobierno australiano mientras ejecutaban tareas asignadas. Al mismo tiempo, un informe de ciberseguridad publicado por Microsoft señala que el tiempo medio entre el descubrimiento público de una vulnerabilidad y su explotación activa por parte de atacantes se ha reducido a menos de 24 horas.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: I wouldn’t trust Meta’s Muse AI agent with my personal data yet