Safeworld sale del anonimato con 12 millones de dólares para evaluar la seguridad de robots con IA generativa

Safeworld ha salido de su fase secreta de desarrollo tras conseguir más de 12 millones de dólares en una ronda de financiación inicial destinada a crear una plataforma de evaluación de seguridad para robots impulsados por inteligencia artificial generativa. La ronda estuvo liderada por Shine Capital y a16z Speedrun, con la participación adicional de Box Group, el fondo de dotación de la Universidad Carnegie Mellon, Innovation Endeavors y SV Angel.

Gestión de riesgos probabilísticos de la IA en robótica

Los robots humanoides e industriales modernos incorporan cada vez más modelos de IA generativa en sus arquitecturas de control. A diferencia de los algoritmos deterministas tradicionales que siguen reglas programadas de manera estricta, los sistemas de IA generativa operan de forma probabilística, lo que dificulta la predicción de sus acciones en diversos entornos del mundo real.

Safeworld fue fundada por el Dr. Ding Zhao, director del laboratorio Safe AI de la Universidad Carnegie Mellon, junto con el ejecutivo de empresas emergentes Kyle Wong y el ingeniero de aprendizaje automático Simo Rachidi. Los fundadores afirman que la validación de seguridad por parte de terceros es fundamental para los fabricantes de robots que buscan desplegar hardware en instalaciones no estructuradas y cerca de personas sin formación previa.

Escenarios de simulación virtual

Para evaluar los sistemas de control robótico, Safeworld construye réplicas digitales de entornos, como esquinas de fábricas, utilizando motores de física y renderizado como Genesis o MuJoCo. La plataforma conecta el software de control real del fabricante a un avatar robótico simulado y lo somete a miles de pruebas virtuales.

Estas simulaciones incorporan modelos humanos digitales que ejecutan acciones impredecibles del mundo real, como agacharse, correr, transportar objetos o tropezar y caer. El proceso mide métricas críticas como la distancia de frenado, la navegación en esquinas ciegas y la detección de personas en diversas posturas físicas y estilos de vestimenta, sin exponer a trabajadores reales a ningún riesgo.

Primeros socios y estrategia comercial

Safeworld está colaborando con clientes iniciales como Gritt Robotics, una empresa que desarrolla sistemas de control con IA para robots encargados de instalar paneles fotovoltaicos en parques solares industriales. Debido a que la verificación matemática formal resulta difícil en modelos de IA no deterministas, la evaluación empírica en condiciones simuladas ofrece una vía práctica para verificar la seguridad antes del despliegue sobre el terreno.

Actualmente, la empresa está evaluando si ofrecerá su conjunto de herramientas de validación de seguridad como una plataforma externa o mediante un modelo de prestación de servicios.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Can Safeworld convince people that gen AI robots won’t hurt them?