Safeworld sai do modo sigiloso com US$ 12 mi para testar segurança de robôs com IA generativa

A Safeworld saiu do modo sigiloso após arrecadar mais de US$ 12 milhões em financiamento seed para desenvolver uma plataforma de avaliação de segurança destinada à robótica impulsionada por IA generativa. A rodada de investimentos foi liderada pela Shine Capital e pela a16z Speedrun, com participação adicional de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors e SV Angel.

Gerenciando riscos de IAs probabilísticas na robótica

Robôs humanoides e industriais modernos estão incorporando cada vez mais modelos de IA generativa em suas arquiteturas de controle. Diferentemente dos algoritmos determinísticos tradicionais, que seguem regras programadas estritas, os sistemas de IA generativa operam de forma probabilística, tornando suas ações mais difíceis de prever em diferentes cenários do mundo real.

A Safeworld foi fundada pelo Dr. Ding Zhao, diretor do laboratório Safe AI na Carnegie Mellon University, em conjunto com o executivo de startups Kyle Wong e o engenheiro de aprendizado de máquina Simo Rachidi. Os fundadores sustentam que a validação de segurança feita por terceiros é essencial para fabricantes de robôs que pretendem implantar hardware em instalações não estruturadas e ao redor de pessoas sem treinamento.

Cenários de simulação virtual

Para avaliar os sistemas de controle robótico, a Safeworld constrói réplicas digitais de ambientes, como cantos de fábricas, dentro de motores de física e renderização como Genesis ou MuJoCo. A plataforma conecta o software de controle real do fabricante a um avatar robótico simulado, submetendo-o a milhares de testes virtuais.

Essas simulações povoam o ambiente com modelos humanos digitais que exibem ações imprevisíveis do mundo real, incluindo agachar, correr, carregar objetos ou tropeçar e cair. O processo mede métricas críticas, como distância de parada, navegação em cantos sem visibilidade e detecção de humanos em variadas poses físicas e estilos de vestuário, sem expor trabalhadores reais a riscos.

Parceiros iniciais e estratégia comercial

A Safeworld está em parceria com clientes iniciais, como a Gritt Robotics, que desenvolve sistemas de controle por IA para robôs que instalam painéis fotovoltaicos em usinas solares industriais. Como a verificação matemática formal é difícil para modelos de IA não determinísticos, a avaliação empírica prática em condições simuladas oferece um caminho para verificar a segurança antes da implantação no local.

A empresa está atualmente determinando se fornecerá seu conjunto de ferramentas de validação de segurança como uma plataforma externa ou por meio de um modelo de prestação de serviços.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Can Safeworld convince people that gen AI robots won’t hurt them?