Safeworld: la nuova frontiera nella sicurezza dei robot con intelligenza artificiale generativa

Safeworld ha recentemente fatto il suo ingresso nel mercato con un seed round di oltre 12 milioni di dollari, destinato allo sviluppo di strumenti di valutazione della sicurezza per sistemi robotici controllati da modelli di intelligenza artificiale generativa. Fondata da un team di esperti, tra cui il Dr. Ding Zhao, Kyle Wong e Simo Rachidi, la startup si propone di testare i controllori robotici in simulazioni che riproducono scenari operativi realistici, prima della loro implementazione sul campo.

La decisione di concentrare gli sforzi sulla sicurezza dei robot nasce dalla crescente diffusione di architetture generative, le quali si rivelano meno prevedibili rispetto agli algoritmi tradizionali. Questo richiede un approccio più complesso per la valutazione del rischio, che combina misure probabilistiche con strategie per costruire fiducia nell’uso dei robot.

In pratica, Safeworld ricrea digitalmente ambienti specifici, come ad esempio un angolo cieco in una fabbrica, e inserisce il robot, controllato dal suo software reale, in motori di simulazione come Genesis o MuJoCo. Attraverso questa metodologia, l’azienda è in grado di eseguire migliaia di scenari in cui modelli umani interagiscono con la macchina, testando le risposte a situazioni impreviste.

«La sfida della sicurezza è una combinazione di valutazioni probabilistiche molto avanzate e della questione della fiducia; servono entrambe per mettere in servizio un robot», ha affermato Ding Zhao. I fondatori hanno evidenziato le difficoltà nel catturare la variabilità umana, che include posture, cadute, abbigliamento, dimensioni e colore della pelle. Inoltre, è emersa la necessità di validazione esterna per garantire che i casi di sicurezza possano essere condivisi tra i produttori.

Tra gli investitori che hanno supportato il round di finanziamento ci sono Shine Capital e a16z Speedrun, con partecipazioni anche da Box Group, Carnegie Mellon University Endowment, Innovation Endeavors e SV Angel. Inoltre, Gritt Robotics collabora con Safeworld nello sviluppo delle simulazioni per i propri robot, destinati all’installazione di pannelli fotovoltaici.

Attualmente, la società sta valutando se offrire una piattaforma per utenti esterni o adottare un approccio basato su servizi. Tuttavia, l’obiettivo principale rimane quello di rendere disponibili strumenti di verifica empirica, al fine di ridurre il rischio associato ai robot distribuiti su scala.