Safeworld, GenAI robotları insana zarar vermediğini kanıtlamaya çalışıyor

Safeworld, insanlara genelleştirilmiş yapay zeka (GenAI) robotlarının onları zarar vermediğini kanıtlamak için çalıştığını duyurmuştur. Şirket, Carnegie Mellon Üniversitesi'nden Dr. Ding Zhao, veterani girişimci Kyle Wong ve makine öğrenimi mühendisi Simo Rachidi tarafından kurulmuştur. Zhao, robotların güvenliğini sağlamak için iki temel zorluğu belirtti: ileri düzeyli GenAI modellerinin risk değerlendirme sürecinin belirsizliği ve insanlarla olan güven oluşturma zorluğu. Safeworld, bu iki sorunu bir araya getirmeyi amaçlamaktadır.

Şirket, güvenli robotik sistemlerin değerlendirilmesi için gerçek insan davranışlarını içeren gerçekçi senaryolarla donatılmış dijital ortamlar oluşturur. Bu simülasyonlar, Genesis veya MuJoCo gibi fizik motorları üzerinden gerçek robot yazılımının performansını test eder. Özellikle köşe gibi engeli durumlarda robotun insanla temas etmesini engelleme ihtiyacı, önemli bir ölçüt olarak incelenmektedir. Safeworld, insanların tahmin edilemez davranışlarını modellemek için binlerce senaryo çalıştırarak bu zorluğu ele almayı planlamaktadır.

Safeworld, $12 milyonu aşan bir seed yatırım turu ile piyasaya sürülmüş olup, yatırımcılar arasında Shine Capital, a16z Speedrun, Box Group, Carnegie Mellon Üniversitesi Fondu, Innovation Endeavors ve SV Angel bulunur. a16z Speedrun partneri Jonathan Lai, robotik sistemlerin ev ortamında insanoğluca güvenli bir şekilde çalıştırılmasının erken aşamalarda standartlaştırılması gerektiğini vurgulayarak, bu işin erken yürütülmesi kritik olduğunu belirtmiştir.

Gritt Robotics'tan Vishal Dugar, Safeworld'un simülasyon teknolojisinin dışarıdan kullanıma açılmasına katkı sağlaması gerektiğini düşünüyor. Dugar, robotik sistemlerin matematiksel formülasyonla tamamen güvenli olduğunu kanıtlamak zorunda kalmadığını, deneysel olarak doğrulanması gerektiğini söylemektedir. Roboterler, farklı bed pozisyonları, kıyafetler ve hareket kalıpları gibi faktörleri göz önünde bulundurarak insanlara zarar vermeden çalışması gerektiğini vurgular.

Safeworld, ürün modelini hâlâ belirlemek için çalışmaktadır; dışarıdan kullanıma açılacak bir platform ya da hizmet tabanlı bir yaklaşım mı daha uygun olacak? Bu sorulara henüz kesin bir yanıt verilmemiştir. Ancak şirket, güvenli robotik sistemlerin ölçekli olarak kullanılabilmesi için kritik bir adım atıyor olduğunu inanmaktadır. Zaho, Safeworld'in bu alanda ilk kâr getiren şirket olma potansiyeline sahip olduğunu ifade etmiştir.

Haberi TechCrunch verdi.