Base Labs lanceert open-source AI-veiligheidsstandaard in samenwerking met Hugging Face en Goodfire

Base Labs lanceert een nieuwe open-source standaard voor veiligheid en monitoring van open-source AI-modellen, in samenwerking met Hugging Face en Goodfire. De samenwerking richt zich op het bouwen van een transparante infrastructuur die vanaf het begin in de training en het deploy van modellen wordt verweven. De initiatief komt terwijl discussies over de risico’s van open-source AI-modellen toenemen, met name na de opkomst van technieken zoals abliteratie die bestaande veiligheidsmaatregelen kunnen ondermijnen.

Hugging Face hostt momenteal meer dan 6.000 abliteratormodellen, wat de urgentie van een gestandaardiseerde aanpak benadrukt. Baseten, dat zijn onderzoeksteam Base Labs heeft opgericht, wil methoden ontwikkelen en publiceren voor zowel training als monitoring van open-source modellen. Het bedrijf benadrukt dat openheid een voordeel is voor veiligheid, omdat meer zicht op modelgedrag leidt tot beter traceerbare en transparante controlemechanismen. Goodfire, gespecialiseerd in modelinterpretatie, wordt als sleutelpartner gezien voor het ‘inbouwen’ van veiligheid.

Baseten heeft recent een financieringsronde van 1,5 miljard dollar afgesloten, wat de groeiambitie onderstreept. De samenwerking roept ontwikkelaars op om bij te dragen aan de ontwikkeling van de nieuwe standaard, met als doel een toegankelijke en veilige ecosystem voor open-source AI te creëren.

Gemeld door TechCrunch.