Tijdens de PyTorch Conference EU in Parijs is bekendgemaakt dat Hugging Face hun Safetensors-project heeft overgedragen aan de PyTorch Foundation. Dit is een belangrijke ontwikkeling voor de veiligheid binnen de wereld van kunstmatige intelligentie, omdat het helpt om risico’s op ongewenste code-uitvoering in AI-modellen te verminderen.
Safetensors is een project van Hugging Face dat is ontworpen om de manier waarop AI-modellen worden opgeslagen en geladen veiliger te maken. Het pakt vooral het risico op ‘arbitrary code execution’ aan. Dat klinkt misschien technisch, maar het betekent eigenlijk dat kwaadwillende code niet zomaar kan worden uitgevoerd wanneer je een AI-model gebruikt. Dit is een serieus beveiligingsprobleem dat kan ontstaan als er onzichtbare instructies in een modelbestand zijn verborgen.
Voor ontwikkelaars en gebruikers van AI-modellen betekent deze overdracht dat ze met meer vertrouwen modellen kunnen uitwisselen en gebruiken. Wanneer je een model downloadt dat is opgeslagen met Safetensors, is de kans veel kleiner dat er onbedoeld schadelijke code wordt geactiveerd. Het helpt de AI-gemeenschap om een veiligere en gestandaardiseerde methode te hanteren voor het delen van deze complexe bestanden, wat de algehele betrouwbaarheid van AI-applicaties ten goede komt.
Deze stap van Hugging Face om Safetensors aan de PyTorch Foundation te geven, een organisatie die onder de Linux Foundation valt en zich richt op AI-initiatieven, onderstreept het belang van samenwerking en open standaarden voor de veiligheid binnen de snelgroeiende wereld van kunstmatige intelligentie. Het is een collectieve inspanning om de AI-infrastructuur robuuster en veiliger te maken voor iedereen die ermee werkt.