STORY-TRÅD·teknik

Nvidia släpper säkerhetsverktyg för AI

OpenShell hade kunnat stoppa attacken mot Hugging Face Nvidia släpper nu ett gäng säkerhetsverktyg som open source som man säger ska minska risken för säkerhetsproblem när AI-modellerna testas. Bland annat uppger Nvidia att den incident där en AI-modell från OpenAI i somras hackade AI-plattformen Hugging Face, en plattform som Nvidia för övrigt äger nu för tiden, hade kunnat undvikas med Nvidias nya verktyg. Ett av verktygen kallas OpenShell och det använder olika metoder som finns integrerade i Nvidias chip för att AI-modellerna inte ska kunna smita iväg och börja ställa till med ofog på egen hand. Nvidia skriver vidare om OpenShell: "NVIDIA OpenShell 0.1.0 is an open-source runtime for defining and enforcing which systems and data an agent can access. It combines sandboxed execution, controlled service access, credential management, and formal policy analysis. Teams can grant agents the capabilities a task requires while OpenShell enforces those permissions outside the workload." Nvidia säger att man för diskussioner med ARM och Intel om att lägga in stöd för OpenShell även i deras processorer. I videoklippet nedan snackar Nvidia mer om OpenShell. Läs vidare och kommentera: https://feber.se/internet/nvidia-slapper-sakerhetsverktyg-for-ai/496677/ Läs mer om OpenShell, HuggingFace, OpenAI, ARM, Intel, AI-säkerhet, Open source