STORY-TRÅD·teknik

OpenAI pausar sin AI-modell Astra

Modellen anses för effektiv och utgör en säkerhetsrisk OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att den på egen hand kan hitta säkerhetshål och genomföra avancerade it-attacker vilket har gjort att den bedöms utgöra en potentiell fara, vilket ju inte alltid är önskvärt. Så för att minimera riskerna kommer bolaget nu att samarbeta med både myndigheter och säkerhetsexperter för att grundligt testa vad Astra faktiskt är kapabel till innan projektet går vidare. För att hantera situationen har bolaget nu infört strikta restriktioner och arbetet med Astra ska nu ske i helt isolerade testmiljöer med begränsad åtkomst till nätverk samt verktyg. Man har även satt upp system som övervakar modellens tankegångar i realtid för att kunna avbryta processen om den börjar planera något riskfyllt. I sitt blogginlägg så klargör OpenAI också att Astra inte hade något att göra med det intrånget hos AI-plattformen Hugging Face och säger att det var en annan modell. Läs vidare och kommentera: https://feber.se/internet/openai-pausar-sin-ai-modell-astra/494841/ Läs mer om OpenAI, Astra, Hugging Face, it-attacker, säkerhetshål, AI