STORY-TRÅD·teknik

Tidigare OpenAI-anställd kritiserar AI-utvecklingen

Släpp ut först och be om ursäkt sen E snubbe vid namn David Robinson, som tidigare jobbade med säkerhetsrapporter för OpenAI, har skrivit en intressant insändare i tidningen The Atlantic där han bland annat pratar om att utvecklingen av artificiell intelligens sker på ett ansvarslöst sätt. Han nämner att Silicon Valleys besatthet av tempo och övertro på sin egen förmåga skapar en farlig miljö där katastrofala misstag blir oundvikliga. Enligt Robinson är problemet inte enskilda lagar, utan en djupt rotad företagskultur som prioriterar snabba lanseringar framför säkerhet. Han nämner det de flesta säkert redan märkt att OpenAI har nått framgång genom en metod de kallar iterativ distribution, vilket då innebär att de släpper produkter, sedan hittar de fel som då rättas till i efterhand. Robinson menar att detta tillvägagångssätt är livsfarligt när det gäller AI som närmar sig mänsklig intelligens och nämner flera incidenter under det senaste året där säkerhetsspärrar fallerat samt modeller agerat utanför mänsklig kontroll. Enligt Robinson borde AI hanteras likt andra högriskbranscher och att AI-labb borde drivas med samma rigorösa säkerhetskrav som kärnkraftverk eller flygplatser, med flera lager av skyddsmekanismer. Just det här med säkerhetskrav var något han inte stötte på allt för mycket när han jobbade på OpenAI så han sällan stötte på kollegor som hade någon form av erfarenhet av att bygga kritiska säkerhetssystem från andra sektorer. Istället präglades vardagen av ständiga sprintar för att hinna till nästa lansering, vilket lämnade lite utrymme för säkerhetstänk. En annan stor oro som han nämnde var att han anser att de inte har koll på hur de säkerställer att AI delar mänskliga värderingar. Robinson menar att vi i dagsläget saknar vetenskapliga metoder för att garantera att en superintelligent maskin faktiskt gör som vi vill när vi inte ser på. Genom att nu arbeta utanför OpenAI hoppas Robinson kunna skapa påtryckningar utifrån som tvingar teknikjättarna att få bättre koll på sin AI-utveckling. Läs vidare och kommentera: https://feber.se/samhalle/tidigare-openai-anstalld-kritiserar-ai-utvecklingen/496867/ Läs mer om David Robinson, OpenAI, The Atlantic, Silicon Valley, iterativ distribution, säkerhetskrav