teknik·AI-REDIGERAD
Amazon ifrågasätter mänsklig AI-övervakning
Amazon menar att nuvarande modeller för AI-styrning med "människan i loopen" är bristfälliga, då mänsklig uppmärksamhet och konsistens är begränsad.
Enligt Amazon är principen om "människan i loopen" (Human-in-the-loop, HiTL) inom AI-styrning inte den gyllene standard som många företag tror. Eric Brandwine, vice VD och framstående ingenjör vid Amazon Security, framförde denna åsikt i en intervju med The Register.
Brandwine hävdar att människor inte är särskilt konsekventa, vilket gör att HiTL, där människor granskar och korrigerar AI-system, inte nödvändigtvis är en optimal lösning. Enligt The Next Web menar han att mänsklig tillsyn över tid kan leda till "normalisering av avvikelser" (normalization of deviance), där små felaktigheter eller inkonsekvenser gradvis accepteras som norm.
Amazons säkerhetsledning argumenterar därmed mot en av de mest allmänt accepterade principerna inom AI-styrning, som förlitar sig på mänsklig kontroll för att säkerställa AI-systemens tillförlitlighet och ansvarighet. Kritiken bygger på insikten att mänsklig uppmärksamhet tenderar att avta och konsekvensen brister över tid, vilket i förlängningen kan undergräva effektiviteten hos HiTL-modeller.
Detta vet vi
- Eric Brandwine, VP och framstående ingenjör på Amazon Security, har uttalat sig om brister i "människan i loopen" (HiTL) för AI-styrning.
- Amazon menar att människor inte är tillräckligt konsekventa för att HiTL ska vara en optimal lösning.
- Kritiken ifrågasätter en allmänt accepterad princip inom AI-styrning.
Påståenden & källor
- T
Eric Brandwine, vice VD och framstående ingenjör vid Amazon Security, har uttalat sig kritiskt om
- T
Enligt The Next Web menar han att mänsklig tillsyn över tid kan leda till "normalisering av avvikelser".
Övriga källor
- T
Why Amazon hates 'human-in-the-loop' AI governance