Ubers selvkjørende bilulykke: sviktet ai oss?

12. mars kjørte MIT Technology Review en historie som startet slik: "Det er året 2023, og selvkjørende biler navigerer endelig i byens gater. For første gang har en av dem truffet og drept en fotgjenger, med stor mediedekning. Et høyprofilt søksmål er sannsynlig, men hvilke lover skal gjelde?"

Alt om prediksjonen var riktig, bortsett fra datoen. Nøyaktig en uke etter at artikkelen ble publisert, slo en selvkjørende Uber og drepte en fotgjenger i Tempe, Arizona, mens han fungerte i autonom modus.

Selv om hendelsen fortsatt blir undersøkt, er oppstyret som fulgte en indikasjon på hvor langt vi er fra å lykkes med å integrere kunstig intelligens i våre kritiske oppgaver og beslutninger.

I mange tilfeller er ikke problemet med AI, men med våre forventninger og forståelse av det. I følge Wired døde nesten 40 000 mennesker i veihendelser i fjor alene i USA - 6000 av dem var fotgjengere. Men svært få (om noen) fikk overskrifter slik Uber-hendelsen gjorde.

En av grunnene til at Uber-krasjet forårsaket en slik oppstyr er at vi generelt sett har store forventninger til nye teknologier, selv når de fortsatt er i utvikling. Under illusjonen om at ren matematikk driver AI-algoritmer, har vi en tendens til å stole på beslutningene deres og blir sjokkerte når de gjør feil.

Til og med sikkerhetssjåførene bak rattet på selvkjørende biler slapp vakten ned. Opptak fra Uber-hendelsen viste at sjåføren ble distrahert, og så ned sekunder før krasjet skjedde.

I 2016 døde sjåføren av en Tesla S-modell som opererte i Autopilot-modus etter at kjøretøyet krasjet inn i en lastebil. En undersøkelse fant at sjåføren kan ha sett en Harry Potter-film på kollisjonstidspunktet.

Forventningene til perfeksjon er høye, og skuffelsene er kraftige. Kritikere var raske med å bringe Ubers hele den selvkjørende bilprosjektet i tvil etter hendelsen; selskapet har midlertidig suspendert testing av selvkjørende biler i kjølvannet.

AI er ikke menneskelig

Blant kritikken som fulgte krasjet, var at en menneskelig sjåfør lett ville ha unngått hendelsen.

"Hoppet ikke ut av buskene. Hun hadde gjort klare fremskritt i flere trafikkbaner, noe som burde vært i systemområdet for å hente, " sa en ekspert til CNN.

Hun har rett. En erfaren menneskelig sjåfør ville sannsynligvis ha oppdaget henne. Men AI-algoritmer er ikke menneskelige.

Dype læringsalgoritmer som finnes i selvkjørende biler, bruker mange eksempler for å "lære" reglene for deres domene. Når de bruker tid på veien, klassifiserer de informasjonen de samler inn og lærer å håndtere forskjellige situasjoner. Men dette betyr ikke nødvendigvis at de bruker den samme beslutningsprosessen som menneskelige drivere. Det er derfor de kan prestere bedre enn mennesker i noen situasjoner og mislykkes i de som virker trivielle for mennesker.

Et perfekt eksempel er bildeklassifiseringsalgoritmen, som lærer å gjenkjenne bilder ved å analysere millioner av merkede bilder. Gjennom årene har bildeklassifisering blitt supereffektiv og overgår mennesker i mange omgivelser. Dette betyr ikke at algoritmene forstår sammenhengen til bilder på samme måte som mennesker gjør.

For eksempel fant forskning fra eksperter ved Microsoft og Stanford University at en dyp læringsalgoritme trent med bilder av hvite katter trodde med høy grad av overbevisning at et bilde av en hvit hund representerte en katt, en feil et menneskebarn lett kunne unngå. Og i et beryktet tilfelle klassifiserte Googles algoritmer for bildeklassifisering feilaktig personer med mørk hudfarge som gorillaer.

Dette kalles "kantsaker", situasjoner som AI-algoritmer ikke har blitt opplært til å håndtere, vanligvis på grunn av mangel på data. Uber-ulykken er fortsatt under etterforskning, men noen eksperter fra AI antyder at det kan være en annen kant-sak.

Dyp læring har mange utfordringer å overvinne før den kan brukes i kritiske situasjoner. Men dens feil bør ikke avskrekke oss. Vi må tilpasse våre oppfatninger og forventninger og omfavne virkeligheten som enhver flott teknologi svikter under utviklingen. AI er ikke annerledes.