Er autonome kjøretøyprøver en offentlig fare? | doug nykommer

Kan noen på internett ha begynt å ha forventet trolling og nettmobbing - og at en fremtidig POTUS ville engasjere seg med nasjonen 140 tegn på den tiden? Det kan være vanskelig å forutse ulempene ved revolusjonerende nye teknologier.

Blant de potensielle ulempene med autonome kjøretøyer - inkludert store arbeidstap blant kommersielle sjåfører og muligens enda mer trafikk fra robotaxi - er det som er kjent som "tralleproblemet." Dette refererer til etiske avgjørelser en selvkjørende bil vil måtte ta når de blir konfrontert med situasjoner uten vinn, for eksempel om å løpe over en person som peker inn på banen på en smal overfylt bygate eller svinger til hver side og pløyer inn fotgjengere på fortauet.

Selv om California Polytechnic State University filosofiprofessor Patrick Lin har gjennomført virkelige tester på dette dilemmaet i samarbeid med Center for Automotive Research i Stanford, erkjenner at "noe føles uærlig med den moralske panikken over selvkjørende biler" og tralleproblemet siden scenariet er så langt inne. Men som Lin påpeker, i motsetning til andre teknologier, testing av autonome kjøretøy på offentlig vei kan ha en umiddelbar negativ innvirkning på samfunnet.

Det blir komplisert

Lin hevder at selv om teknologiutviklere typisk beta-tester nye produkter og funksjoner med få begrensninger og lover, "blir det komplisert når programvaren deres samhandler direkte med den større fysiske verdenen" - i dette tilfellet når de kontrollerer en multi-ton maskin i det offentlige. Lin hevder at når det gjelder autonom kjøretøytesting på offentlige veier, "påvirker produktene ikke bare brukerne direkte, som tilfellet er med de fleste andre dingser og tjenester."

Som et eksempel peker Lin på navigeringsappen Waze til publikum. Det "gir opphav til klager om 'flokkende' oppførsel: svermer av biler sendt med algoritmer gjennom stille nabolag som ikke er designet for stor trafikk, " sier han.

Dette "kan øke risikoen for barn som leker i disse gatene, redusere eiendomsverdiene hvis veistøyen er høyere og skape andre eksternaliteter. Dette betyr at navigasjonsapper tar risikobeslutninger som brukerne kanskje ikke er klar over, men som antagelig burde være."

Selvkjørende biler på lignende måte "må velge autonomt sine ruter… og det er ofte ikke bare en riktig vei å gå, " legger Lin til. Men han mener at det større problemet er å avgjøre hvem som skal holdes ansvarlig for den negative innvirkningen på trafikk eller offentlig sikkerhet som navigasjonsapper som Waze forårsaker - og ved utvidelse av selvkjørende biler som tester på offentlige veier.

"Det er en tragedie for allmenningene: Ingen sitter i førersetet på hvordan navigasjonsalgoritmer skal harmoniseres med samfunnet, " sier han. "Så hvis det har en negativ innvirkning på trafikk eller offentlig sikkerhet, er det vanskelig å finne ansvaret for disse effektene."

Spørsmålet om hvem som vil være ansvarlig i en selvkjørende bilulykke - bilprodusenten, programvareutvikleren, sensoren eller kartprodusenten - er et av problemene som holder tilbake teknologiens utbredte adopsjon, selv om det utvikles løsninger. Gitt at selvkjørende biltester allerede blir utført på offentlige veier, mener Lin det han kaller "forskning på menneskefag" kanskje bør få forhåndsgodkjenning av et etisk styre.

Byer har begynt å svare ved å utpeke veier som "ingen gjennom trafikk" -soner som bare er tilgjengelige for innbyggerne og krever at Waze utpeker dem som grenser for forbipasserende bilister. Noen sinte og driftige innbyggere går til og med useriøse og hacker nav-apper som Waze med fantomvrak, for å avlede trafikken fra nabolagene.

Lin understreker at formålet hans ikke er å skape "et argument mot teknologi, men bare å seriøst reflektere over dens voksende kraft og implikasjoner, når prøvesaker beveger seg gjennom domstolene i den offentlige opinionen" - og som mer selvkjørende biler ta til offentlige veier.