Innholdsfortegnelse:
Video: Trenger vi et etisk råd for kunstig intelligens? (Oktober 2024)
DeepMinds nylige utnyttelser i utviklingen av kunstig intelligens som kan beseire spillere i verdensklasse på StarCraft II forårsaket mye oppsving. Mens DeepMind kalte det et stort gjennombrudd, hevdet andre at det var juks, urettferdig og overmenneskelig.
AlphaStar, DeepMinds StarCraft-spillende bot, bruker dyp læring, et populært felt av AI der programmerere utvikler oppførselen til AI-modellene sine ved å gi dem et sinnssykt antall eksempler. AlphaStar trente først på en stor database med menneskelige spilldata utgitt av Blizzard, og spilte millioner av spill mot seg selv for å lære og mestre reglene for StarCraft. Den ble deretter grodd mot mennesker, og feide DeepMinds egne amatørspillere før de gikk videre mot verdensmestere.
Da AlphaStar slo TLO og MaNa, to av verdens beste spillere, var det grunn til å tro at kunstig intelligensindustrien hadde passert en milepæl. I et blogginnlegg kalte DeepMind AlphaStar "et skritt fremover i vårt oppdrag å lage intelligente systemer som en dag vil hjelpe oss å låse opp nye løsninger på noen av verdens viktigste og grunnleggende vitenskapelige problemer."
Men så kom kritikken.
En urettferdig fordel
Kritikere hevder at AlphaStar har flere egenskaper som gjør det til en urettferdig motstander mot mennesker.
For det første brenner AlphaStar fort. DeepMind-ingeniører sier de handikappet AlphaStar for å forhindre at den utførte flere handlinger enn et menneske kunne utføre. Men menneskelige spillere gjør mye søppelklikking, eller impulsive handlinger som ikke har noen verdi eller tenkning bak seg.
Når spillere for eksempel vil beordre enhetene sine til å flytte til et sted eller angripe en fiende, klikker de ofte gjentatte ganger på samme sted eller på en bane mot destinasjonen, fordi det gir en falsk følelse av at å klikke vil fremskynde handlingen. I virkeligheten utfører enhetene bare den siste kommandoen og vil ignorere tidligere. I motsetning til dette er AlphaStar's hvert trekk presist.
Kritikere hevder at misforholdet lar AlphaStar mikromanere spillet på en overmenneskelig måte. For eksempel, i et stort slag der mange enheter er involvert, kan AlphaStar gi individuelle kommandoer til hver av enhetene sine med hastighet og presisjon som ville være umulig for dens menneskelige motstandere. I en analyse av AlphaStars ytelse beskrev ArsTechnicas Timothy B. Lee noen få scenarier der AlphaStars hastighet og presisjon ville gi den en urettferdig fordel.
Andre analytikere har påpekt at AlphaStar får mer informasjon enn menneskelige spillere. Versjonen av bot som slo MaNa og TLO hadde tilgang til hele kartet, i motsetning til å se en skjerms verdi av slagmarkområdet som en menneskelig spiller. Men det var fremdeles begrenset av "tåke om krig", noe som betyr at den ikke kunne hente ut informasjon fra områdene der den ikke hadde aktive enheter.
Enda andre kritiserte AlphaStar sine grenser: Det kunne bare spille som Protoss, et av de tre løpene i StarCraft, og på bare ett av de mange kartene i spillet. Gitt et nytt løp og kart, ville AlphaStar sannsynligvis tape mot amatørmenneske motstandere fordi det fra AIs perspektiv ville være som å spille et helt annet spill.
Hva er Fair Play?
DeepMind har fortsatt ikke gitt ut tekniske detaljer, men noen mistenker at i stedet for å måtte behandle råpiksler slik mennesker gjør, kan AlphaStar ha hatt tilgang til rå spilldata gjennom APIer (applikasjonsprogrammeringsgrensesnitt).
Takk! men det sier ikke om den spesielle programvaren som vant mot eksperter, brukte piksler eller preparsed APi-ting, som begge er tilgjengelige, men veldig forskjellige
- Gary Marcus (@GaryMarcus) 31. januar 2019
Ars 'Timothy B. Lee kommer til denne konklusjonen: "Den ultimate måten å jevne ut spillfeltet ville være å få AlphaStar til å bruke nøyaktig samme brukergrensesnitt som menneskelige spillere." Dette betyr at AI, som en menneskelig spiller som stirrer på en dataskjerm, bare ville ha tilgang til spillets grafikk og måtte simulere tastetrykk, museklikk og rulle i stedet for å samhandle med spillet gjennom API-anrop.
Dette ville være et rimelig poeng hvis vi forventet at AI skulle gjenskape den menneskelige hjerne og sanser nøyaktig. Men dyp læring og nevrale nettverk, som fremdeles er banebrytende for AI, har tydelige grenser som forhindrer dem i å reprodusere noen av de mest grunnleggende menneskelige funksjonene.
Dyp læring er smal AI, noe som betyr at det er veldig bra til å utføre spesifikke oppgaver som å merke bilder eller gjenkjenne tale, men det er forferdelig med å generalisere oppgaver eller overføre kunnskapen til andre domener. Jo mer du utvider problemområdet, jo mer begrenset blir AIs evne og mer trening trenger den. Derfor vil ikke AlphaStar kunne spille et nytt RTS-spill, for eksempel Warcraft 3 eller Company of Heroes.
Det tok også AlphaStar 200 års spill for å mestre Protoss på et enkelt nivå. Det vil sannsynligvis ta like mye å lære å spille Terran eller Zerg, de to andre løpene til StarCraft. Derimot kunne en menneskelig spiller raskt havn over kunnskapen de fikk fra ett spill til et nytt.
Vi er fremdeles tiår unna (i det minste) fra generell AI, den typen som kan matche de kognitive evnene til mennesker. Noen forskere mener at vi aldri vil lykkes med å reprodusere den menneskelige hjernen.
Men smal AI er veldig flink til å behandle store mengder informasjon til veldig raske priser. Derfor kan AlphaStar håndtere hele kartet over StarCraft samtidig. Designerne av StarCraft kunne ha modifisert spillet for å gi spillerne full oversikt over spillkartet, men det vil sannsynligvis forvirre spillerne i stedet for å hjelpe dem. Mennesker kan også få tilgang til rå spilldata, men også det ville ikke være til hjelp.
Mennesker er tregt med å behandle data, men har sunn fornuft og abstrakt tenking som gjør dem i stand til å planlegge og ta beslutninger uten fullstendig informasjon. Derfor foretrekker de å ha et begrenset syn på kartet og fokusere på en enkelt del av slagmarken; samtidig har de en følelse av hva som skjer i andre deler av spillet og kan utvikle en generell spillplan.
Er AlphaStar juks?
Gitt forskjellene mellom AI og den menneskelige hjernen, er det rimelig å si at kritikerne hadde rett i vurderingen sin: DeepMind rigget konkurransen til fordel for AlphaStar ved å begrense den til et enkelt kart og et enkelt løp. Men debatten om AlphaStar kan bringe oss til noen veldig viktige konklusjoner.
For det første skal ikke hovedpoenget med spillet være å sjekke om AI kan klikke og rulle som et menneske. I stedet bør vi fokusere på hvordan AI presterer i et spill som gir ufullkommen informasjon og krever beslutningstaking i sanntid. I denne forbindelse gjorde AlphaStar en ganske god jobb.
- Hva vil gjøre at du stoler på en AI-assistent? Hva med et ansikt? Hva vil gjøre at du stoler på en AI-assistent? Hva med et ansikt?
- AI-bransjens år for etisk regnering AI-bransjens år for etisk regning
- Denne AI er for kraftig til å frigjøre for publikum Denne AI er for kraftig til å frigjøre for publikum
For det andre er StarCraft kanskje ikke det beste stedet å teste AIs strategiserings- og planleggingsevner. Som en analytiker påpekte: "StarCraft II er et spill som kan brytes av mekanisk perfeksjon." Dette betyr at AI kan kompensere for sine dårlige strategiske ferdigheter med sin overmenneskelige hastighet og kirurgiske presisjon.
Endelig er AI og menneskelig intelligens så forskjellige at det sannsynligvis ville være umulig å skape like spillfelt mellom de to. De minste endringene i reglene ville raskt vippe spillet til fordel for den ene eller den andre siden i en grad som ville gjøre konkurransen urettferdig.
Vi bør se etter miljøer og innstillinger der vi kan slippe løs og teste AI til sitt fulle potensiale i stedet for å bremse det med kunstige menneskelige begrensninger. Hva kan mennesker og AI oppnå når de samarbeider i stedet for å konkurrere?
