Hvorfor teknologiselskaper bruker mennesker for å hjelpe ai | ben dickson

"Andrew Ingram" er en digital assistent som skanner e-postene dine, gir planer om ideer til møtene og avtalene du diskuterer med kollegene dine, setter opp oppgaver og sender invitasjoner til de aktuelle partene med veldig lite hjelp. Den bruker de avanserte kunstige intelligensfunksjonene til X.ai, en ny York-baserte oppstart som spesialiserer seg på å utvikle AI-assistenter. Problemene det løser kan spare mye tid og frustrasjon for folk (som meg) som har en rotete plan.

Men ifølge en Wired-historie som ble publisert i mai, er ikke intelligensen bak Andrew Ingram helt kunstig. Den støttes av en gruppe på 40 filippinere i en høyt sikret bygning i utkanten av Manila som overvåker AIs oppførsel og tar over hver gang assistenten støter på en sak den ikke kan håndtere.

Mens ideen om at e-postene dine blir skannet av virkelige mennesker, kan høres skummel ut, har det blitt en vanlig praksis blant mange selskaper som leverer AI-tjenester til kundene sine. En fersk artikkel i The Wall Street Journal utsatte flere firmaer som lar sine ansatte få tilgang til og lese e-postmeldinger fra kundene for å bygge nye funksjoner og trene AI-en i saker som den ikke har sett før.

Kallingen "Wizard of Oz" -teknikken eller pseudo-AI, kaster praksisen med å bruke mennesker lydløst for å gjøre opp for manglene ved AI-algoritmer lys over noen av de dypeste utfordringene som AI-industrien står overfor.

AI er ikke klar for brede problemer

Bak de fleste AI-innovasjoner de siste årene ligger dybdelæringsalgoritmer og nevrale nettverk. Dypneurale nettverk er veldig effektive til å klassifisere informasjon. I mange tilfeller, for eksempel stemme- og ansiktsgjenkjenning eller identifisering av kreft i MR- og CT-skanninger, kan de overgå mennesker.

Men det betyr ikke at dyp læring og nevrale nettverk kan utføre enhver oppgave som mennesker kan.

"Dyp læring lar oss løse oppfatningsproblemet. Dette er en stor sak fordi oppfatningen har begrenset AI siden oppstarten for over 60 år siden, " sier Jonathan Mugan, medstifter og administrerende direktør i DeepGrammar. "Å løse oppfatningsproblemet har endelig gjort AI nyttig for ting som stemmegjenkjenning og robotikk."

Mugan konstaterer imidlertid at persepsjon ikke er det eneste problemet. Dyp læring sliter der det er involvert begrunnelse og forståelse.

"Dyp læring hjelper oss ikke med dette problemet, " sier han. "Vi har gjort noen fremskritt i NLP (naturlig språkbehandling) ved å behandle språk som et oppfatningsproblem; dvs. konvertere ord og setninger til vektorer. Dette har gjort det mulig for oss å bedre representere tekst for klassifisering og maskinoversettelse (når det er mye data), men det hjelper ikke med rimelig resonnement. Dette er grunnen til at chatbots stort sett har mislyktes."

Et av hovedproblemene som alle dype læringsapplikasjoner står overfor, er å samle inn riktig data for å trene AI-modeller. Innsatsen og dataene som går i å trene et nevralt nettverk for å utføre en oppgave, avhenger av hvor bredt problemrommet er og hvilket nøyaktighetsnivå som kreves.

For eksempel gjør en bildeklassifiseringsapplikasjon som Not Hotdog-appen fra HBOs Silicon Valley en veldig smal og spesifikk oppgave: Den forteller deg om kameraet på smarttelefonen din viser en hotdog eller ikke. Med nok hotdog-bilder kan appens AI utføre sin svært viktige funksjon med høy nøyaktighet. Og selv om det gjør en feil en gang i blant, vil det ikke skade noen.

Men andre AI-applikasjoner, som den X.ai bygger, takler mye større problemer, noe som betyr at de krever mange kvalitetseksempler. Dessuten er toleransen for feil mye lavere. Det er en sterk forskjell mellom å feile en agurk til en hotdog og planlegge et viktig forretningsmøte til et galt tidspunkt.

Dessverre er ikke kvalitetsdata en vare som alle selskaper har.

"Tommelfingerregelen er at jo mer generelt et problem en AI prøver å løse, desto mer kanttilfeller eller uvanlig atferd som kan oppstå. Dette betyr uunngåelig at du trenger langt flere treningseksempler for å dekke alt, " sier Dr. Steve Marsh, CTO på Geospock. "Oppstart har vanligvis ikke tilgang til store mengder treningsdata, så modellene de muligens kan bygge vil være veldig nisje og sprø, som vanligvis ikke lever opp til forventningene."

Slik vell av informasjon er bare i besittelse av store selskaper som Facebook og Google, som har samlet inn data fra milliarder av brukere i årevis. Mindre selskaper må betale store summer for å skaffe eller opprette opplæringsdata, og det forsinker søknadsoppstartene deres. Alternativet er å starte uansett og begynne å trene AI-en din på farten, bruke menneskelige trenere og live kundedata og håpe at AI til slutt vil bli mindre avhengig av mennesker.

For eksempel hadde Edison Software, et California-basert selskap som utvikler apper for å administrere e-post, de ansatte hadde lest e-postene til kundene sine for å utvikle en "smart svar" -funksjon fordi de ikke hadde nok data til å trene algoritmen, selskapets Administrerende direktør sa til The Wall Street Journal. Å lage smarte svar er en bred og utfordrende oppgave. Til og med Google, som har tilgang til e-postene til milliarder av brukere, gir smarte svar for svært trange saker.

Men å bruke mennesker til å trene AI med live brukerdata er ikke begrenset til mindre selskaper.

I 2015 lanserte Facebook M, en AI chatbot som kunne forstå og svare på forskjellige nyanser av samtaler og utføre mange oppgaver. Facebook gjorde M tilgjengelig for et begrenset antall brukere i California og satte opp en stab med menneskelige operatører som ville overvåke AIs ytelse og gripe inn for å rette den når den ikke kunne forstå en brukerforespørsel. Den opprinnelige planen var for de menneskelige operatørene å hjelpe læreren til å svare på kantsaker den ikke hadde sett før. Over tid ville M kunne operere uten hjelp fra mennesker.

Et uoppnåelig mål?

Det er ikke klart hvor lang tid det vil ta før Edison Software, X.ai og andre selskaper som har lansert human-in-the-loop systemer for å gjøre AI-en fullstendig automatisert. Det er også tvil om dagens trender av AI noen gang kan nå poenget med å delta i bredere domener.

I 2018 avsluttet Facebook M uten at alle offisielt distribuerte det. Selskapet delte ikke detaljer, men det er tydelig at det er veldig vanskelig å lage en chatbot som kan delta i brede samtaler. Og å gjøre M tilgjengelig for alle Facebooks to milliarder brukere uten først å gjøre det fullstendig i stand til automatisk å svare på alle slags samtaler, ville ha krevd at den sosiale medie-giganten hadde ansatt en enorm stab av mennesker for å fylle Ms gap.

DeepGrammars Mugan mener at vi etter hvert vil være i stand til å lage AI som kan løse commonsense resonnement, hva andre klassifiserer som generell AI. Men det vil ikke skje når som helst snart. "Det er foreløpig ingen metoder i horisonten som gjør at en datamaskin kan forstå hva et lite barn vet, " sier Mugan. "Uten denne grunnleggende forståelsen vil datamaskiner ikke være i stand til å gjøre mange oppgaver godt 100 prosent av tiden."

For å sette det i perspektiv utviklet eksperter ved OpenAI nylig Dactyl, en robothånd som kunne håndtere gjenstander. Dette er en oppgave som ethvert menneskebarn lærer å utføre ubevisst i en tidlig alder. Men det tok Dactyl 6 144 CPUer og 8 GPUer og omtrent hundre års erfaring verdt å utvikle de samme ferdighetene. Selv om det er en fascinerende prestasjon, fremhever den også de sterke forskjellene mellom smal AI og måten den menneskelige hjernen fungerer på.

"Vi er veldig langt fra å ha kunstig generell intelligens, og ganske sannsynlig vil AGI være kombinasjonen og koordineringen av mange forskjellige typer smale eller applikasjonsspesifikke AI-er, " sier Marsh. "Jeg tror det er en tendens til å overhype egenskapene til AI for øyeblikket, men jeg ser også at det er enorm verdi i å bare ta de første første trinnene og implementere tradisjonelle Machine Learning-modeller."

Er en annen AI vinter truende?

I 1984 advarte American Association of Artificial Intelligence (senere omdøpt til Association for the Advancement of Artificial Intelligence) næringslivet om at hype og entusiasme rundt AI til slutt ville føre til skuffelse. Like etter kollapset investering og interesse for AI, noe som førte til en æra bedre kjent som "AI-vinteren."

Siden begynnelsen av 2010-årene har interessen og investeringene i feltet økt. Noen eksperter frykter at hvis AI-applikasjoner underpresterer og ikke oppfyller forventningene, vil det komme en annen AI-vinter. Men ekspertene vi snakket med, mener at AI allerede er blitt for integrert i livene våre til å gå tilbake til trinnene.

"Jeg tror ikke vi står i fare for en AI-vinter som de før, fordi AI nå leverer reell verdi, ikke bare hypotetisk verdi, " sier Mugan. "Imidlertid, hvis vi fortsetter å fortelle allmennheten at datamaskiner er smarte som mennesker, risikerer vi en tilbakeslag. Vi vil ikke gå tilbake til å ikke bruke dyp læring for oppfatning, men uttrykket 'AI' kan bli sluppet, og vi måtte kalle det noe annet."

Det som er sikkert er at i det minste står en epoke med desillusjonering foran oss. Vi er i ferd med å lære i hvilken grad vi kan stole på aktuelle blandinger av AI på forskjellige felt.

"Det jeg forventer å se er at noen selskaper blir positivt overrasket over hvor raskt de kan tilby en AI for en tidligere manuell og kostbar tjeneste, og at andre selskaper kommer til å finne ut at det tar lengre tid enn de forventet å samle inn nok data til å bli økonomisk levedyktig, "sier James Bergstra, medstifter og forskningssjef i Kindred.ai. "Hvis det er for mange av de sistnevnte og ikke nok av førstnevnte, kan det utløse nok en AI-vinter blant investorer."

• Kunstig intelligens har et skjevhetsproblem, og det er vårt feil Kunstig intelligens har et skjevhetsproblem, og det er vårt feil
• Hvorfor det er viktig å lære AI å spille spill Hvorfor er det viktig å lære AI å spille spill
• AI tilbyr stort potensial, men det vil ikke skje over natten AI tilbyr stort potensial, men det vil ikke skje over natten

Geospocks Marsh spår at selv om finansieringen ikke vil avta, vil det være noen justeringer i dynamikken. Ettersom investorer innser at ekte ekspertise er sjelden, og bare de med tilgang til data for å trene modellene vil være forskjellig i bransjen, vil det være en stor konsolidering i markedet og langt færre oppstart vil få finansiering.

"For mange AI-startups uten et nisjemarkedsapplikasjon eller store mengder data: vinteren kommer, " konkluderer Marsh.