Garry kasparov sier ai kan gjøre oss 'mer menneskelige'

Garry Kasparov var et av de første ofrene for AI automatiseringsrevolusjonen. Hans tap til IBMs Deep Blue gjorde ham til den første menneskelige sjakkmesteren som tapte en kamp mot en datamaskin. Men Kasparov er ikke skrått; hans bok, Deep Thinking , utforsker hvordan AI faktisk kan hjelpe oss å bli mer menneskelige.

Den virkelige utfordringen, sa Kasparov til meg på SXSW i Austin denne måneden, er å holde disse verktøyene fra menneskene som vil bruke dem for å gjøre skade. Og i den forbindelse kan vi allerede være for sent.

Dan Costa: Etter en karriere som spilte sjakk og kjempet mot Deep Blue, har du siden blitt AI-sjakk-ekspert. Hvordan vil du at folk skal forstå kunstig intelligens?

Garry Kasparov: Jeg må innrømme at jeg kjenner grensene for min uvitenhet. Derfor er jeg glad for å snakke om ting der jeg er trygg på min egen ekspertise, og jeg tror jeg har viss kunnskap om forhold mellom mennesker og maskiner, og jeg kunne snakke med en viss autoritet om fremtidige resultater.

Jeg tror også at vi fortsatt er i en veldig tidlig alder av AI, og at vi bør diskutere til og med noen vilkår. Det handler om semantikk, det handler om filosofi, og jeg sier alltid at folk tror vi er i Windows 10-epoken, mens vi fortsatt alle er på MS-DOS.

For øyeblikket er det veldig viktig å faktisk forstå, "Hva er AI? Når vi sier AI, hva mener vi da?" For hvis du spør 10 eksperter om AI, vedder jeg på at du vil få 11 eller 12 svar. Det er fremdeles ganske uenighet.

Det er fremdeles detaljer, men jeg tror generelt at vi kjenner oss igjen, det er en gruppe mennesker som vi vil kalle optimister, overfor den store mengden dommere. På en eller annen måte er offentlige mer villige til å godta dommerscenarier, jeg tror det er vårt instinkt å frykte fremtiden, noe som også er interessant, fordi når du går tilbake til 50- og 60-tallet, var sci-fi-en veldig optimistisk. Det hele handlet om oss, bare å jobbe med maskiner.

Når du ser på 70-, 80- og 90-tallet, blir det skiftet til dystopisk syn. Det handler om terminatorer. Det handler om Matrix, og nå er sci-fi-sjangeren nesten død fordi det handler mer om fantasy, det handler om magi. Folk er virkelig redde for å snakke om fremtiden, fordi vi ikke er sikre på hva som kommer til å skje der. Jeg tenker at vi ganske enkelt burde erkjenne at AI ikke er et tryllestav, men det er ikke en terminator. Det er ikke en harbinger av utopi eller dystopi. Det er et verktøy. Det er noe vi bør finne en måte å takle.

Det er ikke åpning av helvete, men det er ikke et paradis. Det er ikke en løsning for alt. Det er ikke en frelse. La oss se på jordens problemer, og min største bekymring i dag handler ikke om mordereoboter eller en slags virtuell virkelighet som kan ødelegge vår virkelighetssans, men det handler om dårlige skuespillere. Det handler om terrorister. Det handler om fjellplass som bruker denne teknologien for å skade oss. Jeg sier alltid at folk… har ondskap med monopol. Det er der vi skal, tror jeg konsentrere meg, men det bør også anerkjenne at AI kunne gjort så mange gode ting for oss fordi det folk vil si, "Å, AI skaper nye utfordringer. AI kan ta bort mange jobber." Nøyaktig. Det er det som skjedde med jobber i landbruket, jobber i industrien. Forstyrrende teknologi ødelegger alltid næringer, men skaper samtidig nye arbeidsplasser.

Jeg sier at teknologi er hovedgrunnen til at så mange mennesker fremdeles lever for å klage på teknologi fordi vi bare ikke anerkjenner den gjennomsnittlige levetiden vokste, tror jeg 45, 47 tidlig på 1900-tallet til nå 75, takket være teknologi. Vi vil ha fordeler, vi vil ha bekvemmelighet, og vi ser ikke på prisen. Folk kjøper Alexa, eller laster ned en ansiktsgjenkjenning-app, og klager deretter over personvernet. Det er på tide at vi forstår hva vi forventer av disse teknologiene, så hvordan vi vil takle dem? Hvordan de kan forbedre livene våre og samtidig anerkjenne at vi ikke bør debattere om sølet melk. Det kommer til å skje.

Vi skal ikke spørre om vi vil ha det eller ikke, det skjer. Ethvert forsøk på å langvarig kvalen og å bremse prosessen, tror jeg bare er kontraproduktiv fordi jobber som er dømt, ikke kan reddes. Men vi må tenke på nye næringer. Hvordan kan vi skape noen nye jobber som vil hjelpe oss å skape… en økonomisk pute for å ta vare på de som ble igjen?

Dan Costa: Det var et av poengene du gjør i Deep Thinking . AI gir en mulighet for oss å være mer menneskelig. Jeg tror vi trenger å kødde det og få folk til å føle og forstå.

Garry Kasparov: McKinsey-rapporten om det amerikanske arbeidsmarkedet i 2016 var en tydelig demonstrasjon. Hvor lite kreativitet har blitt brukt?

Mange jobber vi gjentar, rå jobber. Intellektuelle jobber kan også være repeterende. De kan også enkelt utføres av maskinene langt mer effektivt. Her kommer du til det poenget som det vi har lært av spillene… om sjakk, fra golf, fra et hvilket som helst annet spill, er så lenge vi har rammene skapt av mennesker, og vi vet hva vi gjør, maskiner vil gjøre det bedre.

Vi bør bare erkjenne at maskiner i alle lukkede systemer vil være overlegne. Vi trenger forresten ikke forstå hvordan de gjør det. Det er nok en feil. Vi ønsker forklarbarhet. Maskiner kan gjøre det på en veldig vanskelig måte fra våre standarder. Flyene flyr raskt, og fuglen var opp og klaffet vingene. Det er derfor det å tenke at maskiner vil overgå oss selv i intellektfeil, ved å gjøre noe du forstår er galt. Vi bør se etter resultatene, og det er det andre problemet for bedrifter fordi det er så mange forskrifter som krever at de skal forklare hva de gjør, men forklarbarhet er kanskje ikke der hvis du vil se etter effektivitet og produktivitet.

Dan Costa: Du tok opp saken på scenen om Go, og det som gjorde Go AI så mye mer effektiv er når den lærte seg selv å spille spillet. Det hadde ikke mennesker pålagte regler.

Garry Kasparov: Det er det samme som sjakk nå. Igjen, det er fremtiden for menneskelige misjonsrelasjoner veldig mye på egne mennesker som oppfører seg som hyrder fordi vi må finne en måte å lage disse kule systemene, områdene med smal intelligens, der maskiner vil gjøre jobben mye bedre enn noe menneske. Deretter for å se hvordan de kobles sammen. Disse områdene med smal intelligens til generelt felt, til åpent system. Igjen, det høres lett ut, men jeg synes det er en stor utfordring fordi rommet for mennesker og deres forhold til maskiner kan krympe seg mindre og mindre. Selv kanskje de siste desimalene, men det betyr ikke noe. Det kan være langt mer effektivt fordi det er så mye kraft. Å kanalisere den eller endre retningen i 0, 1 prosent av en grad av denne vinkelen kan ha en massiv, massiv forskjell, et mål en kilometer unna.

Dan Costa: En av tingene som bekymrer meg for AI er at gode AI-systemer blir drevet av mye data og virkelig gode algoritmer. Hvis du ser på hvem som har fått mest mulig av dataene på dette rommet akkurat nå, er det big tech, er det statlige myndigheter. Hvordan ser du individets rolle i denne AI-revolusjonen? Fordi det ser ut til å være en viss asymmetri med tilgang til disse nye teknologiene, og forskjellige motivasjoner.

Garry Kasparov: Ja. Jeg kunne ikke vært mer enig. Vi har dette problemet, og jeg tror publikum anerkjenner dette problemet, men det er fremdeles ikke nok press fra regjeringene til å innføre veldig strenge regler og veldig straffende tiltak for selskaper som krenker personvernet.

En av mine bekymringer som styreleder for Human Rights Foundation er at regler skiller seg fra demokratisk verden til ufri verden. Jeg synes det er veldig betenkelig at disse multinasjonale gigantene - som Google, Apple, Microsoft, Facebook - de bruker veldig forskjellige regler på sine kunder i Amerika eller Europa, og for de som ikke var så heldige å være født i den frie verden og leve i Kina, Russland, Tyrkia - hvor utgivelse av data fra sosiale aktiviteter bokstavelig talt kan være et spørsmål om liv og død. Jeg tror det er trinn nummer én, men også vi bør erkjenne at hvis data blir produsert, vil de bli samlet inn.

Jeg er sikker på at det er mange måter regjeringene kan begrense bruken av disse dataene på. Jeg tror også det er bonusen for den offentlige siden, fordi Mark Zuckerberg-vitneforklaringen i det amerikanske senatet, som jeg fant… var en fantastisk visning av uvitenhet fra amerikanske lovgivere. De kunne ikke stille gode spørsmål i fem timer; de hadde ham i et varmt sete, og det var bortkastet. Jeg så ikke forargelse. En så stor mulighet har blitt savnet.

Det enkle rådet, "La oss dele dem." Det er ikke Standard Oil. Hvis du bare begynner å dele - og jeg hater monopol - men så har du mange, mange Googles med data spredt rundt. Vi bør finne en måte å styrke enkeltpersoner på. Jeg kjenner ikke blockchain-teknologier, men sannsynligvis er dette måten å faktisk hjelpe folk til å kontrollere sine egne data og sin egen fremtid. Jeg tror det fortsatt er et øyeblikk hvor det er det originale konseptet med internett, sosialt nettverk. Nå er det plutselig sosiale medier. Folk kjenner seg ikke igjen. Det er ikke en semantisk forskjell.

Dan Costa: Det er inntektsgenerert på en helt annen måte.

Garry Kasparov: Det handler om å koble mennesker. Det handler om at hele ideen var hvordan vi skulle bringe oss sammen. Hvordan bonde personen, få tilgang til data og å produsere noe som kan være til nytte for ham eller henne og bare være en del av dette globale systemet. Sosiale medier er forskjellige, du er målet. Du er nå… målet for store selskaper. Hvordan går vi tilbake til dette sosiale nettverkskonseptet? Jeg har ikke løsninger, jeg tilstår min uvitenhet om tekniske løsninger, men jeg vet at dette er akkurat den filosofien som er det rette spørsmålet. Jeg tror publikum ikke forstår alvoret i denne utfordringen.

Dan Costa: Du er en russisk statsborger...

Garry Kasparov: Også en kroatisk statsborger, jeg har et E-pass, det er slik jeg reiser.

Dan Costa:… bor i USA, men du har skrevet mye om propaganda, dens effekter og dens krefter, og hvordan den brukes av den russiske regjeringen. Her i USA har vi nå et Facebook-, Twitter-, Google-medieunivers som nesten er som en privat propagandamaskin som kan nås av myndigheter, av enkeltbedrifter. Igjen, som noen som har behandlet og forstår disse problemene, hvilke råd har du til USA? Når vi beveger oss inn i dette systemet hvor vi ikke kan tro det vi ser på nettet lenger.

Garry Kasparov: Se, jeg har stått overfor fremveksten av falske nyhetsindustrier og trollfabrikker i Putins Russland fra begynnelsen av dette århundret. Omtrent 2004-2005, tok Putins propagandaeksperter, KGB-gutta, en trofast beslutning om å ikke følge Kina av brannmurer. Men snarere å opprette falske internettsider som inneholder mye ekte informasjon om disse giftige bitene. I stedet for å ha forsiden til en skikkelig avis, historien som alle må følge, partilinjen, kan du spre den i mange stykker, i dusinvis av stykker. Legg den i en pakke pakket inn i mange sanne historier.

Det er ikke så enkelt som å si, Garry Kasparov er en fiende av staten. Nei, noen sier Garry Kasparov er en fiende av staten, men så kommer noen andre inn som sa nei, men han var en stor sjakkspiller, men antagelig nå ble han infiltrert av stemme og propaganda. Noen vil si, nei, nei, nei, han er en god fyr. Så hele siden med kommentarer kan være falsk.

Dan Costa: Robotene krangler med roboter.

Garry Kasparov: Bots og de er veldig gode på dette, så det var derfor en dag da Putin angrep amerikanske valg i USA, han virkelig hadde mer enn 10 års erfaring fra disse næringene. Jobber i Russland, i naboland med store russiske samfunn i Øst-Europa, i Vest-Europa.

I boken min, vinter kommer: Hvorfor Vladimir Putin og fiendene fra den frie verden må stoppes , 2015, sa jeg at det bare var et spørsmål om tid. Det er ikke hvis, men når og hvor han ville angripe. For igjen har de allerede bygget denne maskinen, og den er relativt billig. Det er fortsatt milliarder av dollar investering, men sammenlignet med åpen militær intervensjon, konfrontasjon… er den relativt billig. Og også, det passet til Putins KGB-mentalitet, hans KGB-bakgrunn, spionerende bakgrunn. Så i stedet for åpen konfrontasjon, ser han alltid etter en mulighet til å infiltrere. Det er klassiske Judo-metoder, du bruker styrkene til motstanderen din mot ham. For Putin var det strålende fordi det var vestlig teknologi og den frie verden, og du kunne bruke den til å undergrave selve grunnlaget for den frie verden.

Dan Costa: Har du noen råd for hvordan du kan komme deg ut av denne situasjonen? Fordi det virker som om det skjer, har det egentlig ikke stoppet opp.

Garry Kasparov: Nei, og det vil ikke stoppe. For alle som har ubegrenset kompetanse, er svaret åpenbart. Forsvar er et tapende forslag. I cybersikkerhet kan du bygge forsvaret, men på slutten av dagen er det eneste svaret avskrekking. Det er som den kalde krigen, liker den eller ikke liker den, det er en cyber kald krig. Vi er under stadige angrep fra Putin eller andre fiender fra den frie verden. Enten det er stater som Iran, eller Nord-Korea, eller Kina, eller kvasi-statlige organisasjoner som også bruker de samme metodene.

Bare avskrekking kunne faktisk stoppe disse angrepene, eller begrense dem. Fordi de vil forstå konsekvensene av å være overagressive. Prøver å beskytte våre svake steder her og der, er det viktig at vi bygger noen forsvar. Det er viktig at vi bevisstgjør allmennheten om trusler, men den kommer ikke til å fungere. Når det gjelder falske nyhetsindustrier, er det mange utfordringer i vårt frie samfunn, som muliggjorde den falske nyhetsindustrien. Det handler om en frykt for partisanship, det handler om fraværet av en dialog mellom mennesker med forskjellige ideologiske synspunkter som hjalp Putin og andre fiender fra den frie verden til å bruke de falske nyhetene for å oppsluke dette gapet.

Dan Costa: Så, du jobber med Avast nå, et selskap som PCMag-lesere er godt kjent med. Hvilke råd gir du forbrukere for hvordan du kan øke forsvarsnivået?

Garry Kasparov: Når det gjelder individuelt forsvarsnivå, er det veldig enkelt. Den første meldingen er til eierne av smarthus. Jeg ble litt sjokkert, for selv på dette sørlandet, snakket jeg med mange mennesker, folk med god kompetanse forstår ikke hvor sårbare smarthusene er i dag.

Amerikansk husholdning, 39 millioner har minst ett sårbart apparat. Folk forstår ikke at en sårbar enhet gjør hele smarthuset sårbart. Fordi styrkene til din forsvarspyramide avhenger av den svakeste lenken. Ett dårlig eple får hele pakken til å råtne.

De fleste av problemene er skapt av produsenter av tradisjonelle husholdningsapparater - vaskemaskiner, kaffemaskiner - fordi det ikke er noen ekspertise innen å bygge digitale systemer. Men de må gjøre det nå. Til en veldig lav pris, fordi det er en priskonkurranse, men de vil være en del av systemet. De fleste systemene har ikke tilstrekkelig forsvar. Jeg tror vi trenger… myndigheters tilsyn, vi må legge press for å tvinge til å oppfylle visse standarder.

Men også for å måtte gi separate manualer, fordi ingen leser 100-siders manual. På side 85 leser du noe om disse digitale tingene, folk leser det ikke. De fleste av dem bruker standardmodus, som selvfølgelig er en åpen invitasjon for en hacker. Jeg tror det er veldig viktig at folk vil begynne å gjøre det jeg kaller digital hygiene, fordi vi vasker hendene, pusser tennene og gjør det automatisk. Det redder oss ikke fra noen alvorlige sykdommer, men 90 prosent av problemene kan unngås. Samme med våre mobile tilkoblede enheter, bør vi fremdeles beskytte oss mot virus, men mange ting kan gjøres ved å demonstrere at vi bryr oss om det fordi det er like viktig som helsen vår.

Dan Costa: Så jeg vil stille deg de tre spørsmålene jeg stiller alle som kommer på showet. Er det en teknologitrend som angår deg og som holder deg oppe om natten?

Garry Kasparov: Nei, jeg er en ubemerkelig optimist. Jeg bekymrer meg for dårlige mennesker, ikke for dårlig teknologi fordi hver teknologi har dobbelt bruk. Du kan bygge en atomreaktor, men før du dessverre bygger atombombe. Det er ganske uheldig at ødeleggelse er enklere enn konstruksjon. Det er grunnen til at vi i historien alltid vet at en ny, forstyrrende teknologi har blitt testet for en slags skade.

Dan Costa: Er du ikke bekymret for at det samme vil skje med AI? Jeg blir vant til å ødelegge før det blir vant til å lage?

Garry Kasparov: Igjen, det handler ikke om morderoboter. Det handler om skurkene, dårlige skuespillere bak det. Folk vil si oh, vi bør tenke på etisk AI. AI kunne ikke være mer etisk enn skaperne. Jeg forstår ikke hva det betyr, som etisk elektrisitet. Hvis vi har skjevheter i samfunnet vårt, følger AI det. Det ser en forskjell, enten det er rasistisk, kjønn eller inntektsforskjell. Den tar det med i betraktningen; AI er en algoritme basert på odds. Så på en eller annen måte er det å klage på etisk AI som å klage på et speil fordi vi ikke liker det vi ser der.

Dan Costa: Er det en teknologi du bruker hver dag som fremdeles inspirerer til undring?

Garry Kasparov: Nei. For meg er verdens virkelige undring tilgang til informasjon. Siden jeg kan samle inn data, gjør det det enklere. Jeg vokste opp i Sovjetunionen, og informasjonen var knapp, det var ikke mange bøker. Faktum er at jeg kan tenne… det får meg bare til å føle meg bra. Det er så mye teknologi som omgir oss nå som hjelper oss å bli bedre. Hva er utrolig, folk klager stadig, å hva kan vi gjøre? Det er ikke noe nytt som kan oppfinner… og jeg sier vent litt. Du ser på denne enheten i lommen, la oss gå bakover i 1976 eller 1977, Cray-superdatamaskinen var som et mirakel. Hva er denne enheten? Ti tusen ganger kraftigere?

• AI er (også) en styrke for god AI er (også) en styrke for godt
• Denne AI er for kraftig til å frigjøre for publikum Denne AI er for kraftig til å frigjøre for publikum
• Denne AI forutsier trolling på nettet før det skjer. AI spår trolling online før det skjer

Dan Costa: Kraftigere enn romfergen.

Garry Kasparov: Akkurat. Vi har så mye kraft, og… Jeg vil at vi skal begynne å drømme stort igjen. Fordi vi har disse mulighetene nå. Jeg synes så synd på Space Race, vi stoppet leting etter romfaring, utforskning av havdyp. La oss gå tilbake, la oss prøve å gjøre store ting. For fire år siden holdt jeg en begynnelsestale ved Saint Louis University i Missouri. Når jeg henvender meg til kandidatene, sa jeg, se, du må gjenopplive en ånd av leting, spesielt fordi St. Louis er porten mot vest, og i dag er det tryggere å fly til Mars enn for Columbus å krysse Atlanterhavet. For i det minste vet vi avstanden, og vi har kartet. Jeg håper barna våre, barnebarna… vil være mer aggressive i drømmene sine ved å bruke denne fenomenale teknologien for å presse oss frem fordi jeg tror, ​​la oss innrømme, la oss innrømme dette viktige faktum; vår generasjon har avtatt i vår søken etter å oppdage verdens underverk, rom eller hav.