Teknologi: hvordan fikse jeg hva som er galt med google og facebook

Det kanskje mest overraskende temaet på årets Techonomy var hvor opprørt mange av talerne er over Facebook, Google og Twitter, med kritikk fokusert på deres tilnærming til personvern og spesielt på den mulige rollen de spilte i å muliggjøre russisk hacking av valget i 2016.

Et bredt spekter av foredragsholdere presset på for ulike typer regulering av disse "Internet Giants", og ingen fra noen av de nevnte selskapene var på konferansen for å gi et alternativt synspunkt. Dette var veldig forskjellig fra fjorårets konferanse, da Facebook-administrerende direktør Mark Zuckerberg sa at forestillingen om at falske nyhetshistorier på Facebook påvirket valget var "en ganske sprø ide."

Siden da, som medgründer Simone Ross, bemerket teknologien, har vi lært at "tech gjør det like enkelt å dele oss som å bringe oss sammen." Konferansemedstifter David Kirkpatrick (over) satte tonen for konferansen og sa at "teknologi er en styrke for det gode, men bare hvis det gode er målet ditt" og fortsatte med å si at han trodde de store teknologiselskapene trenger en "proaktiv kryss "med regjeringen, enten det kalles regulering eller ikke.

Autoritet i en nettverk, kunstig intelligent verden

Velkjent investor Roger McNamee fra Elevation Partners, en tidlig investor i både Facebook og Google, var kanskje den mest negative av alle foredragsholderne. McNamee sa at disse selskapene ble "startet for å redde verden", men at dette endret seg da reklame ble deres forretningsmodell. Han sa at smarttelefonen, kombinert med personlig informasjon, har gjort det mulig å "skape et nivå av hjernehacker som aldri har blitt sett før i media."

McNamee sa at han trodde Zuckerberg var oppriktig da han sa at han ikke trodde slik hacking var mulig for et år siden, men sa at rollen som Google og Facebook nå spiller ikke kan overdrives. Han kommenterte, "det må være vanskelig å være dem nå og innse at du har ødelagt den vestlige sivilisasjonen."

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Electronic Privacy Information Center (EPIC); Stratford Sherman, Accompli

Denne diskusjonen kom opp i en del av et panel om "Authority in a Networked, Artificually Intelligent World" som også inkluderte danah boyd, en samfunnsforsker med Data & Society og Microsoft Research; Marc Rotenberg, president for Electronic Privacy Information Center (EPIC); og moderator Stratford Sherman av Accompli. Sherman sa at mens Facebook og Google startet som fora for offentlig tale, er de "radikalt uregulerte." Med AI som fundamentalt kan påvirke menneskeslekten i horisonten, sa Sherman at han er bekymret for de utilsiktede konsekvensene av den teknologiske utviklingen vi allerede har sett.

Rotenberg sa at selv om han fortsatt er bekymret for tradisjonelle personvernhensyn over å bli sporet og profilert, er han like opptatt av mangelen på konkurranse, mangel på innovasjon og risikoen for demokratiske institusjoner. Han sa at internettgigantene har enorm kraft, og dataene de besitter skaper en ekte inngangsbarriere, så det er ingen meningsfull konkurranse. Rotenberg sa at han har vært i Washington siden Reagan-administrasjonen, og for første gang, "det siste års valg føltes ikke kjent."

I en tidligere økt snakket boyd, som skrev en bok som heter It's Complicated , om vanskeligheten med å konfrontere manipulasjon på Internett.

Hun snakket om en eskalerende prosess med manipulering de siste 20 årene, som begynte med at barna trasket Oprah og gikk videre til "rulleroller" og om ting som å endre søkeresultatene for navnet "Santorum." Nylig, med Gamergate, har en større rollebesetning blitt spillere, inkludert statlige skuespillere. boyd sa at internettbedriftene tror AI kan beskytte dem, men gruppene som prøver å manipulere resultater eksperimenterer allerede med naturlig språkbehandling, og viktigst av å tukle med datakilder. Å injisere dårlige data i et system er for eksempel en ny sårbarhet, ifølge hennes syn. Fortsatt sa boyd at det eneste svaret vil være å "bygge tekniske antistoffer i vår bransje."

I denne økten sa Boyd at teknologiselskapene regner med manipulering på flere fronter, og bemerket at mens alle ser på Russland, er det mange andre stater som forfølger lignende handlinger. For eksempel prøver kinesiske selskaper å sikre at de vil kontrollere AI, og hun sa at dette gir en annen utfordring fordi det ikke handler om industriell konkurranse, men å konkurrere med en stat.

På spørsmål fra Sherman om dette er en krig, sa Boyd at hun tror det er, mens McNamee sa at det er klassisk geriljakrigføring fordi fiendene våre har brukt vår teknologi mot oss. McNamee sa at problemet ikke er sosiale nettverk eller søk, men annonseringsmodellen. Han sa i kampen om folks oppmerksomhet at stoff blir begravet av sensasjon og sitert det gamle ordtaket om at "hvis det blør, fører det."

Sherman bemerket at frykt og sinne er mye mer magnetisk, og dermed mye rimeligere. Han sa at selv om organiske meldinger ble brukt for å nå mer enn 125 millioner mennesker, var målet med innsatsen å annonser for å segmentere folk i grupper basert på delte interesser.

Rotenberg sa at han er for å gjøre algoritmene transparente og annonseringen regulert, men sa at vi må respektere enkeltmenneskers rett til å snakke på nettet. Men McNamee sa at "den første endringen er blitt våpenfylt, " og at nettsteder er grunnleggende forskjellige fra det offentlige torget.

boyd beskrev det hun kaller "boomerang-effekten", eller med andre ord ideen om at det å provosere media til å rapportere om utagerende ting er poenget, fordi dette forsterker den opprinnelige beskjeden til segmentet til publikum som mistroer media. Som eksempel snakket boyd om Pizzagate. Hun bemerket at før Internett ofte brukte media "strategisk stillhet" for å unngå å dekke ting som selvmord og Klan-samlinger for å unngå å offentliggjøre dem.

Rotenberg var enig i at mye av denne tradisjonen for aktsomhet og tilsyn har gått tapt, og sa at ting som seksjon 230 (som sier at Internett-selskaper ikke er ansvarlige for ting som innlegg av brukere) har gjort det vanskeligere for tradisjonelle nyheter å konkurrere.

På spørsmål om løsninger sa McNamee at Facebook er en kult og at den må slutte å benekte problemet og håndtere det, i tillegg til å begynne å adressere "avprogrammering" ved å nå ut til hver av brukerne. Rotenberg fremmet ideen om regulering. Og boyd foreslo at vi måtte investere penger i samfunnet, for å "re-nettverk" Amerika.

Reckoning med de nye hemonemonistene

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, University of Alabama; David Kirkpatrick, Teknologi

I et tidlig panel om "Reckoning with the New Hegemonists", var nesten alle enige med Joyce Vance fra University of Alabama, som sa at teknologien virkelig har overgått loven, som desperat trenger å ta igjen. Men Vance advarte om at det også er fare for "slipshod" politiske svar.

Simulmedias Dave Morgan sa at "det vil være regulering, " selv om han sa at det er mulig de store selskapene kan være i stand til å unngå mye av virkningen.

Morgan bemerket at mediebransjens historie gir paralleller til det vi ser nå, ettersom aviser ville sett på seg selv som trykkselskaper, og selskaper som tidlig sendte ser på seg selv som teknologiselskaper. Alle disse gjør det mulig å tilby forbrukerkontakt, noe som helt klart er hva Google og Facebook gjør. Mange antitrust-saker oppsto som et resultat av en slik konsentrert mediekraft, og myndighetene var i stand til å regjere dem i. En stor forskjell i dag er at de andre teknologiene krevde en geografisk nexus, som internettbedriftene ikke trenger.

Vance bemerket at senatet nå vurderer et lovforslag som vil kreve at disse selskapene skal bevare sin annonsehistorie, samt gjøre det klart hvem som betaler for politiske annonser. Men Morgan påpekte at dette nå er globale selskaper med bredere rekkevidde. På spørsmål om de europeiske GDPR-personvernbestemmelsene sa Vance at USA godt kan ha gitt avkall på lederskap til EU på dette området. Hun sa at hun ikke tror amerikanske selskaper vil være i stand til å overholde annerledes på forskjellige geografiske områder, så selskaper vil som standard overholde europeiske regler.

Mark Mahaney fra RBC Capital Markets sa at selskapene allerede er under regulering, særlig i EU, med Google spesielt under gransking for pakking eller markedsføring av sine tjenester sammen med søkeresultatene eller med Android. Kirkpatrick sa at han trodde at antitrustoppgjøret faktisk hjalp Microsoft, men Mahaney motarbeidet at det ikke var regulatorene som stoppet Microsoft, men konkurranse.

Kan teknikk og regjering redde demokrati?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, elektronisk personverninformasjonssenter; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Et lignende emne kom opp på en rundbord på frokosten, med tittelen "Can Tech and Government Save Democracy?", Der moderator Jon Fine fra Inc Magazine ba om løsninger. Rundbordet kom imidlertid ikke på noe.

Hwang sa at problemet ikke er teknologiplattformene, men snarere sinne som folk føler som et resultat av å bli koblet fra økonomien.

Lawrence Norden, fra Brennan Center ved NYU School of Law, sa at lover som krever mer avsløring på politiske annonser er et enkelt svar, men at det store problemet dessverre er "mørke innlegg" eller innlegg av ukjent opprinnelse. I den forbindelse, sa han, er internett mer som et torg.

Men Rotenberg sa at det er motsatt, og at Internett ligner mer på en bedriftsby, der plattformene setter regler og bestemmer hva du ser. Minnie Ingersoll of Code For America spurte om problemet er utenlandsk innblanding, eller Google kontrollerer hva vi sier. Tilsynsmyndigheter må forstå problemene bedre, sa hun.

Molly Turner fra UC Berkeley Haas School of Business sa at Internett har blitt det største kjøretøyet for uttrykk, men bekymret for at det undergraver den sivile diskursen. På den annen side bekymrer hun seg for krav om at plattformer skal fjerne visse typer informasjon (hvis kommunikasjonsanstendighetsloven for eksempel ble svekket, eller på grunn av andre former for regulering), fordi plattformen plutselig i så fall blir "voldgiftsmann for tale."

Rotenberg svarte at selv om bilbedriftene en gang kjempet mot sikkerhetsbestemmelser, bidro disse til slutt til å gjøre bilene tryggere og førte til mer innovasjon. Et stabilt regelverk kan faktisk hjelpe plattformene, foreslo han. Rotenberg observerte at teknologiselskapene har presset på "nettnøytralitet" for telekommunikasjonsselskaper, men ikke for seg selv, og etterlyst like vilkår.

Internett under angrep

Mark Anderson, strategisk nyhetstjeneste; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, New America; David Kirkpatrick, Teknologi

Et sluttpanel kalt "The Internet Under Attack" fortsatte denne diskusjonen.

Rebecca MacKinnon, som kjører Ranking Digital Rights-prosjektet i New America, sa at det en gang var en antakelse om at autoritære regimer på grunn av Internett til slutt ville bli mer som demokratier. Hun er nå mer redd autoritære regimer og demokratier vil "møtes i midten."

MacKinnon sa at autoritære regimer tilpasser Internett til deres formål, mens demokratier står overfor populisme, manipulasjon og "overvåkningskapitalisme." Men, sa hun, demokratier bør være forsiktige med et reguleringssvar - mens hun er enig i at det er behov for mer åpenhet når det gjelder algoritmer og personvern, er hun bekymret for at et sensursystem vil gjøre det lettere å slå ned på delene av samfunnet regjeringen forakter.

Peder Jungck, som er leder for etterretning og sikkerhet for BAE Systems, var enig i at myndighetene ønsker å bruke slike systemer for å finne dissidenter, og sa at en idé er et produkt, og som ethvert produkt kan den skyves. På spørsmål om annonsesystemer er våpenvåpen, sa han, "Pandora's Box er åpnet, og vi kan ikke gå tilbake."

Mark Anderson, fra Strategic News Service, sa at vi har sett en rett linje fra ARPANETs dager, da det ikke var noen gutter, til i dag, når vi ser mer og mer ondsinnet oppførsel om dagen.

Anderson var spesielt tydelig når han beskrev hvordan Kina stjeler åndsverk og bruker det for å drive selskaper ut av virksomheten. Og han foreslo at Equifax-hacket hadde alle merkene til et regjeringsangrep. Som oppsummering sa Anderson at han "ikke ser noen løsning."

Jungck sa at vi skulle anta at skurkene er i systemene våre, og jobber med løsninger. For eksempel sa han at et personnummer ikke lenger kan sikres, så vi kan i stedet trenge en blockchain-løsning.

I Ranking Digital Rights-prosjektet evaluerte MacKinnon 22 globale selskaper på 35 spørsmål om ting som ytringsfrihet, personvern og sikkerhet. Hun sa at to selskaper fikk "Ds" og at alle andre mislyktes. Hun vil vite hva selskaper gjør med dataene dine; hvem de deler det med; om de gjør due diligence, sikkerhetsvurderinger og styring for risiko; og om de beskytter personvern og sikkerhet, innhold og uttrykk. Åpenhet er ikke tilstrekkelig, sa hun, men et nødvendig første skritt.

Anderson sa at åpenhet er en god ting, men ikke en løsning, og bemerket at noen som vil manipulere et system ikke trenger å betale for annonser, men kan bruke 100 000 botnett. Kirkpatrick foreslo da at selskaper kunne håndheve identitet, og dermed redusere bruken av botnett.

Men MacKinnon motarbeidet at det er menneskerettighetsaktivister som er de mest sårbare for bruken av slike systemer, fordi hvis du håndhever identitet, ville ingen som er imot en autoritær regjering være i de sosiale nettverkene.

Jungck lurte på hvorfor vi trenger å håndheve en identitet når nettstedene allerede vet hvem du er og hva du skal kjøpe. "Det er ingen anonymitet på internett, det er for lengst borte, " sa han. Den eneste forskjellen er hvor lang tid det tar å finne ut hvem du er.

Avslutningsvis sa MacKinnon at hun er optimistisk på veldig lang sikt, men for de neste 100 årene, "ikke så mye."

Når du lytter til alt dette, er det lett å være pessimistisk, eller i det minste fatalistisk om mengden regulering som trengs og virkningen det vil ha. Men jeg har fortsatt en tendens til å være optimist, og selv om jeg tror en viss mengde tilleggsregulering både er sannsynlig og nødvendig, tror jeg det er like sannsynlig at dagens internettgiganter - eller noen fremtidige spillere - vil komme med bedre svar.

Hvor sannsynlig er det at du anbefaler PCMag.com?