Inntil vi forbyr datameglere, er personvern på nettet en drøm | sascha segan

Nasjonen vår styres av ugjennomsiktige, amorale kunstige intelligenser - og det er vi også. Da jeg skrev i går hvordan jeg føler meg fanget av Facebook, klødde jeg bare på overflaten på måten AI-er med stor data analyserer, plager og manipulerer oss.

Facebook er det verste av dem, fordi de fleste AI-er egentlig bare er interessert i å selge deg ting. Facebook er interessert i å holde deg engasjert med Facebook, og som jeg sa i går, betyr det ofte å fylle deg med sinne og frykt.

Facebook har vist at AI med stor data kan kontrollere meningene våre og manipulere følelsene våre. Men det er langt fra den eneste AI i sitt slag, og dette er bare begynnelsen. Big data AI-katten er ute av vesken, og den vet alt om deg.

Facebook er spesielt mektig fordi den har overbevist folk om å logge innholdet i livene sine innenfor veggene. De fleste store datasystemer trenger flere forskjellige datakilder, samlet fra forskjellige teatre med aktiviteter, for å lage sin profil av deg: der du klikker på nettet, stedene som spores via telefonen, hvem vennene dine er.

Facebook bruker knapper og informasjonskapsler innebygd på websider for å bygge en profil på deg selv om du ikke har en konto. Men selv om du bruker en annonseblokkering og aldri klikker "Liker", er det nok data der ute til at Facebook vet mye om deg. Den kan spore hva vennene dine sier om deg, og bruke data samlet inn fra andre kilder. Hvis du har et helt nettverk av venner i ett nabolag, er det en god sjanse for at du bor i det nabolaget; Hvis du handler i en rekke kjedebutikker i et nabolag, og de kjedebutikkene deler lojalitetskortdataene dine med datameglere, og disse datameglerne deler dem med Facebook, vil Facebook kunne finne ut hvor du er.

Fordi det er så mange datakilder, vil det å velge bort deling av Facebook ikke velge bort manipulasjoner og predasjoner av big data. Hvis vi skal få tak i disse AI-ene, trenger vi løsninger som retter seg mot hele økosystemet, ikke bare ett spesielt skadelig sted. Samtalen kan ikke bare handle om Facebook.

Bare se på Kina, som eksperimenterer med et nytt "sosial kreditt" -system. I likhet med Black Mirror- episoden "Nosedive", vil den kontrollere din evne til å kjøpe flybilletter eller togbilletter basert på hva du "kjøper, sier eller gjør." Her i USA frykter vi generelt ideen om at regjeringen kontrollerer livene våre på denne måten. Men vi er passive når privat næring prøver å gjøre det samme.

Akkurat i dag har jeg en tonehøyde i innboksen min om "den raskeste og mest nøyaktige ansiktsgjenkjenningsløsningen… Denne AI-teknologien kan skanne 1 milliard bilder og gjenkjenne / identifisere bilder på bare ett sekund." I følge banen er den klar til å distribuere i banker, kontorer og sykehus.

Det har ikke noe å si om du ikke har en Facebook-konto: bruk av bankkort og lojalitetskort blir bundet til ansiktet ditt, og banken din vil dele den informasjonen med datameglere som Experian. Du kan ikke velge bort banker og butikker.

Hver gang du trer innen rekkevidde for et kamera, samler AI-ene data på deg. Hver gang du bruker et kort. Hver gang du blir merket av en venn på et bilde. Selv om Facebook-en din er låst, fjernet tillatelse, bort. Enhver løsning på predasjoner og manipulasjoner av big data må være en stor løsning.

Amerikanere hater av natur å høre at de trenger systemiske løsninger. Vår kultur handler om individuell handling og individuelle svikt. Vi ønsker å høre at å slå brytere, slå av alternativer og sende e-post vil løse ting for oss. Vi ønsker individuell kontroll. Men uten helt å velge bort samfunnet, kommer vi ikke til å få det til.

Forbud datameglere

Hvis vi virkelig vil bryte AI-ene som helhet, trenger vi bare å stoppe dem fra å dele data med hverandre. Dette må være et grossistforbud mot datameglere, håndhevet på føderalt nivå - ikke bare varsling, måten EUs nye GDPR-forskrift fungerer på, men drepe den personlige delingsindustrien helt.

For å beskytte atferd som å prøve å importere Google-kalenderen din til Outlook, bør det direkte forbudet bare påvirke datameglere, som samler inn data fra ett nettsted, pakker den og gir dem til andre. Andre selskaper som samler inn personlig informasjon, må tvinges til å be om spesifikk tillatelse for hver destinasjon de vil dele data med - teppetillatelser vil ikke bli akseptert. Dette ville gjøre storskala datahøsting relativt ineffektiv.

Jeg trenger å gjøre det veldig tydelig at dette ikke ville fikse det primære problemet med Facebook. Den vet nok om deg, gjennom samspillene dine utelukkende på Facebook, for å gjøre deg rasende for klikk. Facebook trenger å øke samvittigheten og slutte å mate negative følelser.

Blokkering av datadeling ville være litt irriterende. Du må kanskje komme med forskjellige innlogginger for forskjellige nettsteder igjen. Men den eneste måten vi kommer til å frigjøre oss fra en verden som drives av AI-er for å bryte big data ned i lite data igjen.