Execs sliter med "ansvaret" på facebook

Facebooks COO Sheryl Sandberg og Mike Schroepfer tok scenen på kodekonferansen i Rancho Palos Verdes i går for å diskutere endringer selskapet har gjort i kjølvannet av Cambridge Analytica-skandalen.

Sandberg ble intervjuet av konferansemoderatorene Kara Swisher og Peter Kafka, og sa at selskapet nå forstår at det var for sent å svare på personvernhensynene som Cambridge Analytica har reist. "Vi vet definitivt at vi var sent. Vi sa at vi beklager, men beklager er ikke poenget, " sa hun.

I stedet er det viktig å tenke på ansvaret Facebook har på en annen måte. I løpet av de siste 10 til 12 årene fokuserte Facebook ifølge Sandberg på å bygge og muliggjøre sosiale opplevelser, og noen ganger forsømte de å vurdere hvordan plattformen kunne misbrukes eller misbrukes. "Nå forstår vi ansvaret vi har og prøver å handle deretter, " sa hun.

Det er en "grunnleggende spenning" mellom verktøy som gir mulighet for enkelt, fritt uttrykk og å holde mennesker trygge, la Schroepfer til. Facebook ønsker å legge til rette for diskusjon, men også sørge for at plattformen ikke er vert for ytringer eller innlegg designet for å manipulere valg.

Cambridge Analytica-problemet

Cambridge Analytica-problemet stammer minst ti år tilbake, da folk snakket om å ville "ta data med seg", så Facebook utviklet APIer for å hjelpe dem med det. I disse dager, sa Schroepfer, var Facebook optimistisk og fokusert på det faktum at gründere kunne bruke dataene sine til å utvikle nye applikasjoner. Den trodde også at folk som brukte appene, forsto hva som skjedde.

I 2014 bestemte Facebook seg for å begrense tilgangen til slike data, og startet en mer proaktiv gjennomgang av applikasjoner. Cambridge Analytica hadde fått tak i Facebook-data. Hvorfor lærte Facebook om dette fra pressen? Når dataene var utenfor Facebook, kunne de bare observere dataene, sa Schroepfer.

Facebook deaktiverte umiddelbart appen som skrapte dataene, og prøvde å finne ut hvem som fikk tilgang til den. Etter nullstilling på Cambridge Analytica, insisterte firmaet på at de hadde slettet dataene, men det kan ikke være tilfelle, erkjente Schroepfer.

Selskapet er nå fokusert på teoretiske måter folk kan få tilgang til brukerdata på, sa han, og har investert i sikkerhet, innholdsgjennomgang og utvikling.

Når vi ser tilbake, "ønsker vi at vi hadde flere kontroller på plass, " sa Sandberg. Hun bemerket at til tross for juridiske forsikringer fra Cambridge Analytica om at de hadde slettet dataene, "burde vi ha revidert dem." Hun sa at selskapet de siste månedene har flyttet for å gjøre nettopp det, selv om dette foreløpig er på vent i påvente av en britisk regjeringsrevisjon

I løpet av valget i 2016 var folk stort sett bekymret for spam og phishing-e-poster, bemerket Sandberg. Selv om selskapet tok skritt for å unngå disse problemene, forutså det ikke de forskjellige, "mer lumske truslene" som kom. Den er nå veldig klar over disse truslene, og har tatt aggressiv handling på dette området, sa Sandberg.

Sandberg pekte på sletting av falske kontoer og Facebook-samarbeid med regjeringer for å forhindre lignende forekomster rundt andre valg, og siterer arbeid rundt Alabama, Tyskland og Frankrike. "Vi viser at vi tar skritt for å gjøre det bedre, " sa hun.

Sandberg nevnte også at Facebook alltid "har hatt" verktøy for å kontrollere hvordan brukere deler data med applikasjoner, og nå har flyttet disse verktøyene til toppen av News Feed. Selskapet bygger også nye verktøy på toppen av disse kontrollene.

Så det ikke komme

Swisher spurte hvordan Facebook muligens kunne ha unnlatt å forstå potensialet for misbruk av plattformen, og snakket spesifikt om feilfeil med Facebook Live. Sandberg dyttet tilbake, og sa at "Live er et flott eksempel" på hvordan selskapet fikser ting. Hun bemerket at da Live lanserte, var det "mye bra, ting som var galt." Så nå har selskapet menneskelig gjennomgang av alt live innen få minutter. Som et resultat har det blitt lagt ned innlegg med en gang, og tider da selskapet grep inn og hjalp folk.

Facebook har en åpen plattform, og vet at den aldri vil forhindre alle de dårlige tingene. Men hun sa at selskapet kunne være mer oversiktlig og legge mer ressurser i å lage et trygt samfunn. Selskapet har slettet 1, 3 milliarder falske kontoer; publiserte sine interne retningslinjer som ble brukt for å bedømme om innhold bør tas ned; og med suksess fjerner 99 prosent av terrorinnholdet, 96 prosent av voksne bilder og seksuelt innhold, men bare 38 prosent av hatytringer før det blir rapportert til selskapet av brukere.

"Vi vil ikke få alt, " innrømmet Sandberg, men Schroepfer sa at Facebook har gjort mer fremgang på dette enn han trodde det ville være i stand til.

Fake News

På problemet med falske nyheter sa Sandberg at mye av det kommer fra falske kontoer; ved å ta dem ned, reduserer det problemene. En annen stor kilde er økonomisk motivert, så selskapet beveger seg for å sparke dårlige skuespillere ut av annonsenettverkene sine. Hun sa også at selskapet jobber med å være mer gjennomsiktige, slik at du kan se personene bak ethvert politisk eller utstede innlegg, som lar folk finne flere ting som er galt og rapportere dem.

Regulering

På spørsmål om regulering sa Sandberg at selskapet allerede er regulert med ting som GDPR. "Spørsmålet er ikke om det vil være mer regulering, men hva slags regulering, " argumenterte hun.

Facebook har brukt mye penger og lagt inn mange komplekse systemer for å håndtere GDPR, og erkjent at regulering kan forsterke store selskaper. Og hun bekymrer seg for utilsiktede konsekvenser, og bemerker at ting som ringer-ID opprinnelig ble betraktet som en invasjon av personvern, så det var regulering som forhindret det.

På spørsmål om Facebook er et monopol og bør brytes opp, sa Schroepfer at det er konkurranse i markedet, og siterer YouTube for deling av video, Twitter for publisering av offentlige kommentarer og Snapchat, WeChat og iMessage for meldinger. "Forbrukere bruker produktene de vil ha, " sa han og la merke til at Facebook er "en veldig liten del" av det generelle annonsemarkedet.

Apple mot Facebook

På spørsmål om Apple-administrerende direktør Tim Cooks kritikk av selskapet, sa Sandberg: "Vi er sterkt uenig i deres karakterisering av våre produkter og forretningsmodell, " og bemerker at Facebook som en gratis tjeneste er tilgjengelig for mennesker over hele verden.

"Vi har sett på abonnement og vil fortsette å gjøre det, " sa Sandberg, men understreket at hjertet til produktet vil fortsette å være en gratis tjeneste.

Å høre om de forferdelige tingene som skjer på plattformen har fått selskapet til å fokusere på nye prioriteringer, sa Schroepfer. "Det er ikke morsomt, men det er veldig viktig arbeid." Han sa også at fokuset på sikkerhet og sikkerhet er det "største kulturelle skiftet" han har sett hos selskapet.

Selv om Facebook er fokusert på behovet for å gi sikkerhet, sikkerhet og integritet på plattformen, "forstår selskapet at det vil være et våpenløp, " og det vil være risikoer det ikke vil forutse, erkjente Sandberg.