Microsoft fordeler hvordan du driver etisk butikk

Microsoft-president Brad Smith tok det uvanlige skrittet med å publisere et blogginnlegg fredag ​​13. juli 2018, der han ba regjeringen regulere teknologi hans eget selskap utvikler. At teknologien er ansiktsgjenkjenning, og Smith ser allerede faren ved å tillate uhindret bruk av en slik evne, spesielt av regjeringer. Men Smith påpekte også at misbruk av ansiktsgjenkjenning i privat industri kan ha konsekvenser som er like opprivende.

Noen dager senere la Association for Computing Machinery (ACM) ut på sin hjemmeside ACM Code of Ethics and Professional Conduct, som er en ny kode for profesjonell oppførsel som tar en lignende holdning som Microsofts, men en som er langt mer bred i sin dekning av etisk atferd i virksomheten innen informasjonsteknologi (IT). Det som begge innleggene har felles, er ideen om å opprettholde et høyt samfunnsansvar. Det er noe mange IT-fagfolk prøver å ignorere og overlate til folk som er høyere oppe i lønns-matvarekjeden - en holdning som er både uheldig og farlig.

Smith bekymrer seg i blogginnlegget sitt for misbruk av ansiktsgjenkjenning. Han er klar over at selv på store studiesteder som er organisert rundt dagens teknologi, spesielt sikkerhetstegn som de som er ansatt i mange identitetshåndteringssystemer, er det mulig å følge nøye med hvor folk er, og derfra, ilder ut hva de gjør. Men med ansiktsgjenkjenning er det mulig å skille ut enkeltpersoner fra alle publikum hvor som helst, og ikke bare spore hvor de befinner seg, men også føre journal over hvor de har vært basert på lite data bortsett fra deres fysiske funksjoner. Som Smith påpeker, foregår slik sporing allerede i Kina. Smith ber om en kommisjon for å studere bruken og konsekvensene av ansiktsgjenkjenning i USA.

Ansiktsgjenkjenning som en pålitelig form for ID

Det er klart, i mange tilfeller, 24x7-overvåking av bevegelsens individ er ulovlig i USA, noe som fremgår av de nylige amerikanske høyesterettsavgjørelsene om bruk av sporingsplassering og bruk av GPS-enheter uten garanti. Men det betyr ikke at noe byrå, et sted, ikke vil prøve.

På samme måte er det ingen tvil om at ansiktsgjenkjenning har kommet frem til det punktet at den kan brukes som en pålitelig identifikasjonsform (ID). Allerede noen tester noen flyselskaper ansiktsgjenkjenning for å ha passert sikkerhetslinjer og for bruk i ombordstigende fly på Los Angeles International Airport (LAX). På samme måte da jeg kom tilbake til Washington, DC på en flytur fra London forrige måned, var alt som var nødvendig for at jeg skulle komme inn i USA, et syn på ansiktet mitt av et kamera og en skanning av fingeravtrykk mens passet mitt ble skannet av en leser.

Ansiktsgjenkjenning: Neste trinn

Så spørsmålet er, hva er neste trinn? Som IT-proff, antar du at du ble bedt om å opprette et ansiktsgjenkjenningssystem for arbeidsgiveren din som ville identifisere personer selskapet ikke ønsket på deres eiendom eller lokaler. Kanskje de hadde passert en dårlig sjekk, ble mistenkt for butikkløfting eller var en ansatt som hadde fått sparken.

Hva ville du gjort? Alt dette er gode grunner til ikke å tillate en person inn i butikken din eller inn på eiendommen din. Sjansen er stor for at du ikke ville ha mye problemer med å finne bilder av dem, så anerkjennelsessystemet skal lett kunne identifisere dem. Så hva er det neste?

Dette er den delen av beslutningsprosessen din, der du må bestemme hvordan du skal bruke ansiktsgjenkjenning, eller andre biometriske data for den saks skyld, som en del av sikkerhetspolitikken. Dette er ikke så kuttet og tørket som svaret ditt på et malware-varsel fra en av endepunktbeskyttelsesnodene. Disse svarene kan ikke lett automatiseres. Så, ville du satt av en alarm? Side anleggssjefen? Varsling? Ring politiet? Svaret på noen av disse kan være ja, men det kan også være nei - og å ta en feil beslutning kan være en karriereavslutende feil.

7 tips for å bruke ansiktsgjenkjenning klokt

Her er noen tips som kan bidra til å redusere sjansen for problemer mens du fremdeles beskytter organisasjonen din:

Legg ut varsler der besøkende og ansatte vil se dem, og informer dem om at du bruker overvåkningsvideo og ansiktsgjenkjenning som en del av sikkerhetsoperasjonen. (Advokatene dine hjelper deg gjerne med det egentlige språket.)

Forsikre deg om at det er et menneske i løkken før noen tiltak blir tatt på grunnlag av noen form for biometrisk ID. Mens det blir bedre, er ansiktsgjenkjenning, som andre biometri, ikke 100 prosent pålitelig. Før du tar grep, må noen bekrefte hva anerkjennelsessystemet sier. (Arbeid med din juridiske avdeling og toppledelsen for å kartlegge dette.)

Gjenkjenne begrensningen i ditt ansikts- eller biometriske ID-system. For eksempel fungerer dagens ansiktsgjenkjenningsteknologi best med hvite menn, men ikke så bra med ikke-hvite kvinner. Du må sørge for at du ikke utfører utilsiktet raseprofilering. Husk sorgen over selskapene, fra CVS til Starbucks, når de med vilje eller ikke gjorde nettopp det. (Alt i alt en veldig god diskusjon å ha med det juridiske teamet ditt.)

Forsikre deg om at det er en prosedyre "Oops". Du vil ha galt ID-er, så du må forsikre deg om at de ikke pinliggjør personen eller selskapet. (Igjen, både bedriftens advokater og toppledelse bør veie inn her.)

Bestem på forhånd hvor du skal dele resultatene av ID-sjekkene dine. Du kan ikke bare sende alt til forskjellige myndigheter. Du må bestemme hva du kan dele, hva du ikke kan dele og hva som krever en garanti. Så sørg for at de interne prosedyrene dine er sterke, slik at de ansatte ikke prøver å karriere fordel ved å dele det som ikke bør deles. (Dette er sannsynligvis en lengre samtale med advokatene dine, så bestill en pizza.)

Test kontinuerlig ID-systemene dine mot de mest kjente datasettene, slik at du kan gjøre gjenkjennelsen mer nøyaktig. (Din ansiktsgjenkjenningsleverandør skal ha slike datasett tilgjengelig, og over tid vil du kunne lage dine egne.)

• Til slutt, vær forsiktig med hvem du målretter for anerkjennelse. Medlemmer av offentligheten har sterke personvernrettigheter, og brudd på disse rettighetene kan koste din organisasjon dyrt. (Gjett hva? Mer advokattid.)

Selv om selskapet ditt ikke kan kontrollere hva regjeringen bestemmer seg for å gjøre med ansiktsgjenkjenning, som antagelig ikke er noe gitt den dysfunksjonelle atmosfæren i Washington, DC i disse dager, kan du kontrollere hva som skjer i dine egne lokaler. Det vil faktisk forventes at du skulle gjøre deg foran en dommer. Å følge ACMs etiske prinsipper om å være ærlige og pålitelige og ta skritt for ikke å diskriminere mens de beskytter personvernet har blitt viktigere enn noen gang.