Teknologi: innovasjon, ai og etikk

Noen av favorittøktene mine på Techonomy-konferansen tidligere denne måneden handlet om etikk, verdier, innovasjon og hvordan kunstig intelligens har kommet inn i bildet på disse områdene.

Menneskelige verdier for en teknologisk tidsalder

Teknologi-grunnlegger David Kirkpatrick begynte konferansen med en foredrag om fokus på teknologiens menneskelige verdier. Den første store samtalen handlet om "menneskelige verdier" med Julie Hanna, konsernleder for Kiva, som snakket om teknologi som en demokratiserende styrke, og bemerket at store deler av verden lever på mindre enn $ 2 om dagen. Hun sa at den "største formen for rettferdighet er rettferdig tilgang."

Pastor Michael C. McFarland, kasserer, USA Northeast Province of the Society of Jesus, sa at vi må spørre oss selv hvor er rettferdigheten, når det gjelder måten teknologi brukes på, og å tenke på forutsetningene som er innebygd i teknologi. Han bekymrer seg for at arbeidsplasssteknologi, som kan gi større effektivitet og produktivitet, ofte blir distribuert uten å tenke på virkningen på arbeidere, som noen ganger har ødeleggende virkninger. Han oppfordret publikum til å begynne med å tenke på opplevelsen til arbeideren.

Erica Kochi, administrerende direktør for innovasjon og medgründer av UNICEF Innovation, bemerket at for syv år siden var det ingen god teknologiløsning rettet mot de fattigste av de fattige, og den eneste fellesnevneren var tekstmeldingen. Hennes gruppe har fokusert på å bygge sine egne løsninger ved hjelp av tekstmeldinger, og bemerket at selv om det er veldig rimelige Android-telefoner, ble OS bygget for folk med en dataplan, ikke for de som bor på mindre enn $ 2 om dagen. "Hvis vi skal bygge produkter og tjenester for folk som ikke er oss, må vi tenke på det fra deres synspunkt, " sa hun.

Hanna snakket om det "falske valget mellom formål og fortjeneste, mellom misjon og produkt, " og sa at misjonsdrevne kulturer er bedre steder å jobbe, skape større lojalitet og bidra til å bygge varige selskaper. Kochi sa at du kan gjøre begge deler, og sa at kjernevirksomhetsmodellen må være i samsvar med samfunnsansvar, som ikke burde være noe som gjøres på siden.

McFarland snakket om å fokusere ikke bare på aksjonærer, men på alle interessentene i et selskap, og brukte som et eksempel AT & T's Bell Labs før selskapets oppløsning. Han er bekymret for unnlatelsen av å investere i langsiktig FoU, og sa "vi må endre kulturen for hvordan vi tenker på virksomhet og hva det vil si å lykkes."

Bibliotek

Jeg ble imponert over en senere foredrag av Tony Marx, president for New York Public Library, som sa at i motsetning til antagelsen at noen har at biblioteker forsvinner, så han ny teknologi som tilbyr den største muligheten i historien for hvilke biblioteker. har alltid stått for - å hjelpe folk med å få tilgang til informasjon.

Han bemerket at bibliotekene tidligere ble holdt tilbake av de fysiske og økonomiske begrensningene for å få folk til samlingene, men sa at dette endrer seg.

Biblioteker kan ha innvirkning på tre store måter, sa han. Den første er bare ved å koble folk sammen, og han bemerket at en tredjedel av amerikanerne ikke har Internett-tilkobling hjemme, men biblioteker kan også tjene til å trene folk hvordan de bruker datamaskiner, samt hvordan man kan kode.

Han sa at selv om dagens søkemotorer er "utrolige", har de begrensninger, og bemerket at mye av grunnleggende kvalitetsinformasjon som produseres av tusenvis av anstrengelser fremdeles ikke er tilgjengelig. Han sa at hans visjon er å tilby lånetakerne på biblioteket "hver bok, hvert bilde, hvert dokument og hvert arkiv hvor som helst i verden gratis."

Det hele kommer tilbake til den gammeldagse forestillingen om et bibliotek som en stiftelse, sa Marx, og oppfordret oss til å forestille oss om alt talentet i verden hadde evnen til å lære, skape og innovere uansett hvordan de valgte. "Vi har verktøyene for å gjøre det ustoppelig, " sa han. "La oss gjøre det."

Guder i bokser: allmektige algoritmer og skjulte verdier

Oren Boiman, medgründer og administrerende direktør i Magisto, som bruker AI til å redigere videoer, sa at "datamaskiner blir mer og mer svarte bokser, " med algoritmer laget av nevrale nettverk som slår de beste algoritmene designet av programmerere. Selv om disse algoritmene kan ta avgjørelser langt bedre enn mennesker, forstår ingen helt hvordan de gjør det.

Vivienne Ming, medgründer og administrerende leder av Socos, som selger programvare som hjelper barn å lære ved å sende en anbefaling om dagen til foreldrene, snakket om å lage intelligente algoritmer. Hun sa at mye av arbeidet med dype nevrale nettverk avhenger av treningssett, og snakket om en ansiktsgjenkjenningsalgoritme som ikke gjenkjente svarte ansikter på grunn av en iboende skjevhet i treningen. "Datamaskiner er akkurat som mennesker, " sa hun. "Det kommer an på hvordan du hever dem."

Yahoo-sjefforsker Ron Brachman, sa at selv om vi bruker antropomorfiserte termer for å beskrive maskiner, er det fortsatt en grunnleggende forskjell mellom mennesker og datamaskiner akkurat nå. Folk tar beslutninger basert på deres behov og ønsker, noe som er veldig annerledes enn måten datasystemer tar beslutninger i disse dager.

Boiman forklarte hvordan i de fleste av disse "svarte boksene" alt er koblet sammen, og små endringer i innspill kan gjøre store og noen ganger kaotiske forskjeller i resultater, for eksempel når videoer blir virale. Han sa at dette gjør ting uforutsigbart, og at det er vanskelig å spore ting tilbake til det som skjedde opprinnelig. Brachman bemerket akkurat som vi ikke har noen måte å kontrollere hva barn lærer, det samme er tilfelle for beregningsmekanismer.

Intelligente forretningsmaskiner

Diskusjonen om AI og de etiske spørsmålene som oppstår fortsatte i et annet panel med lederne av noen mer spesialiserte programvareselskaper. Babak Hodjat, medgründer og sjefforsker i maskinlæringsselskapet Sentient Technologies, sa at spørsmålet om etikk er litt av en distraksjon når det gjelder AI, og at etikk også påvirker alle slags andre teknologier, alt fra smarttelefoner til FICO-score.

George John, styreleder og grunnlegger av det programmatiske reklamefirmaet Rocket Fuel, bemerket fordelene ved teknologi, og sa "Hvis AI virkelig fungerer, bør folk komme seg hjem tidligere." Han snakket om behovet for nye lederegenskaper, og å styre både mennesker og smarte maskiner. Han snakket også om å lete etter applikasjoner av AI som ikke bare passer for store selskaper, men som også kan være til nytte for enkeltpersoner.

Jag Duggal, SVP for produktstyring for publikumsmålselskapet Quantcast, sa at dette er verktøy designet for å gjøre oss mer produktive, få flere ting gjort og øke kapasiteten vår. Han sa at det er et mylder av innovasjon og produktivitet som kan komme ut av dette, og sa at selv om det er frykt for at teknologien skal bli for god, er han mye mer bekymret for grensene for teknologi.

Han var spesielt opptatt av insentiver, og hva som skjer når maskinlæringsalgoritmer ender opp med feil incentiver. For eksempel bemerket han hvordan netthandelsselgere i det elektroniske annonseplassasjonsmarkedet ga æren for den siste annonsen en person så før han la inn en ordre. Dette resulterer i at flere annonser blir målrettet etter at en person allerede har besøkt et netthandelssted, og ofte etter at noen har bestemt seg for å kjøpe; med andre ord når annonsen kan bli bortkastet. Quantcast prøver å stille bedre eksempler, sa han.

Jon Stein, grunnlegger og administrerende direktør i AI-baserte investeringsselskap Betterment, snakket om godheten teknologien kan gjøre, og var enig i at det var viktig å sette klare insentiver. Han snakket om å følge fiduciary standarder, for eksempel å oppføre seg etter kundens beste, og sa at åpenhet har en stor rolle å spille, slik at folk kan forstå hvor konflikter kan oppstå.

Stein sa at teknologi vil gjøre det vanskeligere å være kriminell over tid, men Duggal sa at han er mer skeptisk, fordi kjeltringer også har teknologi. Likevel er han imponert over potensialet i teknologi, og siterte et eksempel på et prosjekt fra Google der en AI kan identifisere kreftformer i føflekker på hud. Han sa at han er bekymret for en "feilinnramming" av problemet av motstandere av teknologi.