FREMTIDIGE MENNESKER

Hvordan ansigtsgenkendelse kan rive os fra hinanden

Vil den nye tech skabe et sikrere samfund - eller et dystopisk panopticon?

Tests på ansigtsgenkendelsesteknologi på Berlins Suedkreuz-station startede i august 2017. Foto af Steffi Loos / Getty

Forestil dig, at du kunne åbne en app, mens du kører på metroen eller sidder i en bar, der kunne fortælle dig alt om alle, der sidder omkring dig. Ved hjælp af ansigtsgenkendelsessoftware kan det trykke på sociale netværk og databaser for at vise dig hver persons navn og erhverv. Det kan fortælle dig, om du deler fælles venner eller fælles interesser. Det kunne endda trække deres økonomiske eller kriminelle poster op. Potentialet for misbrug er så kedeligt, selv Microsofts præsident opfordrede for nylig regeringen til at regulere teknologien.

Judith Donath, en socialteknologisk forsker, der har brugt flere årtier på at studere onlinekultur ved MIT og Harvard, mener, at denne form for avanceret ansigtsgenkendelsesteknologi er uundgåelig. Men om det bliver den ultimative isbryder eller en digital panopticon, siger hun, er helt op til os.

Dette interview er kondenseret og redigeret for klarhed.

Medium: Om 10 år, hvor skal vi være med ansigtsgenkendelsesteknologi?

Judith Donath: Jeg tror, ​​vi vil se ansigtsgenkendelse blive ret almindelig. Hvis du går på Facebook, og dit ansigt genkendes på et fotografi, er det den samme teknologi, der sandsynligvis vil gå ind i en form for augmented reality-applikation, som når du går ned på gaden, eller du sidder på en restaurant, eller du er på en fest , vil give dig muligheden for at identificere de mennesker omkring dig.

En del af det, der er vigtigt at forstå om ansigtsgenkendelse, er, at genkendelsen kun er en slags nøgle. Skatten inde - eller dæmonen indeni, afhængigt af hvordan du ser på den - er databasen med information, som den så giver dig adgang til mennesker omkring dig.

Hvad vil det betyde for enkeltpersoner?

Jeg tror, ​​det meget let vil blive en norm - at du forventes at have den slags genkendelsesevne aktiveret, hvis du er ude på offentligheden, meget på samme måde, som vi af forskellige årsager er meget ubehagelige omkring mennesker der er helt maskerede offentligt. Forbud mod burkaer er måske primært blevet designet som en besked til det muslimske samfund, men det stykke af det, der fik populær støtte, var bestemt ideen om, at ingen skulle have deres ansigt dækket offentligt, at der er noget galt med det. Når vi tænker på røverne, har de ansigtsmasker. Der er anti-Antifa-regningen, der er vedtaget nu [som ville sende maskerede aktivister til fængsel i op til 15 år].

Du kan forestille dig versioner af denne teknologi, hvor adoptionen stammer fra frygt, hvor vi oprindeligt har et system, der kan genkende enhver sexforbryder, der er i nærheden af ​​dig, eller enhver, der er en domfældet forbryder. Men det kunne også være mere positivt. Folk har måske den fornemmelse af, at i stedet for at være på en fest med en masse fremmede, er de med en flok mennesker, de næsten kender - softwaren fortæller dig, "Denne person er din kollegas roommates fætter," eller, "Denne person er også lige færdig med at læse bogen, du læser. ”Så jeg tror, ​​der er mange måder, mennesker kan komme ind på i ansigtsgenkendelse og synes, at den er meget acceptabel, selvom vi lige nu finder den uhyggelig og ulykkelig uprivat.

Er der andre måder, hvorpå nogle mennesker kan drage fordel af ansigtsgenkendelsesteknologi?

Jeg tror, ​​det vil hjælpe folk med at føle sig mere sikre. Det kan muligvis genoplive den fornemmelse, at når du er ude i offentligheden, er du omgivet af andre mennesker, der er af interesse på en god måde.

På den anden side vil det også være i en æra, hvor der er enorm regeringsovervågning hele tiden. Om det er en fordel eller en pris afhænger af regeringen. Hvis du har en endnu lidt undertrykkende regering, vil det gøre enhver form for undertrykkelse meget lettere. Hvis alt deri kommer fra politidatabaser, og alt hvad du kunne se om folk omkring dig, var om de var sexforbrydere eller forbrydere eller havde 30 trafikovertrædelser, kunne det være meget paranoiafremkaldende.

Kunne marginaliserede grupper bruge den til at beskytte sig mod mennesker, der på andre måder er kendt for at være racistiske, transfobe eller farlige?

Ja, du kunne have en database over, hvem der er racistisk - men du kan også have en database over, hvem der er trans, hvis du er anti-trans. Du kan have databaser over, hvem der er jødisk. Disse databaser vil gøre de mennesker, der finder de andre uacceptable, føle sig mere sikre, men det kan være yderst marginaliserende for dem, der er i databasen. For mange ville det være ufortjent.

Kan ansigtsgenkendelse misbruges for forfølgelse eller diskriminerende praksis i erhvervslivet eller boliger?

Hvis du er nogen, der er blevet chikaneret på Twitter, ønsker du ikke nødvendigvis at gå ud på gaden og opdage, at det følger dig overalt.

En mulighed kan være, at folk føler sig meget mere begrænset til at være i grupper af mennesker som dem selv. Vores offentlige rum kan blive mindre forskellige, fordi folk vil være mindre behagelige i denne mangfoldighed. Jeg synes, det er svært at forudsige, hvordan folk vil reagere, og reaktionerne kan være meget heterogene i sig selv. Der kan måske være steder, hvor folk er, ”Ja, det er virkelig godt. Vi har meget mere forskellige rum, hvor mennesker, der tidligere var gået forbi, nu føler sig i stand til at interagere. ”Og der kan være andre steder, hvor folk er som,” Ja, nu er det jødiske folk over her, og transfolket er over her, og folk holder sig bare til deres egne typer. ”

Tror du, at det kan føre til, at enkeltpersoner forsøger at skjule deres identitet?

Jeg tror, ​​det vil være meget hårdt. Enhver virksomhedsbygning nu, skal du give dem en ID for at indtaste. Nu behøver du ikke at vise ID, du behøver ikke at blive fotograferet, men så får du heller ikke gå op.

Jeg tror, ​​vi får et stigende antal rum, hvor din adgang eller en række andre privilegier er afhængig af denne type genkendelse. Jeg tror, ​​at vi også har restauranter, hvor du kan betale med bare dit ansigt. Der vil bare være en masse ting, som folk vælger at gøre det meget praktisk at blive genkendt hele tiden, så små undergrupper, der ikke ønsker at virke meget mistænkelige. Jeg siger ikke, at dette er godt - jeg siger bare, det er, hvad det vil være.

Så selv mennesker, der oprindeligt var fjendtlige over for teknologi til ansigtsgenkendelse, kunne blive afhængige af det?

Jeg tror, ​​at folk hurtigt vil stole på det. Jeg gætter inden for 10 år, vil vi være i en situation, hvor hvis vi havde vores ansigtsgenkendelsesevner fjernet fra os, ville det være uhyggeligt at være ude i offentligheden med alle som en total fremmed, som du ikke ved noget om. Det faktum, at alle identificeres som dette, får folk til at opføre sig meget bedre. Jeg tror, ​​folk ville synes det var meget foruroligende at være i en verden af ​​fremmede, når de først blev vant til en, hvor de ikke var.

Gennem historien har vi haft forskellige ideer om, hvorvidt vi skal føle os trygge i en række fremmede. Hvordan tror du, at fremkomsten af ​​udbredt ansigtsgenkendelse kunne påvirke disse opfattelser i vores tid?

Hvis du læser en masse litteratur om byen, har folk, der skriver om det fra en festligt synspunkt, en tendens til at være dem, der synes om følelsen af ​​anonymitet, fordi de føler sig anderledes. Byen støtter dem, der er forskellige, fordi du er anonym nok til, at der er meget lidt dømmekraft over dig, der klæber. Ansigtsgenkendelse vil understøtte mere konformistisk opførsel. Det vil være sværere at være anderledes, medmindre du er i et samfund, der virkelig, virkelig omfavner mangfoldighed og forskel.

En af de særligt optimistiske synspunkter, jeg har haft om dette, er, at der er en enorm mulighed for at have virkelig interessante online-personas, som har været noget, folk har vokset og aftaget ved at have interesse i. Hvilke måder har vi til at kontrollere, hvad andre har se om os og til at forme det og gøre det til noget interessant? Vil det hele være en database med fakta om dig uden for din øjeblikkelige kuratoriske kontrol, eller vil det være noget mere som en interessant profil, du får til at samle dig selv?

Teknologi stiger for hurtigt for regulatorer, lovgivere og retssystemet til at pålægge det ordre, før det er for sent. Microsofts præsident Brad Smith opfordrede for nylig regeringen til at udstede regler. Tror du, at der er noget håb om, at regeringen vil følge med i reguleringen af ​​ansigtsgenkendelsesteknologi?

Øh nej. Og især synes jeg, at regulering af regeringens brug af det til lov og orden sandsynligvis er en af ​​de vigtigste stykker, så dobbelt så nej.

Virksomheders stemmer bliver hørt højere og højere af regeringen, og jeg tror, ​​det vil være meget rentabelt for virksomheder at have en masse ansigtsgenkendelse af mennesker i deres butikker og hvad de laver. Den måde, du spores online på, vil de gerne spore dig over hele verden, så jeg tror, ​​at der vil være et enormt pres fra virksomhederne, bestemt i USA.

Der er også nok måder, hvorpå denne teknologi kan synes at være fordelagtig for enkeltpersoner at have adgang til den. Jeg tror, ​​at bekymringerne om privatlivets fred, selvom de er store, og selv om folk vil være oprørte over det, ikke vil tale højt nok til at have nogen meningsfuld lovgivning.

For nylig har du undersøgt spørgsmål om tillid og bedrag i informationsalderen. Hvilken rolle synes du, at ansigtsgenkendelse sandsynligvis vil spille i området for den offentlige diskurs?

I det omfang du deltager i en offentlig diskurs, vil du nu være fysisk bundet til at have deltaget i det. Som forfatter kan det være dejligt at få folk til at sige: ”Jeg kunne godt lide din artikel.” Det er måske ikke godt at blive overgivet af folk i offentligheden.

En af måderne at se på fremtiden for dette er at se på vores berømthedskultur. Hvordan er det at være Kim Kardashian eller nogen der er en visuelt genkendelig person, der går rundt i offentligheden? At leve i en verden af ​​ansigtsgenkendelse kan være som at være Kim Kardashian: Alle omkring dig ved, hvem du er - og ved meget om dig.