Disse mennesker kan se bekendt, ligesom dem, du har set på Facebook eller Twitter.
eller personer, hvis produktanmeldelser du har læst på Ama .on, eller dating profiler, du har set på Tinder.
de ser fantastisk virkelige ved første øjekast.
men de findes ikke.
de blev født fra en computers sind.,
og teknologien, der gør dem, forbedres i et overraskende tempo.
Der er nu virksomheder, der sælger falske mennesker. På hjemmesiden genereret.Billeder, du kan købe en “unik, bekymringsfri” falsk person for $2,99 eller 1,000 mennesker for $1,000., Hvis du bare har brug for et par falske mennesker — for tegn på en video spil, eller til at gøre din virksomheds hjemmeside til at fremstå mere forskellige — du kan få deres fotos gratis på ThisPersonDoesNotExist.com. Juster deres lighed som nødvendig; gøre dem gamle eller unge eller etnicitet, du vælger. Hvis du vil have din falske person animeret, et firma kaldet Rosebud.AI kan gøre det og kan endda få dem til at tale.,
Disse simulerede folk er begyndt at dukke op rundt omkring på internettet, bruges som masker af rigtige mennesker med onde hensigter: spioner, der behøver et attraktivt ansigt i et forsøg på at infiltrere den efterretningstjenester; højrefløjens propagandister, der skjuler sig bag falske profiler, foto og alle; online harassers som trold af deres mål med et venligt ansigt.
vi oprettede vores eget AI-system for at forstå, hvor let det er at generere forskellige falske ansigter.
A. I.-systemet ser hvert ansigt som en kompleks matematisk figur, en række værdier, der kan forskydes., At vælge forskellige værdier — som dem, der bestemmer øjnens størrelse og form-kan ændre hele billedet.
For andre kvaliteter, vores system anvendes en anden fremgangsmåde., I stedet for at skifte værdier, der bestemmer specifikke dele af billedet, genererede systemet først to billeder for at etablere start-og slutpunkter for alle værdierne og oprettede derefter billeder imellem.
Oprettelse af disse typer af falske billeder har kun været muligt i de seneste år takket være en ny type af kunstig intelligens kaldet en generativ kontradiktorisk netværk. I det væsentlige fodrer du et computerprogram en masse fotos af rigtige mennesker., Den studerer dem og forsøger at komme med sine egne billeder af mennesker, mens en anden del af systemet forsøger at opdage, hvilke af disse billeder er falske.frem og tilbage gør slutproduktet stadig mere uadskilleligt fra den rigtige ting. Portrætterne i denne historie blev oprettet af Times ved hjælp af GAN-soft .are, der blev gjort offentligt tilgængelig af computergrafik-firmaet Nvidia.,
som følge af den hastige forbedringer, er det nemt at forestille sig en ikke-så-fjern fremtid, hvor vi bliver konfronteret med ikke bare ét portrætter af falske mennesker, men hele samlinger af disse — til en fest med falske venner, hænge ud med deres falske hunde, holder deres falske babyer. Det bliver stadig vanskeligere at fortælle, hvem der er ægte online, og hvem der er en figur af en computers Fantasi.
“da teknologien først dukkede op i 2014, var det dårligt — det lignede The Sims,” sagde Camille Fran .ois, en desinformationsforsker, hvis job er at analysere manipulation af sociale netværk., “Det er en påmindelse om, hvor hurtigt teknologien kan udvikle sig. Detektion vil kun blive sværere med tiden.”
fremskridt inden for ansigtsfejl er delvis blevet muliggjort, fordi teknologien er blevet så meget bedre til at identificere vigtige ansigtstræk. Du kan bruge dit ansigt til at låse din smartphone, eller fortælle dit foto soft .are til at sortere gennem dine tusindvis af billeder og vise dig kun dem af dit barn., Ansigtsgenkendelsesprogrammer bruges af retshåndhævelse til at identificere og arrestere kriminelle mistænkte (og også af nogle aktivister for at afsløre identiteten af politibetjente, der dækker deres navneskilte i et forsøg på at forblive anonyme). Et firma kaldet Clearvie.AI skrabede nettet af milliarder af offentlige fotos — tilfældigt delt online af hverdagsbrugere — for at oprette en app, der er i stand til at genkende en fremmed fra kun et foto. Teknologien lover supermagter: evnen til at organisere og behandle verden på en måde, der ikke var mulig før.,
men ansigtsgenkendelsesalgoritmer, ligesom andre A. I.-systemer, er ikke perfekte. Takket være underliggende bias i de data, der bruges til at træne dem, er nogle af disse systemer ikke så gode, for eksempel til at genkende folk i farve. I 2015 mærkede et tidligt billeddetekteringssystem udviklet af Google to sorte mennesker som “gorillaer”, sandsynligvis fordi systemet var blevet fodret med mange flere fotos af gorillaer end af mennesker med mørk hud.,
desuden er kameraer — øjnene til ansigtsgenkendelsessystemer-ikke så gode til at fange mennesker med mørk hud; den uheldige standard stammer fra de tidlige dage af filmudvikling, da fotos blev kalibreret for bedst at vise ansigterne til lyshudede mennesker. Konsekvenserne kan være alvorlige. I Januar, en sort mand i Detroit ved navn Robert .illiams blev arresteret for en forbrydelse, han ikke begik på grund af en forkert ansigtsgenkendelseskamp.kunstig intelligens kan gøre vores liv lettere, men i sidste ende er det så mangelfuldt som vi er, fordi vi står bag det hele., Mennesker vælger, hvordan AI-systemer fremstilles, og hvilke data de udsættes for. Vi vælger de stemmer, der lærer virtuelle assistenter at høre, hvilket fører til, at disse systemer ikke forstår mennesker med accenter. Vi designer et computerprogram til at forudsige en persons kriminelle adfærd ved at give det data om tidligere afgørelser truffet af menneskelige dommere — og i processen bagning i disse dommeres fordomme. Vi mærker de billeder, der træner computere for at se; de forbinder derefter briller med “D .eebs” eller “nerder.”
du kan se nogle af de fejl og mønstre, vi fandt ud af, at vores A. I., systemet blev gentaget, da det tryllede falske ansigter.
modetilbehør kan forårsage problemer.
øreringe kan for eksempel se ens ud, men ofte stemmer de måske ikke helt overens.
GANs træner typisk på rigtige fotografier, der er centreret, skaleret og beskåret.
som følge heraf kan hvert øje være den samme afstand fra midten.
briller er almindeligt tilbehør i mange af de falske billeder.,
de har en tendens til at have tynde rammer, med endestykker, der muligvis ikke stemmer overens.
de fleste af os har ikke perfekt symmetriske funktioner, og systemet er godt til at genskabe dem.
men som følge heraf kan det producere dybe indrykk i det ene øre, som måske ikke er til stede i det andet.
så er der odder artefakter, der kan vises ud af ingenting.
oftest er de kun i en del af billedet, men hvis du ser tæt nok ud, er det svært at fjerne det.,
Nogle gange er ledetrådene om, hvorvidt et billede er falsk, ikke i en persons funktioner.
abstrakte eller slørede baggrunde er ofte givea .ays.
mennesker fejler selvfølgelig: vi overser eller glasur forbi fejlene i disse systemer, alt for hurtige til at stole på, at computere er hyper-rationelle, objektive, altid rigtige., Undersøgelser har vist, at mennesker i situationer, hvor mennesker og computere skal samarbejde for at træffe en beslutning — at identificere fingeraftryk eller menneskelige ansigter — konsekvent gjorde den forkerte identifikation, når en computer nudged dem til at gøre det. I de tidlige dage af instrumentbrættet GPS-systemer, chauffører berømt fulgt enhedens anvisninger til en fejl, sende biler i søer, off klipper og i træer.
er denne ydmyghed eller hybris? Lægger vi for lidt værdi i menneskelig intelligens — eller overvurderer vi den, forudsat at vi er så kloge, at vi stadig kan skabe ting smartere?,algoritmerne i Google og Bing sorterer verdens viden for os. Facebook ‘ s ne .sfeed filtrerer opdateringerne fra vores sociale kredse og beslutter, hvilke der er vigtige nok til at vise os. Med selvkørende funktioner i biler sætter vi vores sikkerhed i hænderne (og øjnene) af Soft .are. Vi stoler meget på disse systemer, men de kan være lige så fejlbare som os.
flere artikler om kunstig intelligens:
træning ansigtsgenkendelse på nogle nye lodne venner: bjørne
antistoffer god. Maskinfremstillede Molekyler Bedre?,
disse algoritmer kunne bringe en ende på verdens dødeligste morder