Sunday, January 17, 2021
Home Technologie Gezichtsherkenning onthult politieke partij in verontrustend nieuw onderzoek - TechCrunch

Gezichtsherkenning onthult politieke partij in verontrustend nieuw onderzoek – TechCrunch


Onderzoekers hebben een machine-leersysteem ontwikkeld waarvan ze beweren dat het de politieke partij van een persoon met redelijke nauwkeurigheid kan bepalen, alleen op basis van hun gezicht. De studie, van een groep die ook aantoonde dat seksuele voorkeur op deze manier schijnbaar kan worden afgeleid, behandelt openhartig en vermijdt zorgvuldig de valkuilen van ‘moderne frenologie’, wat leidt tot de ongemakkelijke conclusie dat ons uiterlijk meer persoonlijke informatie kan uitdrukken dan we denken.

De studie, die deze week verscheen in het Nature-tijdschrift Scientific Reports, werd uitgevoerd door Michal Kosinski van Stanford University. Kosinski haalde in 2017 de krantenkoppen met werk dat ontdekte dat de seksuele voorkeur van een persoon kon worden voorspeld op basis van gezichtsgegevens.

De studie kreeg niet zozeer kritiek vanwege de methoden, maar vanwege het idee dat iets dat notioneel niet-fysiek is, op deze manier kan worden gedetecteerd. Maar Kosinski’s werk, zoals hij toen en daarna uitlegde, werd specifiek gedaan om die aannames te betwisten en was voor hem even verrassend en verontrustend als voor anderen. Het idee was niet om een ​​soort AI-gaydar te bouwen, integendeel zelfs. Zoals het team destijds schreef, was het nodig om te publiceren om anderen te waarschuwen dat zoiets kan worden gebouwd door mensen wier interesses verder gingen dan de academische:

We waren echt verontrust door deze resultaten en hebben veel tijd besteed aan het overwegen of ze überhaupt openbaar moesten worden gemaakt. We wilden de risico’s waarvoor we waarschuwen niet inschakelen. Het vermogen om te bepalen wanneer en aan wie men zijn seksuele geaardheid onthult, is niet alleen cruciaal voor iemands welzijn, maar ook voor iemands veiligheid.

We voelden dat het dringend nodig is om beleidsmakers en LGBTQ-gemeenschappen bewust te maken van de risico’s waarmee ze worden geconfronteerd. We hebben geen tool gemaakt om de privacy te schenden, maar hebben eerder laten zien dat basismethoden en veelgebruikte methoden ernstige bedreigingen voor de privacy vormen.

Soortgelijke waarschuwingen kunnen hier klinken, want hoewel politieke overtuiging in de VS (en in ieder geval op dit moment) niet zoals gevoelig of persoonlijk een element als seksuele voorkeur, het is nog steeds gevoelig en persoonlijk. Er gaat nauwelijks een week voorbij of er wordt gelezen dat een politieke of religieuze “dissident” of een ander wordt gearresteerd of vermoord. Als onderdrukkende regimes zouden kunnen verkrijgen wat voor de waarschijnlijke oorzaak doorgaat door te zeggen “het algoritme markeerde je als een mogelijke extremist”, in plaats van bijvoorbeeld berichten te onderscheppen, maakt dit dit soort praktijken veel gemakkelijker en schaalbaarder.

Het algoritme zelf is geen hypergeavanceerde technologie. Kosinski’s paper beschrijft een vrij gewoon proces van het voeden van een machine learning-systeem met afbeeldingen van meer dan een miljoen gezichten, verzameld op datingsites in de VS, Canada en het VK, evenals Amerikaanse Facebook-gebruikers. De mensen wier gezichten werden gebruikt, werden geïdentificeerd als politiek conservatief of liberaal als onderdeel van de vragenlijst van de site.

Het algoritme was gebaseerd op open-source gezichtsherkenningssoftware en na basisverwerking om alleen het gezicht bij te snijden (op die manier sluipen er geen achtergronditems als factoren naar binnen), worden de gezichten teruggebracht tot 2.048 scores die verschillende kenmerken vertegenwoordigen – net als bij andere gezichtsherkenning algoritmen zijn dit niet noodzakelijk intuïtieve denkwijzen zoals “wenkbrauwkleur” en “neus-type” maar meer computer-native concepten.

Afbeeldingscredits: Michael Kosinski / Nature Scientific Reports

Het systeem kreeg gegevens over politieke overtuiging die afkomstig waren van de mensen zelf, en daarmee begon het ijverig de verschillen te bestuderen tussen de gezichtsstatistieken van mensen die zich identificeerden als conservatieven en degenen die identificeerden als liberaal. Omdat het blijkt dat er verschillen zijn.

Het is natuurlijk niet zo eenvoudig als “conservatieven hebben voller wenkbrauwen” of “liberalen fronsen meer.” Het komt ook niet neer op demografie, wat de zaken te gemakkelijk en simpel zou maken. Immers, als de identificatie van politieke partijen correleert met zowel leeftijd als huidskleur, zorgt dat voor een eenvoudig voorspellingsalgoritme. Maar hoewel de softwaremechanismen die Kosinski gebruikt vrij standaard zijn, was hij voorzichtig om zijn bases te dekken, zodat deze studie, net als de laatste, niet kan worden afgedaan als pseudowetenschap.

De meest voor de hand liggende manier om dit aan te pakken is door het systeem te laten raden naar de politieke partij van mensen van dezelfde leeftijd, hetzelfde geslacht en dezelfde etniciteit. De test omvatte twee gezichten, één van elke partij, en raden welke welke was. Het is duidelijk dat de kansnauwkeurigheid 50 procent is. Mensen zijn niet erg goed in deze taak, ze presteren slechts iets boven kans, ongeveer 55 procent nauwkeurig.

Het algoritme slaagde erin om 71 procent nauwkeurig te bereiken bij het voorspellen van een politieke partij tussen twee gelijke individuen, en 73 procent wanneer het werd gepresenteerd met twee individuen van elke leeftijd, etniciteit of geslacht (maar nog steeds gegarandeerd één conservatief, één liberaal).

Afbeeldingscredits: Michael Kosinski / Nature Scientific Reports

Drie van de vier krijgen lijkt misschien geen triomf voor de moderne AI, maar aangezien mensen het nauwelijks beter kunnen doen dan een muntje omdraaien, lijkt hier iets het overwegen waard. Kosinski is voorzichtig geweest om ook andere bases te dekken; dit lijkt geen statistische anomalie of overdrijving van een geïsoleerd resultaat te zijn.

Het idee dat uw politieke partij op uw gezicht kan worden geschreven, is verontrustend, want hoewel iemands politieke voorkeur verre van de meest persoonlijke informatie is, is het ook iets dat redelijkerwijs als ongrijpbaar wordt beschouwd. Mensen kunnen ervoor kiezen om hun politieke overtuiging te uiten met een hoed, speld of T-shirt, maar men beschouwt iemands gezicht over het algemeen als onpartijdig.

Als je je afvraagt ​​welke gelaatstrekken in het bijzonder onthullend zijn, kan het systeem dat helaas niet melden. In een soort para-studie isoleerde Kosinski een paar dozijn gelaatstrekken (gezichtshaar, directheid van blik, verschillende emoties) en testte of dat goede voorspellers waren van de politiek, maar geen enkele leidde tot meer dan een kleine toename van de nauwkeurigheid ten opzichte van toeval of menselijke expertise.

“Hoofdgerichtheid en emotionele expressie vielen op: liberalen hadden de neiging om directer naar de camera te kijken, waren eerder geneigd om verrast te zijn en minder snel walging te uiten”, schreef Kosinski in de aantekeningen van de auteur voor de krant. Maar wat ze toevoegden, liet een nauwkeurigheid van meer dan 10 procentpunten over die niet werd verklaard: “Dat geeft aan dat het algoritme voor gezichtsherkenning veel andere kenmerken heeft gevonden die politieke oriëntatie onthullen.”

De schokkende verdediging van “dit kan niet waar zijn – frenologie was slangenolie” houdt hier niet veel water vast. Het is beangstigend om te denken dat het waar is, maar het helpt ons niet te ontkennen wat een heel belangrijke waarheid zou kunnen zijn, omdat het heel gemakkelijk tegen mensen kan worden gebruikt.

Net als bij het onderzoek naar seksuele geaardheid, gaat het hier niet om een ​​perfecte detector voor deze informatie, maar om te laten zien dat dit kan worden gedaan om mensen te laten nadenken over de gevaren die dit met zich meebrengt. Als bijvoorbeeld een onderdrukkend theocratisch regime hard zou willen optreden tegen niet-heteroseksuele mensen of tegen mensen met een bepaalde politieke inslag, dan geeft dit soort technologie hun een plausibele technologische methode om dat ‘objectief’ te doen. En wat meer is, het kan worden gedaan met heel weinig werk of contact met het doelwit, in tegenstelling tot het doorzoeken van hun sociale media-geschiedenis of het analyseren van hun aankopen (ook zeer onthullend).

We hebben al gehoord dat China gezichtsherkenningssoftware inzet om leden van de omstreden Oeigoerse religieuze minderheid te vinden. En in ons eigen land wordt dit soort AI ook door de autoriteiten vertrouwd – het is niet moeilijk je voor te stellen dat de politie de ‘nieuwste technologie’ gebruikt om bijvoorbeeld gezichten bij een protest te classificeren en te zeggen dat ‘deze 10 door het systeem werden bepaald als zijnde de meest liberale, ”of wat heb je.

Het idee dat een paar onderzoekers die open-source software en een middelgrote database met gezichten gebruiken (voor een overheid is dit triviaal om te verzamelen in de onwaarschijnlijke mogelijkheid dat ze er nog geen hebben) dit overal ter wereld zou kunnen doen, voor iedereen doel, is huiveringwekkend.

‘Schiet niet op de boodschapper,’ zei Kosinski. “In mijn werk waarschuw ik voor veelgebruikte algoritmen voor gezichtsherkenning. Het is zorgwekkend dat die AI-fysiognomisten nu worden gebruikt om de intieme eigenschappen van mensen te beoordelen – wetenschappers, beleidsmakers en burgers moeten dit opmerken. “



Source link

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in

- Advertisment -

Most Popular

Bobby Kennedy had gelijk: het bbp is een slechte maatstaf voor de gezondheid van een land

Next maand zal het officieel zijn. De cijfers zullen een eerste schatting geven van hoeveel de Britse economie in 2020 kromp. Afhankelijk...

Pogingen van Kwarteng om de rechten van arbeiders aan te vallen, lopen mogelijk tegen een rode muur aan

De spanningen binnen het kabinet doen zich voor en de kans is groot dat ze een almachtige ruzie gaan veroorzaken over de houding...

Airbnb weigert restituties te betalen voor uitjes die door Covid zijn geannuleerd

BVoor de tweede lockdown in oktober besloten NHS-medewerker Lex Karlin en zijn vrouw Annie zichzelf te trakteren op een kerstvakantie. Ze boekten...

Schokkende Brexit-aanklachten doen ons pijn, zeggen kleine Britse bedrijven

De ministers van de regering omschrijven de post-Brexit-hoofdpijn die Britse exporteurs sinds 1 januari hebben geleden als louter "kinderziektes". Maar Alex Paul,...

Recent Comments