Er lopen proeven met een door de EU gefinancierd programma waarbij AI-leugendetectiesystemen zullen worden gebruikt om mogelijk onbetrouwbare reizigers van buiten het blok te scannen. Te Orwelliaans? Of gewoon de laatste stap op weg naar soepeler reizen?
Met ingang van 1 november zal het iBorderCtrl-systeem aanwezig zijn bij vier grensdoorlaatposten in Hongarije, Letland en Griekenland met landen buiten de EU. Het is bedoeld om snellere grensovergangen voor reizigers mogelijk te maken en tegelijkertijd potentiële criminelen of illegale grensoverschrijdingen uit te bannen.
Het proefproject is ontwikkeld met € 5 miljoen aan EU-financiering van partners in heel Europa en zal worden uitgevoerd door grensagenten in elk van de proeflanden en geleid door de Hongaarse nationale politie.
Degenen die het systeem gebruiken, zullen eerst bepaalde documenten zoals paspoorten moeten uploaden, samen met een online aanvraagformulier, voordat ze worden beoordeeld door de virtuele grensagent die het netvlies scannen.
De reiziger staart gewoon in een camera en beantwoordt de vragen die men van een ijverige grensagent mag verwachten, aldus New Scientist.
"Wat zit er in je koffer?" en "Als je de koffer opent en me laat zien wat erin zit, zal het dan bevestigen dat je antwoorden waar waren?"
Maar in tegenstelling tot een menselijke grenswachter analyseert het AI-systeem minuscule microgebaren in de gezichtsuitdrukking van de reiziger, op zoek naar tekenen dat ze een leugen vertellen.
Als de iBorderCtrl tevreden is met de eerlijke bedoelingen van de crosser, zal hij hen belonen met een QR-code waarmee ze veilig de EU kunnen binnenkomen.
Ontevreden, en reizigers zullen door een aanvullende biometrische screening moeten gaan, zoals het nemen van vingerafdrukken, gezichtsherkenning of het lezen van de handpalm. Een definitieve beoordeling wordt vervolgens gemaakt door een menselijke agent.
Zoals alle AI-technologieën in de kinderschoenen, is het systeem nog steeds zeer experimenteel en met een huidig slagingspercentage van 76 procent zal het niet echt voorkomen dat iemand de grens oversteekt tijdens de proefperiode van zes maanden. Maar de ontwikkelaars van het systeem zijn "vrij zeker" dat de nauwkeurigheid met de nieuwe gegevens kan worden verhoogd tot 85 procent.
Er komt echter meer bezorgdheid uit van burgerlijke vrijheidsgroepen die eerder hebben gewaarschuwd voor de grove onnauwkeurigheden die worden aangetroffen in systemen die op machine learning zijn gebaseerd, vooral in systemen die gezichtsherkenningssoftware gebruiken.
In juli stond het hoofd van de Londense Metropolitan Police bij proeven met geautomatiseerde gezichtsherkenningstechnologie (AFR) in delen van de stad, ondanks berichten dat het AFR-systeem 98 procent vals-positieven had, wat resulteerde in slechts twee nauwkeurige matches.
Het systeem werd door Big Brother Watch, een organisatie voor burgerlijke vrijheden, bestempeld als een "Orwelliaans surveillance-instrument".
WAT U UIT DIT ARTIKEL MOET NEMEN:
- In July, the head of London's Metropolitan Police stood by trials of automated facial recognition (AFR) technology in parts of the city, despite reports that the AFR system had a 98 percent false positive rate, resulting in only two accurate matches.
- Like all AI technologies in their infancy, the system is still highly experimental and with a current success rate of 76 percent, it won't be actually preventing anyone from crossing the border during its six month trial.
- Het proefproject is ontwikkeld met € 5 miljoen aan EU-financiering van partners in heel Europa en zal worden uitgevoerd door grensagenten in elk van de proeflanden en geleid door de Hongaarse nationale politie.
