2019. aug 22.

Tévednek az arcfelismerő algoritmusok

írta: Göbölyös N. László
Tévednek az arcfelismerő algoritmusok

facial_recognition_pr_rm.jpg

A telekamerák, amelyeket a londoni metrórendőrség használt annak tesztelésére, hogy a felismerő rendszer alkalmas-e bűnelkövetés megelőzésére, csalódást okozott. A mesterséges intelligencia az arcok azonosítását 80%-ban hibásan végezte el.

Az essexi egyetem kutatói ellenőrizték a tesztet, amelyet a rendőrség a főváros egyes forgalmas zónáiban, a Sohóban, a Piccadilly Circusön, a Leicester Square-en, a Westfielden végeztek. Ez utóbbi helyen az algoritmus 42 személyt azonosított olyannak, mint akik rendőri megfigyelés alatt állnak, valójában azonban csak nyolcan voltak közülük gyanúsítottak. A többi 34 személynél azonban tévedett, olyan nyilvánvalóan, hogy a rendőrség nem is foglalkozott velük.

A brit főváros nem az egyetlen, amely így járt. Az Egyesült Államokban már három város is elutasította a technológiát: Nem kér belőle San Francisco, Somerville és Oakland sem. Egy kísérlet ugyanis kimutatta, hogy a rendszer pontatlan a nők azonosításában, különösen a színes bőrűek esetében.

Egy évvel ezelőtt ugyancsak az Államokban történt, hogy tesztelték az Amazon rendszerét, a Rekognitiont, amelynek az amerikai képviselők 535 fotóját kellett összevetnie egy rendőrségi adatbázis 25 ezer fotójával. Az esetek 5%-ban némi azonosságot talált a képviselők és a bűnözők között, de ez is tévesnek bizonyult. A legnagyobb melléfogások itt is a színes bőrű politikusok esetében történt.

Ezekre az esetekre Londonban a Big Brother Watch emberi jogvédő szervezet hívta fel a figyelmet. „Régóta mondjuk, hogy pontos szabályozás, és hiteles eredmények nélkül ez a technológia sérti az alapvető emberi jogokat minden modern társadalomban” – jelentette ki Silkie Carlo, a szervezet igazgatója.

Az ügy végül eljutott a brit parlamentbe, a tudományos-technológiai bizottság elé. A bizottság jelentésében hiteltelennek minősítette az algoritmust, és azt is megállapította, hogy a rendőrség nem tartja naprakészen a bűnözők adatbázisát. Nem világos, hogy nem tudnak-e arról a kötelezettségről, hogy félévenként át kell vizsgálniuk vagy egyszerűen nehézségbe ütközik ennek végrehajtása.

Egy másik probléma, ami nyugtalanítja a jogvédő szervezeteket az az intelligens kamerák által összegyűjtött biometrikus adatok eladása. Az információknak ugyanaz a tipológiája érvényesül számos személyfelismerő rendszerben, kezdve az ujjlenyomattól az okostelefonba való belépésig, a hangunktól a bankszámlánkhoz való hozzáférésig,  Mivel a technológia felismeri fotón vagy videón az arcokat és valós időben összeveti ezeket az adatbankokban tároltakkal, sok amerikai városban felhasználja a rendőrség, különösen a repülőtereken. Az American Civil Liberties Union 70 más szervezettel együtt arra kéri a gyártó cégeket, hogy a technológiát ne adja el a kormánynak és más állami szerveknek.

A GDPR-törvény életbe lépése óta az Európai Unió 28 országának egyikében sem szabad biometrikus anyagokat gyűjteni az érintett beleegyezése nélkül és ezeket az adatokat csak különleges esetekben szabad felhasználni, például bíróági eljárásban vagy az egészségügyi szektorban, vagy ha bizonyított, hogy az illető bűncselekményt akar elköveti – írta a La Repubblica.

 

 

Szólj hozzá

technológia emberi jogok arcfelismerés USA Nagy-Britannia