Токму тој математички образец ни овозможува со лицето да го отклучиме телефонот, да го потврдиме идентитетот или да бидеме пронајдени на снимка од безбедносна камера. Истата технологија, меѓутоа, отвора многу посериозни прашања кога се користи во јавниот простор и кога е поврзана со полициски бази на податоци.

Дебатата повторно беше поттикната во Италија, каде што се разгледуваат правилата за употреба на системите за препознавање лица од страна на полицијата. Предложените одредби треба да го усогласат националното законодавство со европскиот Акт за вештачка интелигенција, но организациите за заштита на дигиталните права предупредија на можноста за масовен биометриски надзор.

Но, како камерата воопшто препознава лице и на кој начин „AI“ од нечиј изглед создава математички запис?

Камерата најпрво го пронаоѓа лицето, а потоа го „исправа“

Препознавањето лице започнува уште пред алгоритмот да се обиде да утврди кому му припаѓа тоа лице. Системот најпрво мора да утврди дали на фотографијата или снимката воопшто има човечко лице.

Тоа го прави технологијата за детекција на лица, каква што секојдневно користиме и на мобилните телефони. Кога камерата при фотографирањето исцртува квадрат околу нечија глава за да ги приспособи фокусот и експозицијата, таа веќе го пронашла лицето, но сè уште не го утврдила идентитетот на лицето.

Потоа софтверот ги издвојува клучните делови, меѓу кои се положбата на очите, носот, устата и контурите на лицето. Снимката се порамнува, ротира и приспособува за лицето да биде поставено во стандардна положба. Истовремено се коригираат осветлувањето, контрастот и другите параметри што можат да влијаат врз споредбата.

Целта е фотографијата направена од благ агол, при послаба светлина или со друга камера да стане доволно слична на референтната снимка што веќе се наоѓа во системот.

Од фотографијата останува низа броеви

Кога лицето е пронајдено и подготвено, длабоката невронска мрежа го анализира неговиот образец. Таа не го опишува со зборови, ниту зачувува податок како „големи очи“ или „тесен нос“, туку неговите карактеристики ги претвора во нумерички вектор.

Таквиот запис, познат и како „face embedding“, може да содржи десетици или стотици бројчени вредности. Тие заедно ја одредуваат положбата на лицето во посебен математички простор.

Еден од познатите модели, „FaceNet“, е развиен така што фотографиите на исто лице ги поставува блиску една до друга во тој простор, додека записите на различни луѓе би требало да бидат пооддалечени. На тој начин може да се измери сличноста меѓу две лица без потпирање на нивните имиња или на класичен опис на изгледот. Истражувачите што го развиле „FaceNet“ овој процес го опишуваат како пресликување на лицата во компактен простор во кој растојанието го претставува степенот на нивната сличност.

Поради тоа често се вели дека „AI“ го претвора лицето во математичка формула. Поточно би било да се каже дека создава негов нумерички образец. Тој не е апсолутно единствен и непогрешлив како бројот на личната карта, туку е доволно карактеристичен за да може да се споредува со други записи.

Притоа, фотографијата не мора да биде избришана. Организацијата што управува со системот може да ги зачува и оригиналната снимка и биометрискиот образец изведен од неа, во зависност од намената, техничкото решение и правилата што мора да ги почитува.

„AI“ не дава конечен одговор, туку резултат за степенот на сличност

Постојат два основни начина за употреба на ваквиот систем.

Првиот е верификација „еден спрема еден“. Тогаш снименото лице се споредува со однапред познат запис за да се провери дали лицето навистина е она за кое се претставува. На тој принцип функционира отклучувањето телефон со лице или потврдувањето на идентитетот при пристап до заштитена корисничка сметка.

Вториот е идентификација „еден спрема повеќе“. Системот тогаш ја споредува фотографијата на непознатото лице со голема база и ги издвојува записите што се најслични на неа. Тоа е значително почувствителна примена, бидејќи алгоритмот може да пребарува илјадници или милиони лица и да создаде листа на можни кандидати.

Резултатот не е категорично тврдење дека на снимката се наоѓа одреден човек. Алгоритмот произведува број што го претставува степенот на сличност, а потоа го споредува со однапред поставен праг. Ако резултатот е над тој праг, системот означува можна совпаѓање.

Колку што прагот е понизок, толку е поголема можноста системот да го пронајде бараното лице, но расте и ризикот погрешно да поврзе две различни лица. Ако прагот е превисок, алгоритмот може да отфрли и точно совпаѓање.

Една грешка не го отклучува телефонот, друга може да означи невин човек

Врз прецизноста влијаат положбата на главата, резолуцијата на снимката, осветлувањето, стареењето, очилата, брадата, шминката, маската и аголот од кој е снимено лицето. Проблем можат да претставуваат и луѓе со сличен изглед, дури и кога фотографиите се со многу висок квалитет.

Американскиот Национален институт за стандарди и технологија („NIST“) предупредува дека зачестеноста на погрешните совпаѓања се разликува од алгоритам до алгоритам, но и меѓу одделни демографски групи. Актуелните тестирања на „NIST“ покажуваат дека лажно позитивни резултати можат да настанат поради анатомска сличност меѓу две лица, како и поради отсјај, очила и други карактеристики на снимката.

Последиците од грешката зависат од тоа каде се користи технологијата. Ако телефонот не го препознае сопственикот, тој може повторно да се обиде или да внесе лозинка. Ако полициски систем погрешно поврзе минувач со лице по кое се трага, последиците можат да бидат испрашување, следење или сомневање кон некого кој нема никаква поврзаност со настанот.

Поради тоа, резултатот од алгоритмот не би смеел автоматски да се смета за доказ. Тој може да биде трага или предлог за понатамошна проверка, но мора да биде потврден со други информации и со човечка процена.

Европската унија поставува граница во јавниот простор

Актот на Европската унија за вештачка интелигенција не ја забранува секоја употреба на системите за препознавање лица. Посебно е ограничена полициската биометриска идентификација во реално време во јавно достапни простори, како улици, станици и плоштади.

Таквата употреба во принцип е забранета, но државите, под строги услови, можат да предвидат исклучоци за потрага по жртви на киднапирање и трговија со луѓе, пронаоѓање исчезнати лица, спречување непосредна опасност по животот или терористички напад, како и за истраги на одредени тешки кривични дела. Европската комисија затоа прави јасна разлика меѓу општиот надзор на граѓаните и целната употреба во исклучителни ситуации.

Самата технологија не знае дали се користи за отклучување телефон, пронаоѓање исчезнато дете или следење луѓе кои не се осомничени за ниту едно кривично дело. Таа разлика ја прават законот, институциите и лицата што управуваат со базите.

Лозинката што ќе заврши во погрешни раце може да се промени. Лицето не може. Затоа најважното прашање повеќе не е само колку прецизно „AI“ може да нè препознае, туку кој смее да го зачува нашиот биометриски образец, со кои бази може да го споредува и како можеме да го оспориме резултатот кога алгоритмот ќе погреши.