Еден ден, не толку далеку во иднината, присуството на концерт, кревањето транспарент на протест или одењето на стадион, со помош на вештачката интелигенција, би можеле да станат можност за масовен надзор и колективна идентификација од страна на власта.
Тоа е патот по кој тргна Европа со технологиите за препознавање лица, кои ги воведуваат сè повеќе земји. Италија предничи, додека Шпанија сè уште нема посебен закон за ова прашање.
Но, пред две години, во август 2024 година, стапи во сила Актот за вештачка интелигенција (AI Act), првата регулаторна рамка за вештачка интелигенција во светот – европска регулатива која ги класифицира системите за вештачка интелигенција според нивото на ризик, со постепена примена.
Што се однесува до полициската биометриска идентификација, регулативата теоретски предвидува општа забрана, но воведува исклучоци – тероризам, исчезнати лица и „тешки“ кривични дела – и ѝ остава на секоја држава широк простор самостојно да ја разработи конкретната постапка.
Токму тука се појавува проблемот. Во Италија, која веќе ја спроведе оваа регулатива, полемиката е огромна. Владата на Џорџа Мелони конечно, по размената на нацрт-верзии со парламентот, одобри уредба со која италијанското законодавство се усогласува со европскиот Акт за вештачка интелигенција, иако текстот сè уште не е објавен во Службениот весник (содржината засега е позната само од владиното соопштение).
Со тоа, Италија станува првата земја во ЕУ со детална правна рамка за исклучоците што Актот ги остава отворени во однос на полициската употреба на технологијата за препознавање лица.
Во Шпанија, пак, во Конгресот се разгледува органски закон за правилна употреба и управување со вештачката интелигенција, а рокот за поднесување амандмани сè уште е отворен, пишува „Ел Паис“.
Италијанската уредба прави разлика меѓу два вида употреба. Првиот е идентификација во реално време, резервирана за сериозни закани како тероризам или потрага по исчезнати лица, со одобрение од обвинител, а вториот е дополнителна идентификација, која се активира дури откако ќе биде извршено кривично дело, со цел препознавање на веќе означени осомничени лица.
Во однос на првичниот нацрт, најважната измена се однесува на настани поврзани со „потребите на јавниот ред“ – плоштади, стадиони и протести. Полицијата смее да снима и да ги чува тие снимки, но препознавањето лица повеќе не се активира автоматски за сите присутни, туку само доколку се случи кривично дело, со судско одобрение во рок од 24 часа.
Податоците би се бришеле по седум дена доколку не се случило ништо.
Организациите за граѓански права се кренаа на нозе, иако се песимисти дека оваа лавина може да се запре. Дилета Хујскес, социолог на Универзитетот во Милано и основачка на здружението „Immanence“, изјавила:
„Нема што да се направи, ако се тргне од фактот дека европските регулатори, на еден или друг начин, им дозволуваат на владите да постапуваат вака. Мојот став е целосно против предложените начини на употреба, но се соочуваме со тренд што се гради со години“.
Според владиното соопштение (додека сè уште се чека конечниот текст), владата направила само козметички измени на некои технички точки – условите за базата на податоци, постапката за бришење и овластувањата на надлежниот орган за заштита на приватноста – но не и на најспорните прашања.
И понатаму е дозволено дополнително препознавање лица на јавни места, не се зајакнати судските одобренија за препознавање во реално време, ниту пак се бара граѓаните да бидат известени кога системот е активен.
„Воведувањето на оваа технологија создава инфраструктура за сеприсутен надзор. Дури и при промена на власта, таа лесно може да се користи за авторитарни цели“, истакнала Хујскес.
Новинарот и експерт за биометриски надзор Фабио Кјузи се согласил со неа и оди чекор понатаму.
„Постојат партии кои се уште поекстремни од оние што се на власт, како онаа на генералот Роберто Ваначи, кој бара употреба на дронови со термовизиски камери заради безбедност. Дали може да се верува дека институциите водени од такви пориви ќе ги почитуваат условите што ги наметнува Актот за вештачка интелигенција? И колку долго? Пред неколку години, помислата на градови под надзор на илјадници технолошки очи кои постојано се отворени нè асоцираше на кинескиот режим, а денес тоа ги погодува и најнапредните демократии. Овој тренд не може да се запре со поединечни амандмани, туку со апсолутни забрани“, нагласил тој, пишува „Ел Паис“.
Хујскес ги смета за проблематични и нетранспарентноста на критериумите за обучување на системите, како и постапките за бришење на сликите. „Тие го отежнуваат демократскиот надзор и заштитата на основните права“, вели таа.
Новинарката Лаура Карер, истражувачка во Центарот „Хермес“ за хакирање на човековите права, се согласила.
„Се нормализира надзорот кој претходно не постоеше. Неговата употреба ја условивме со постоење кривично дело, но во меѓувреме снимките остануваат зачувани“, рекла таа. Таа жали и поради недостигот од надворешна контрола.
„Единствениот столб што останува е судскиот надзор, иако активирањето може да го одобри обвинител, а не судија. Обвинителот ја води истрагата и поверојатно е дека ќе даде одобрение“, додала таа.
На ова прашање инсистира и Аљоша Ајановиќ Анѓелиќ од „EDRi“ (European Digital Rights). „Телото што го дава одобрението треба да ги проценува неопходноста и пропорционалноста. Важно прашање е дали надлежниот орган навистина ја проценува неопходноста токму на таквата примена или само рутински потврдува полициска одлука што веќе е донесена“, додал тој.
Ајановиќ смета дека италијанскиот закон „ја тестира границата меѓу препознавањето лица во реално време и дополнителното препознавање“, со импликации што ги надминуваат границите на Италија.
„Ако континуирано се снимаат и складираат биометриските податоци на сите кои минуваат низ јавен простор, а дури потоа се одлучува кој ќе биде идентификуван, дали тоа навистина е систем за дополнително препознавање или начин, преку технички поинаков редослед, да се постигне речиси истиот ефект на надзор? Ако тие податоци подоцна се користат за криминализирање на учесниците на протестите, тогаш системот де факто функционира како систем за препознавање во реално време“, истакнал тој.
Експертот го наведува примерот на Унгарија, која „исто така го исклучила брзото препознавање лица од категоријата ’реално време‘, користејќи статични фотографии наместо директен пренос, а потоа се закани дека на тој начин ќе ги идентификува и казни оние кои ќе присуствуваат на Парадата на гордоста во Будимпешта [која владата на крајнодесничарскиот Виктор Орбан ја забрани]. Според нашата анализа, унгарскиот систем функционира во реално време бидејќи може да влијае врз однесувањето за време на протестите и затоа го прекршува Актот за вештачка интелигенција“, објаснил тој.
„EDRi“ стравува дека националните закони „ќе се користат за заобиколување на забраните и за проширување на биометриските системи за масовен надзор“.
Тој во принцип може да биде предмет на ревизија, „но проблемот е ист како и кај миграцијата: нетранспарентноста и тајноста го прават практично невозможно да се провери“.
За мигрантите и барателите на азил, одвраќачкиот ефект „може да биде особено силен бидејќи нивниот однос со властите веќе е понесигурен“.
„Мигрант може да има биометриски податоци во базата од причини што немаат никаква врска со криминал. Ако полицијата може да пристапи до тие бази, последиците од погрешно совпаѓање се многу посериозни. Со новата европска Регулатива за депортација, државите ќе мора да ги регистрираат лицата без документи, па таквата интероперабилност би можела да се воспостави речиси автоматски“, вели тој.
Според Ајановиќ, Шпанија ги има сите опции отворени: може да го следи италијанскиот модел или „да усвои построги правила и на пример, да ја забрани дополнителната биометриска идентификација“.
