Експерт за вештачка интелигенција (AI) предупреди на виралниот тренд на користење „ChatGPT“ и други алатки за вештачка интелигенција за претворање на лични фотографии во хумористични карикатури, нагласувајќи дека навидум безопасниот тренд носи сериозни ризици за приватноста и безбедноста.
Трендот, што неодамна се прошири на социјалните мрежи не се сведува само на менување на цртите на лицето заради создавање цртани прикази. Во бројни случаи се обидува да ја предвиди професијата на корисникот и визуелно да го вклопи во сатирична сцена.
Меѓутоа, експертите предупредуваат дека процесот зад овие фотографии вклучува многу повеќе од едноставна обработка на фотографијата.
Во разговор за „Ал Арабија“, Мохамед Мохсен Рамадан, раководител на Одделот за вештачка интелигенција и сајбер безбедност во Арапскиот центар за истражување и студии, рече дека овој тренд и покрај неговата популарност, крие вистински технички и безбедносни ризици.
Тој објасни дека ваквите апликации користат напредни системи за ВИ, вклучувајќи модели на компјутерска визија кои анализираат црти на лицето, возраст, изрази, облека и детали во заднината. Тие исто така користат модели за длабоко учење и мултимодални модели кои комбинираат слики, текст, претходни податоци и однесување на корисниците.
Рамадан изјави дека прикачувањето фотографија не резултира само со карикатура. Наместо тоа, сликата се подложува на детална алгоритамска анализа за да се извлечат особини што можат да укажуваат на занимање на една личност, како што се лекар, инженер, новинар или програмер, како и модели на животен стил, професионална средина и во некои случаи, индиректни индикатори за општествен статус.
Тој истакна дека вештачката интелигенција не ги препознава занимањата на човечки начин, туку ги предвидува статистички врз основа на карактеристиките на лицата, изразите, облеката, заднината на фотографијата, метаподатоците, а понекогаш и поврзаноста со профилите на корисникот на социјалните мрежи.
Иако резултатите може да изгледаат забавно, Рамадан предупреди дека всушност станува збор за автоматска класификација што може да биде неточна или пристрасна и често се одвива без информирана согласност од корисникот.
Тој додаде дека биометриските податоци, кои се сметаат за исклучително чувствителни, може да се злоупотребат за креирање „дипфејк“ (deepfake) содржини, кражба на идентитет и изработка на траен дигитален профил. Поврзување на фотографија со дигитален идентитет преку социјалните мрежи практично го спојува лицето со име и онлајн однесување.
Кога се употребуваат фотографии за тренирање на модели на вештачка интелигенција, како што рече Рамадан, тие може да станат дел од огромни бази на податоци кои служат за унапредување на системот за препознавање на лица и потенцијално да останат вградени во моделите дури и по бришење на профилот или апликацијата.
Тој предупреди дека корисниците немаат јасен увид во тоа што на крајот се случува со нивните фотографии.
Тој укажа и на поопасно сценарио кое вклучува протекување на податоци, наведувајќи дека протечените фотографии со детални биометриски карактеристики подоцна може да бидат искористени за измама, уцена или лажно претставување, при што таквите податоци е речиси невозможно целосно да се повратат или отстранат.
Рамадан нагласи дека секоја дигитална база на податоци е подложна на хакерски напади.
Од друга страна, Абубакр Абдел Карим, поранешен помошник за односи и медиуми на египетскиот министер за внатрешни работи, изјави за „Ал Арабија“ дека личната приватност е сè повеќе загрозена.
Тој рече дека главната опасност лежи во задржувањето на фотографиите, истакнувајќи дека тие не секогаш се бришат веднаш по обработката. Наместо тоа, тие може привремено да се складираат, да се користат за обука на модели на вештачка интелигенција или да се споделуваат со трети страни врз основа на нејасни политики за приватност.
Абдел Карим повика на поголема свест за сајбер безбедноста, нагласувајќи дека проблемот не е во самата вештачка интелигенција, туку во нејзината неинформирана употреба.
Тој им советува на корисниците внимателно да ги читаат политиките за приватност, да избегнуваат испраќање фотографии со висока резолуција, да не ги поврзуваат таквите апликации со примарни профили на социјалните мрежи и да се запрашаат дали моментот на забава вреди за потенцијалните трошоци.
