За потенцијалните негативни последици од "deepfake" технологијата сме пишувале повеќепати. Оваа технологија се покажува како вистински кошмар, особено за младите, а најмногу за девојките, бидејќи може речиси совршено да замени лица на актерки во порнографски филмови со лица на вистински лица. Само еден таков видеозапис, кој на прв поглед е тешко да се препознае како лажен, може да ѝ го уништи животот на личноста чиј лик е злоупотребен.

"Deepfake" технологијата може да се искористи и во политички контекст – на пример, ако ден-два пред избори се појави снимка во која политичар изнесува шокантни изјави или пее непристојни песни, тоа може значително да влијае на изборниот резултат. Иако подоцна може да се открие дека снимката е лажна, често е предоцна – изборите веќе ќе бидат завршени.

Иако вакви сценарија најчесто се споменуваат кога се зборува за "deepfake", адвокатот Џери Бутин предупредува на уште една потенцијално опасна последица која досега не се спомнувала често. Поради оваа технологија, невини луѓе би можеле да завршат во затвор – токму поради употребата на "deepfake". Бидејќи технологијата напредува толку брзо, станува сè потешко, а понекогаш и невозможно, да се процени што е реално, а што е фалсификувано, односно дали еден видеозапис е вистинит или лажен.

Со оглед на тоа дека во градовите денеска има камери на секој чекор, Бутин не ја исклучува можноста дека при анализа на кривични дела, некој би можел да измени видеоматеријал за да прикаже сосема различна ситуација од вистинската. Таквите лажни снимки би можеле да бидат користени како алиби за криминалци, но исто така би можеле да компромитираат луѓе кои немале никаква врска со кривичното дело, но чие присуство би било дополнително вметнато на снимката. Исто така, на ваков начин би можело намерно да им се „намести“ злосторство на лица кон кои постои омраза или желба за одмазда.

Најголема растечка закана

Исто размислуваат и многу експерти со кои разговарале новинарите на "The Sun". Според нив, "deepfake" е најголемата растечка закана во областа на сајбер-криминалот, бидејќи овие содржини стануваат толку реалистични што е навистина тешко да се разликуваат од вистинските видеа. Нема сомнеж дека со текот на времето нивниот квалитет ќе биде уште подобар, што дополнително ќе го отежне препознавањето на автентични снимки.

Заклучокот на новинарите на "The Sun", по разговорот со експерти за вештачка интелигенција, е јасен: луѓето би можеле да бидат обвинети за злосторства што не ги извршиле.

На ова предупреди и поранешната главна службеничка за информатички прашања на Белата куќа, Тереза Пејтон, која употребата на "deepfake" ја спореди со епизода од серијата "Black Mirror", истакнувајќи дека злонамерни актери би можеле да ја искористат технологијата за создавање хаос и несигурност во општеството.