На неодамна одржаната конференција DEF CON, посетителите имаа можност да се обидат да создадат длабоко лажни видео содржини, кои привлекоа значително внимание.
Како дел од лабораторијата AI' Village, која беше поддржана од Американската агенција за напредни истражувачки проекти за одбрана (DARPA), учесниците можеа да создадат лажни видеа во кои нивните лица беа заменети со познати личности, како што е Меган Маркл.
Иако создавањето длабоко лажни видео содржини стана неверојатно лесно, откривањето на овие манипулации стана поефикасно благодарение на напредокот во технологијата. За време на експериментот, учесниците ја користеа алатката DeepFaceLive, софтвер со отворен код кој ги заменува лицата во снимките во реално време.
Овие видеа потоа беа анализирани со помош на SemaFor, алатката за откривање длабоки лажни DARPA, која користи долгогодишно истражување за да ја идентификува манипулацијата со видео.
Еден од учесниците, кој учествувал во експериментот, успеал да генерира видео во кое неговото лице е заменето со лицето на Меган Маркл за само 10 секунди. SemaFor успешно го идентификуваше видеото како лажно, што е показател за тоа колку напредна технологијата за откривање на длабоки лажни содржини.
Меѓутоа, овој експеримент покажа и колку лесно измамниците можат да користат длабока фејк технологија за да измамат во реално време, на пример, за време на видео повик. Измама во која едно лице користело „дип фејк“ за да се претстави како финансиски директор на голема компанија и да измами вработен да префрли 25 милиони долари е само еден пример за зголемената употреба на оваа технологија за криминални цели.
Како што напредува технологијата за длабока фејк, експертите се надеваат дека алатките за откривање на овие манипулации ќе продолжат да го следат темпото, спречувајќи злоупотреба и заштитувајќи го интегритетот на дигиталната содржина.
