Рок-бендот од Нешвил минатата година доживеа најголем подем. Нивните емотивни песни, обоени со блуз звук, брзо се проширија на социјалните мрежи, а турнејата низ 50 градови беше целосно распродадена. Но, со растот на популарноста се појавил и проблем што воопшто не го очекувале.

Имено, фронтменот Адам Мекинис почнал да го гледа сопственото лице насекаде на интернет – во видеа што никогаш не ги снимил. Лажни профили ги користеле неговиот лик и глас за да стапат во контакт со обожавателите, па дури и ги поканувале на состаноци.

„Имаше цели страници на кои ’пеам‘ песни што никогаш не сум ги снимил и ги повикувам луѓето на дружење. Коментарите покажуваа дека многумина воопшто не сфаќаат дека станува збор за вештачка интелигенција“, вели Мекинис, пренесува „Time“.

Љубовните измами не се нова појава, но вештачката интелигенција ги подигна на сосема ново ниво. Денес измамниците користат реалистични гласовни симулации и „deepfake“ видеа, поради што жртвите веруваат дека комуницираат со вистинската личност.

Според менаџментот на бендот, секој ден се појавуваат меѓу 50 и 60 нови лажни профили кои се обидуваат да извлечат пари од обожавателите. На речиси секој концерт, барем едно лице му приоѓа на Мекинис, убедено дека било во љубовна врска со него и дека веќе му испратило пари.

Како функционира измамата?

Измамниците создаваат лажни групи и профили на „Facebook“, кои за кратко време собираат илјадници следбеници. Откако фановите ќе се приклучат, почнуваат да добиваат приватни пораки од наводни „членови на бендот“.

Потоа комуникацијата се префрла на апликации како „Telegram“ или „Signal“, каде што следуваат персонализирани пораки, AI-генерирани гласови, фотографии и видеа.

За кратко време се создава илузија дека станува збор за романтична врска. Кога „музичарот“ ќе побара пари – за турнеја, болнички трошоци или лични проблеми – жртвите честопати се согласуваат. Според информациите, некои испратиле и десетици илјади долари.

Измамниците одат и чекор понатаму – продаваат лажни билети, бекстејџ-пропусници и фан-картички. Регистрирани се и случаи на „sextortion“, при кои жртвите, убедени дека комуницираат со вистинската личност, испраќаат интимни фотографии, кои подоцна се користат за уцена.

Платформите реагираат, но бавно

Компанијата „Meta“, сопственик на „Facebook“, соопшти дека го истражува случајот и ги отстранува профилите што ги прекршуваат правилата. Но, штом ќе биде избришан еден профил, веднаш се појавуваат нови.

Бендот користи алатки за детекција на „deepfake“ содржини за да ги пријавува лажните профили, но признава дека борбата е долготрајна и исцрпувачка.

Додека се справуваат со овие измами, Sons of Legion се соочува и со уште еден сериозен предизвик – конкуренцијата од AI бендови на платформи како „Spotify“.

Според Мекинис, алгоритмите сè почесто препорачуваат AI-генерирани изведувачи кои звучат речиси идентично како вистинските бендови, но можат да создаваат музика побрзо и поевтино.

„Еден пријател ми се јави и ми рече дека слуша наша песна. Кога ја пуштив, сфатив дека тоа воопшто не сме ние, туку AI бенд што звучи речиси идентично“, изјави тој.

Иако бендот и понатаму ги полни концертните сали, Мекинис предупредува дека вештачката интелигенција му се заканува на самиот темел на музичката индустрија – автентичноста.

„Платформите мора да реагираат. Ние како поединци правиме сè што можеме, но без притисок од корисниците и без финансиски последици, ништо нема да се промени“, порача тој.