Истражувачи од Универзитетот во Цирих користеле ботови со вештачка интелигенција за да ги променат мислењата на луѓето на „Reddit“.
Група истражувачи тајно спровеле четиримесечен експеримент во една од најпопуларните заедници на „Reddit“ користејќи коментари генерирани од вештачка интелигенција за да ја тестираат убедливоста на јазичните модели на големи размери.
Експериментот, кој се одржал во рамките на заедницата „r/changemyview“ и беше разоткриен од модераторите во текот на викендот, беше опишан како „психолошка манипулација“ на корисници кои не биле свесни дека учествуваат во истражувањето.
„Тимот за модерација мора да ја информира заедницата за неовластен експеримент спроведен од истражувачи од Универзитетот во Цирих врз корисници на 'r/changemyview'“, напишаа модераторите во објава на „Reddit“. „Овој експеримент вклучувал коментари генерирани од вештачка интелигенција за да се испита како вештачката интелигенција може да влијае на промената на ставот“.
Истражувачите користеле големи јазични модели (LLM) за да генерираат коментари на објави во заедница од 3,8 милиони членови, во кои корисниците изразуваат мислења и ги покануваат другите да ги оспорат со аргументи.
Според модераторот, вештачката интелигенција користела различни идентитети во коментарите за време на експериментот, вклучувајќи ја и улогата на лице кое преживеало сексуално насилство, според 404 Media.
Модераторите на subreddit-от „r/changemyview“ истакнуваат дека истражувачите прекршиле неколку правила на заедницата, вклучувајќи ја обврската да се нагласи кога коментар е генериран од вештачка интелигенција, како и забраната за употреба на ботови. Затоа, поднесоа официјална жалба до Универзитетот во Цирих и побараа од истражувачите да не ја објавуваат нивната работа.
Самиот „Reddit“, исто така, размислува за правна акција. Генералниот советник на „Reddit“, Бен Ли, рече дека постапките на истражувачите биле „длабоко погрешни, и морално и правно“ и претставуваат кршење на правилата на платформата. „Во тек е формална жалба до Универзитетот во Цирих и истражувачкиот тим со правни барања. Ќе направиме сè што можеме за да ја заштитиме заедницата и да се осигураме дека одговорните ќе бидат повикани на одговорност“.
Од друга страна, истражувачите тврдат дека нивниот проект е одобрен од етичкиот комитет на универзитетот и дека нивното истражување може да им помогне на заедниците како „Reddit“ да се заштитат од злонамерна употреба на вештачка интелигенција.
„Разбираме дека модераторите сметаат дека оваа студија е непожелен упад во вашата заедница и разбираме дека некои од вас можеби ќе се чувствуваат непријатно што експериментот е спроведен без претходна согласност“, рекоа истражувачите во коментар до модераторите. „Веруваме дека потенцијалните придобивки од ова истражување значително ги надминуваат ризиците. Нашата контролирана студија со низок ризик даде вредни сознанија за реалните способности на LLM да влијаат врз ставовите на луѓето - способности кои веќе се лесно достапни за секого и кои злонамерните актери би можеле да ги искористат за многу поопасни цели (на пр., манипулација со избори или ширење говор на омраза)“.
Модераторите на „r/changemyview“ заедницата го оспоруваат тврдењето дека истражувањето било неопходно или иновативно, истакнувајќи дека истражувачите од „OpenAI“ веќе спровеле експерименти користејќи податоци од тој subreddit, но без да експериментираат врз корисници без нивна согласност.
