Сериозен алгоритамски пропуст – насилни и експлицитни видеа во "Reels"

"Instagram" се соочи со неочекуван проблем што резултираше со масовно прикажување на експлицитни видеа, кои никако не требаше да бидат дел од алгоритмот на оваа платформа.

Компанијата "Meta" издаде официјално соопштение, во кое објасни дека техничка грешка довела до тоа некои корисници да гледаат содржини во својот "Reels" фид што воопшто не биле наменети за препорака.

Гневна реакција на корисниците

Реакциите беа брзи и бурни. На социјалните мрежи и форумите како "Reddit", луѓето почнаа масовно да ги споделуваат своите загрижувачки искуства.

Многумина се пожалија дека нивните фидови биле преплавени со насилни и сексуални содржини.

Еден корисник раскажа како налетал на видеа за училишни масакри и убиства, додека други пријавиле уште позагрижувачки содржини – снимки од убоди со нож, обезглавувања, па дури и експлицитна порнографија и сцени на силување.

Најшокантно од сè е што некои корисници, и покрај активираните филтри за чувствителна содржина, сепак биле изложени на овие вознемирувачки видеа.

Грешка во алгоритмот – зголемена загриженост за безбедноста на платформата

Како и другите социјални мрежи, "Instagram" користи алгоритми за да прикажува содржини врз основа на претходните интеракции на корисниците, нивните лајкови и коментари.

Но, овој пат грешката овозможила дури и оние што никогаш не реагирале на ваков тип содржина да бидат изложени на насилни и експлицитни видеа, што предизвикува сериозна загриженост во врска со сигурноста и интегритетот на платформата.

Како настанала оваа грешка?

Иако "Meta" не откри конкретни детали за причината, јасно е дека содржините што се појавувале воопшто не требало да бидат дел од препораките на "Instagram".

Бидејќи многу од овие видеа директно ги кршат правилата на платформата, кои забрануваат насилство, порнографија и вознемирувачки содржини, се поставува прашањето како ваков пропуст воопшто бил можен.

Зголемена одговорност на социјалните мрежи

Социјалните мрежи веќе долго време носат голема одговорност за контролирање на содржините што се објавуваат на нив.

Овој инцидент е уште еден алармантен потсетник дека алгоритмите мора да бидат под строг надзор.

Корисниците сега бараат од "Meta" не само брзо да ја поправи оваа грешка, туку и да овозможи поголема контрола врз содржините што им се прикажуваат.

Притисокот за зголемена транспарентност и одговорност на платформите расте, бидејќи вакви алгоритамски грешки можат значително да влијаат врз секојдневната онлајн интеракција на луѓето.