Rasszista AI-videók terjedése aggaszt a TikTok-on és YouTube-on
A mesterséges intelligencia és a rasszista felhasználók tevékenységei miatt sokszor úgy érezhetjük magunkat, mintha a Black Mirror disztópikus világába csöppentünk volna. Az emberek hajlamosak arra, hogy ha új technológiákat használnak, gyorsan ártalmas módon alkalmazzák azokat, akár olyan dolgokra is, amelyekre korábban nem volt lehetőségük. A Google Veo 3 nevű AI-videógenerátorát használó egyének között sajnos sokan rasszista tartalmakat készítenek, és ezeket virálisan terjesztik a TikTokon. A techóriások, mint a Google, látszólag próbálnak fellépni a problémák ellen, de a károk már megtörténtek.
A Media Matters nevű médiaszkeptikus szervezet tette közzé azt a megdöbbentő hírt, hogy a TikTokon több milliós nézettséggel bírnak azok a videók, amelyeket valószínűleg a Google által májusban bemutatott Veo 3 generált. Ezek a kisfilmek mindössze 8 másodpercesek, ami megegyezik a Veo 3 technikai korlátjával, de éppen ez a rövidség elegendő ahhoz, hogy a rasszista üzenetek gyorsan eljussanak a fiatal közönséghez. Egyes videók akár 14 millió megtekintést is elértek, ami rendkívül aggasztó, hiszen így a gyűlöletkeltő üzenetek szinte azonnal teret nyernek.
A rövid videókban nem csupán a fekete emberekkel kapcsolatos sztereotípiák bukkannak fel, hanem antiszemita tartalmak, idegengyűlölet és ázsiai emberek karikatúraszerű bemutatása is megfigyelhető. A Google hivatalosan nem kommentálta az ügyet, de a Veo honlapján elvileg olvasható a figyelmeztetés, miszerint „blokkoljuk a káros kéréseket és eredményeket.” Eddig úgy tűnik, hogy ez a blokk nem működött hatékonyan.
A TikTok igyekszik menteni a menthetőt, és állítólag több fiókot is töröltek, köztük olyanokat is, amelyek már a jelentés előtt is tiltva voltak. A platform elvileg küzd a gyűlöletbeszéd és az előítéletes tartalmak ellen, de ebben az esetben valami mégiscsak elcsúszott. A Media Matters által feltárt videók nemcsak a TikTokon, hanem a YouTube-on és az Instagramon is megjelentek, jelezve, hogy a probléma sokkal szélesebb körű, mint gondoltuk.
Jelenleg egy olyan helyzettel állunk szemben, amely egyszerre jelent technológiai áttörést és morális válságot. Egy pár másodperc alatt generált rasszista videó több kárt okozhat, mint amennyi idő szükséges egy mondat elmondásához. A mesterséges intelligencia rengeteg lehetőséget rejt magában, de ha nem áll rendelkezésre megfelelő kontroll, akkor a legrosszabb ösztöneink tükörképe is lehet.
Forrás: eredeti cikk
További friss hírek, napi aktualitások és fontos történések a Napi Hírek webmagazinban.