Chatbotok téves információi veszélyeztetik a felhasználók biztonságát
A Netcraft, egy információbiztonsági cége, figyelmeztetett arra, hogy a chatbotok által közölt valótlan állítások komoly veszélyeket jelentenek a kibertérben. A mesterséges intelligencia „hallucinációja” — vagyis az a jelenség, amikor a gép valótlanságokat állít tényszerű információként — továbbra is megoldatlan probléma. A legújabb kutatások alapján a GPT-4.1 chatbot csupán 66%-os pontossággal ad helyes válaszokat a vállalatok hivatalos weboldalaival kapcsolatban. Aggasztó, hogy 29%-ban nem létező vagy felfüggesztett weboldalakra irányít, míg 5%-ban téves címeket ajánl. Ez a jelenség különösen aggasztó, mivel a felhasználók egyre inkább támaszkodnak a chatbotokra és a mesterséges intelligencia által generált összefoglalókra, amikor információt keresnek. A Netcraft egy konkrét esetre is felhívta a figyelmet: a Perplexity MI-kereső a Wells Fargo bejelentkezési oldalát egy adathalász webhelyre irányította, ami lehetővé teszi a csalók számára, hogy kihasználják a mesterséges intelligencia hibáit. Ezzel célzottan hamis oldalakat hozhatnak létre, amelyeket a chatbotok tényként közvetítenek a gyanútlan felhasználók felé, növelve ezzel a kiberbűnözés kockázatát és a felhasználók adatainak biztonságát veszélyeztetve. Az ilyen jelenségek világosan mutatják, hogy a technológiai fejlődés mellett elengedhetetlen a megfelelő védelmi intézkedések kidolgozása és a felhasználók tájékoztatása a lehetséges veszélyekről.
Forrás: eredeti cikk
További friss hírek, napi aktualitások és fontos történések a Napi Hírek webmagazinban.
