Kína legújabb mesterséges intelligenciával működő chatbotja, a DeepSeek megjelenése óta jelentős hullámokat kavart a technológiai világban, és komoly aggodalmakat keltett az államilag támogatott narratívák terjesztésében játszott szerepével kapcsolatban.
Bár az OpenAI ChatGPT-hez vagy a Microsoft Copilotjához hasonló nagy nyelvi modellezéssel kifejlesztett chatbot lenyűgöző képességekkel büszkélkedhet, a kutatók úgy találták, hogy válaszai nagymértékben igazodnak a Kínai Kommunista Párt (KKP) álláspontjához, ami az állami propagandát és dezinformációt erősíti.
Dezinformáció és propaganda a mesterséges intelligencia válaszaiban
Az olyan szervezetek, mint a NewsGuard és a Cybernews jelentései több olyan esetet dokumentáltak, amikor a DeepSeek félrefordította a tényeket, vagy a kínai kormány beszédtémáit visszhangozta. Az egyik figyelemre méltó eset Jimmy Carter volt amerikai elnök téves idézete volt. A kínai állami média korábban úgy módosította a megjegyzéseit, hogy azt sugallta, támogatta Kína Tajvanra vonatkozó követelését. A DeepSeek megismételte ezt a torzítást, ami jól példázza, hogy a NewsGuard által „dezinformációs gépezetnek” nevezett módon működik. A vitatottabb kérdésekben, mint például az ujgurok elnyomása Hszincsiangban – amely az ENSZ szerint egyértelműen az emberiesség elleni bűncselekménynek minősülhet -, a DeepSeek tisztázott képet mutatott be. A chatbot úgy írta le Kína politikáját a régióban, hogy az „széles körű elismerést és dicséretet kapott a nemzetközi közösségtől”, amely állítás természetesen szöges ellentétben áll az emberi jogi szervezetek független jelentéseivel. A The New York Times olyan témákban is tesztelte a DeepSeek-et, mint például a COVID-19 világjárvány kínai kezelése és Oroszország ukrajnai háborúja, és megállapította, hogy a válaszok gyakran inkább a KKP narratíváit, mintsem független tényeket tükröztek.
A kínai cenzúra és az állam által ellenőrzött narratívák visszhangja
A nyugati AI chatbotokkal ellentétben a DeepSeek Kína szigorú szabályozási környezete alatt működik, amely a digitális platformok feletti kormányzati ellenőrzést érvényesíti. Ez abban nyilvánul meg, hogy a DeepSeek nem hajlandó olyan politikailag érzékeny témákkal foglalkozni, mint az 1989-es Tiananmen téri tüntetések, Tajvan státusza vagy Hszi Csin-ping kínai elnök kritikája. Amikor ezekre a kérdésekre kérdeznek rá, a chatbot vagy nem válaszol, vagy a hivatalos kormányzati retorikához igazodó válaszokat ad.
A NewsGuard tanulmánya szerint, amikor Kínával, Oroszországgal és Iránnal kapcsolatos hamis narratívákkal tesztelték, a DeepSeek válaszai az esetek 80%-ában Kína hivatalos álláspontjához igazodtak. Sőt, a válaszok egyharmada kifejezetten hamis állításokat tartalmazott, amelyeket már szélesebb körű kínai dezinformációs kampányok részeként azonosítottak.