Socialiniai tinklai, naujienų portalai, vaizdo įrašų platformos – šiais laikais informacija pasiekia nuolat ir milžiniškais kiekiais. Sparčiai plinta ir klaidinantis turinys, propaganda bei dezinformacija, o visa tai gali paveikti visuomenės nuomonę, sprendimus ir net elgesį.
Informacinių karų kontekste gebėjimas laiku atpažinti tokias grėsmes tampa vis svarbesnis.
Propagandos mestą iššūkį siekia atremti Vilniaus universiteto Matematikos ir informatikos fakulteto (VU MIF) mokslininkai, kuriantys inovatyvų įrenginį jai aptikti.
Pasitelkdami dirbtinį intelektą (DI) ir hibridinius neuroninius tinklus, tyrėjai kuria sprendimus, kurie leistų greitai ir tiksliai aptikti propagandos bei dezinformacijos srautus lietuvių kalba.
Apie išskirtinį projektą ATSPARA kalbėjomės su jo vadovu prof. dr. Dariumi PLIKYNU.
– Gerbiamas profesoriau, kada supratote, kad Lietuvai reikia tokio įrankio?
– Supratimas neatėjo per vieną dieną. Tai buvo ilgalaikis stebėjimas, kaip hibridinis karas keičia savo formą. Tapo akivaizdu, kad informacijos amžiuje valstybių atsparumas nebėra vien fizinė gynyba nuo išorinių grėsmių: karas pirmiausia prasideda ir yra laimimas arba pralaimimas informacinėje erdvėje.
Stebėjome nerimą keliančius procesus: augančią visuomenės poliarizaciją, nepasitikėjimą institucijomis, „aido kamerų“ formavimąsi.
Ieškodami mokslinių įrankių, kuriais galėtume empiriškai ir automatizuotai vertinti propagandos srautus Lietuvoje, pamatėme, kad tokių lietuviškai kalbančių instrumentų nėra. Supratome, kad valstybė iš esmės ginasi „plika akimi“ ten, kur priešininkas naudoja pažangius algoritmus.
– Kuo ATSPARA skirsis nuo jau egzistuojančių dezinformacijos ir propagandos aptikimo sistemų pasaulyje?
– Dauguma pasaulinių sistemų sukurtos didžiosioms kalboms – anglų, prancūzų, ispanų – ir koncentruojasi tik į paties melo fakto nustatymą.
ATSPARA unikali savo daugiadiscipliniu požiūriu ir pritaikymu specifiniam Baltijos regiono kontekstui.
Mes sukūrėme ne tik pirmąjį lietuvišką anotuotą propagandos tekstyną, bet ir integruotą sistemą: ji sujungia kompiuterinę lingvistiką, dirbtinį intelektą propagandai atpažinti ir socialinių mokslų metodus poveikiui vertinti.
Mūsų tikslas nėra tik pasakyti „tai melas“, mūsų tikslas – įvertinti, kaip ši informacija skatina radikalizaciją ir poliarizaciją konkrečioje visuomenėje.
Ši sistema sukurta remiantis autentiška Baltijos šalių tyrimų metodika, ją perėmė ir Latvijos bei Estijos kolegos. Ji apima ne tik dezinformacijos aptikimą, bet ir jos socialinio poveikio modeliavimą.
Naudodami daugiaagentę sistemą ir didžiuosius kalbos modelius (LLM), galime simuliuoti įvairius informacinio karo scenarijus ir prognozuoti, kaip atskiros propagandos kampanijos paveiks visuomenės sanglaudą. Tai ne tik aptikimo, bet ir ankstyvojo perspėjimo sistemos prototipas.
– Kuo skiriasi propaganda nuo dezinformacijos?
– Dezinformacija yra sąmoningai sukurta klaidinga informacija, faktinis melas.
Propaganda yra gerokai platesnis, sisteminis procesas – tai kryptingas pasaulėžiūros formavimas.
Propaganda gali naudoti dezinformaciją kaip savo sudedamąją dalį, tačiau ji taip pat sėkmingai manipuliuoja ir tikrais faktais, ištraukdama juos iš konteksto ar apipindama, pavyzdžiui, stipriomis emocijomis. Jos galutinis tikslas nėra tik pameluoti – jos siekis yra ardyti visuomenę, kelti nepasitikėjimą ir skaldyti.
Informacinio karo atveju, dezinformacija dažniausiai paremta sąmoningu neteisingų faktų ar argumentų pateikimu, o propaganda – sistemingu smegenų plovimu.
Propagandistui nebūtina sugalvoti melo. Užtenka paimti jautrią visuomenės problemą, užlieti ją baime, pykčiu ar neapykanta, ir nuolat kartoti, kol žmonės nustoja tikėti bet kokiu konstruktyviu sprendimu.
– Kas dirbtinio intelekto sistemai yra sunkiausia – atskirti melą ar manipuliaciją nuo nuomonės?
– Sunkiausia atskirti manipuliaciją nuo asmeninės, teisėtos kritikos.
Melą, jei turi gerą faktų bazę, patikrinti gana nesunku. Tačiau manipuliacija dažnai veikia „pilkojoje zonoje“: tekstas gali būti sudarytas iš visiškai teisingų faktų, bet sumontuotas taip, kad formuotų priešišką naratyvą ir skatintų nepasitikėjimą.
Dirbtiniam intelektui didžiausias iššūkis yra atskirti, kada pilietis tiesiog nuoširdžiai pyksta ant biurokratijos, o kada tai yra koordinuotos operacijos dalis.
„Lietuva – vienintelė Baltijos šalis, kurioje propaganda jaunimą ir vyresnio amžiaus žmones veikia beveik vienodai. Kaimyninėse šalyse skirtumai tarp kartų akivaizdūs.“
Dr. D. Plikynas
Subtilus niuansų ir konteksto suvokimas tebėra mašinų Achilo kulnas. Demokratinėje visuomenėje griežta valdžios kritika yra norma.
DI sistemai nelengva išmokti skirtumo tarp aštraus, bet konstruktyvaus žurnalistinio ar pilietinio teksto, ir propagandinio turinio, kuris naudoja tas pačias temas (pavyzdžiui, migraciją ar ekonomines bėdas), tačiau su destruktyviu tikslu – sėti sąmokslo teorijas.
Tam mes ir taikome pažangius daugiakalbius transformerių modelius, kad DI išmoktų matyti gilesnius semantinius braižus.
– Ar įrankis galės veikti realiuoju laiku, stebėdamas informacijos srautus?
– Taip, siekiame operatyvumo, nes kovoje su propaganda laikas yra kritiškai svarbus veiksnys. Tyrimai rodo, kad dažniausiai į informacines atakas reaguojama pavėluotai – atsakas atsiranda tik po to, kai žinutė jau būna išplitusi ir destruktyvus poveikis jau padarytas. Tada net ir paneigimas veikia silpnai.
– O nekyla pavojus, kad tokie įrankiai vieną dieną gali būti panaudoti cenzūrai? Kaip užtikrinti, kad sistema netaptų politiškai šališka?
– Tokio pavojaus išvengti padeda pati sistemos paskirtis – tai analitinis, o ne baudžiamasis įrankis. Mūsų tikslas nėra kurti automatizuotus „trintukus“, kurie blokuotų turinį ar varžytų žodžio laisvę. ATSPARA skirta diagnostikai: ji padeda atpažinti propagandos technikas, suprasti sklaidos mechanizmus ir vertinti poveikį socialiniam kapitalui.
Sprendimus dėl reakcijos ar komunikacijos priims žmonės – žiniasklaida, analitikai, strateginės komunikacijos specialistai, o ne algoritmai. Mūsų atsparumo vizija – ne cenzūra, o visuomenės gebėjimas suprasti, kaip ja bandoma manipuliuoti.
Demokratinėje valstybėje kova su propaganda niekada neturi virsti cenzūra, nes tai būtų kapituliacija. Mūsų kuriami įrankiai skirti šviesti ir perspėti, suteikiant viešą gėrybę – žinias.
Geriausias ginklas prieš propagandą yra ne ištrinta žinutė, o kritiškai mąstantis pilietis, kuris atpažįsta, kad jį bandoma įaudrinti ir juo manipuliuoti.
– Gali DI suklysti ir propagandą įžvelgti ten, kur jos nėra?
– Be abejo, dirbtinis intelektas nėra neklystantis orakulas. Ypač tokiose srityse kaip natūralios kalbos apdorojimas, kur gausu ironijos, sarkazmo ar sudėtingų kontekstų, mašinos kartais „mato“ vaiduoklius. Būtent dėl šio algoritmų netobulumo sistema kuriama kaip pagalbinis instrumentas žmogui analitikui, o ne kaip galutinis arbitras. Eksperto įžvalga ir kritinis vertinimas visada bus esminis saugiklis interpretuojant sistemos pateiktus signalus.
Kaip ir kiekvienas įrankis, DI turi savo paklaidas, tačiau verta pažiūrėti į tai kaip į rentgeno aparatą medicinoje: kartais jis gali parodyti dėmę, kuri nėra liga, bet geriau patikrinti ir įsitikinti, nei praleisti tikrą naviką. Mūsų išmokyti mašininio mokymosi algoritmai dabar geba atpažinti apie 80 proc. dezinformacinių naratyvų ir propagandinių technikų. Likę procentai sudaro tą „pilkąją zoną“, kurioje visada bus reikalingas žmogaus – žurnalisto, mokslininko ar analitiko – vertinimas.
– Ar propaganda laimi todėl, kad yra gudri, ar todėl, kad žmonės pavargo galvoti?
– Abi priežastys veikia išvien ir sudaro itin toksišką kombinaciją. Šiuolaikinė propaganda veikia kaip prisitaikantis virusas – ji nėra buka ir primityvi. Ji išnaudoja realias visuomenės įtampas, istorines nuoskaudas ir socialines problemas.
Mūsų tyrimas parodė, kad Lietuvos visuomenė yra labai aktyvi socialiniuose tinkluose – mes mėgstame dalintis ir komentuoti, tačiau esame mažiau kritiški ir daug rečiau tikriname šaltinius nei, pavyzdžiui, estai. Taigi, emocinis skubotumas tampa geriausiu propagandos sąjungininku.
Propaganda laimi, nes ji puikiai išmoko manipuliuoti mūsų nuovargiu ir emocijomis. Ji dažnai nesiūlo atviros meilės autoritarizmui, bet tiesiog sustiprina jau esantį mūsų nepasitenkinimą biurokratija ar nuovargį nuo kasdienių problemų.
Lietuvoje žmonės linkę impulsyviai persiųsti informaciją, užuot ją kritiškai įvertinę. Kai naratyvai strategiškai taikosi į baimes, tokias kaip migracija, ekonomika, ir mes esame per daug pavargę ieškoti pirminių šaltinių, tokia subtili, išmaniai sukonstruota propaganda randa puikią terpę plisti.
– Lietuvoje vis dar dominuoja klasikinė kremliaus propaganda ar matote naujų formų?
– Tiesmuka, klasikinė prorusiška propaganda mūsų regione veikia vis silpniau. Mūsų tyrimai atskleidė, kad aiškiai atviros autoritarinės retorikos priėmimas yra žemas.
Kur kas sėkmingesnė ir pavojingesnė yra subtilioji propaganda – kritika, nukreipta į Vakarų ar Europos Sąjungos institucijas, vertybinius nesutarimus, vadinamąjį moralinį nuosmukį.
Tai yra naujos formos, kurios įsišaknija kasdieniuose vietiniuose rūpesčiuose, išnaudoja mūsų pačių silpnybes ir todėl tampa nepalyginamai paveikesnės nei primityvus maskvos šlovinimas.
Hibridinis karas nuolat evoliucionuoja. Propagandos ašmenys nusisuko nuo teiginių „kaip ten gerai“ prie teiginių „kaip čia viskas blogai“.
Dažniausiai siekiama ardyti pasitikėjimą nacionalinėmis institucijomis, Europos Sąjunga ir pačia demokratijos idėja. Tam pasitelkiamos išmaniosios technologijos: dirbtinio intelekto kuriamas individualizuotas turinys, botų tinklai, infiltracija į bendruomenes. Klasikinę televizijos propagandą vis dažniau keičia „Telegram“, „TikTok“ ar uždaros „Facebook“ grupės, kur žinutės skirstomos pagal amžių ir pažiūras.
– Kokie propagandos naratyvai šiuo metu Lietuvoje plinta sėkmingiausiai? Kas jus labiausiai nustebino analizuojant tekstus?
– Bene labiausiai nustebinęs atradimas – Lietuvos amžiaus pjūvis.
Lietuva yra vienintelė Baltijos šalis, kurioje propaganda jaunimą ir vyresnio amžiaus žmones veikia beveik vienodai, o kaimyninėse šalyse skirtumai tarp kartų akivaizdūs. Pavyzdžiui, Estijoje jaunimas daug atsparesnis.
Sėkmingiausia dezinformacija ta, kuri remiasi mūsų natūraliomis baimėmis – migracijos krizės eskalavimas, informacijos apie karą iškraipymas, Lietuvos kaip „nepavykusio projekto“ vaizdavimas.
Nustebino ir kitas faktas: kaimo bei miestų gyventojų atskirtis. Kaimo vietovių gyventojai Lietuvoje daug rečiau tikrina šaltinius ir yra pastebimai lengviau pažeidžiami manipuliacijų – šis atotrūkis tarp miesto ir kaimo pas mus yra didžiausias visose trijose Baltijos šalyse.
– Ar generatyvinis DI, kaip ChatGPT, padarė propagandą pavojingesnę?
– Be menkiausios abejonės! Generatyvinis DI veikia kaip didžiulis efektyvumo daugiklis priešiškoms jėgoms. Anksčiau reikėjo armijos trolių, kad būtų parašyti tūkstančiai komentarų ar straipsnių su gramatinėmis klaidomis. Dabar – vieno mygtuko paspaudimu generuojamas masiškas, taisyklingas, skirtingoms auditorijoms pritaikytas turinys.
Informacinės atakos tapo greitesnės, sudėtingesnės, puikiai užmaskuotos ir kur kas pigesnės, o tai labai apsunkina tradicinių faktų tikrintojų darbą.
Generatyvinis DI atidarė Pandoros skrynią informaciniame kare. Propagandos kūrimas tapo pramone. Būtent dėl šios priežasties mes nebegalime kliautis vien žmogaus protu – priešo technologiniam pranašumui atsverti būtina naudoti ne mažiau išmanias mūsų pačių ginamąsias dirbtinio intelekto sistemas.
– Kaip manote, kas laimės lenktynes: DI, kuriantis propagandą, ar DI, kuris ją gaudo?
– Šiuo metu stebime klasikines ginklavimosi varžybas informacinių technologijų erdvėje. Puolamoji pusė dažnai turi trumpalaikį pranašumą, nes melą ir chaosą sukurti visada lengviau ir pigiau, nei įrodyti tiesą.
Tačiau ilguoju laikotarpiu gynybai skirtas DI (radaras) tampa vis tobulesnis. Tikrasis laimėtojas priklausys ne vien nuo algoritmų galios, bet ir nuo visuomenės – kaip greitai institucijos, žurnalistai ir piliečiai įsisavins šiuos analitinius įrankius ir pavers juos savo kasdienės informacinės higienos dalimi. Technologija neapsaugos mūsų, jei atsisakysime mąstyti.
Laimės ta visuomenė, kuri neleis propagandai savęs suparalyžiuoti.
– Jūs kada nors buvote apsigavęs dėl dezinformacijos?
– Būtų nenuoširdu teigti, kad mokslininkai yra atsparūs visiems propagandiniams triukams. Kiekvienas iš mūsų galime būti pagautas nuovargio ar stiprios emocijos akimirką, kai informacija staiga rezonuoja su giliu įsitikinimu ar pykčiu.
Tai tik įrodo, koks efektyvus ir rafinuotas yra šiuolaikinės manipuliacijos menas. Tačiau profesionalus įprotis tikrinti šaltinius ir suprasti propagandos mechaniką leidžia greitai atpažinti klaidą ir nepasiduoti pirminiam impulsui ta informacija dalintis su kitais.
Propagandos kūrėjai naudoja aukščiausio lygio psichologijos ir rinkodaros metodus. Momentinė emocinė reakcija – ypač į žinutes, patvirtinančias mūsų pačių išankstines nuostatas, yra labai žmogiška.
Pagrindinė pamoka iš tokių asmeninių patirčių yra ta, kad net intelektualai ir mokslininkai privalo nuolat išlaikyti informacinę higieną, nepasitikėti vienu šaltiniu ir pripažinti, jog visi mes esame taikiniai šiame nematomame fronte.
– Kokį propagandos pavyzdį laikote vienu pavojingiausių Lietuvoje per pastarąjį dešimtmetį?
– Pavojingiausi yra tie naratyvai, kurie sistemingai ir ilgai kėsinasi į pasitikėjimą valstybingumu bei institucijomis, ypač pabrėždami tariamą nepavykusios valstybės vaizdinį.
Šios žinutės neskelbia, kad užsienyje geriau, jos skiepija nihilizmą: „nėra prasmės gintis“, „visur korupcija“, „mūsų interesai aukojami“.
Kai ši emocija apima kritinę visuomenės masę, griūva valstybės demokratinis imunitetas ir gebėjimas mobilizuotis krizės atveju – tai tiesioginė grėsmė nacionaliniam saugumui.
– Jei galėtumėte visuomenei perduoti vieną taisyklę, padedančią atpažinti melą internete, kokia ji būtų?
– Mano patarimas būtų labai paprastas: jeigu perskaičius straipsnį, įrašą ar pamačius vaizdo įrašą apima staigus, sunkiai valdomas pyktis, baimė arba stiprus pasipiktinimas – sustokite ir giliai įkvėpkite.
Būtent emocinis disbalansas yra pagrindinis signalas, kad kažkas bando „nulaužti“ jūsų kritinį mąstymą.
Prieš spausdami „dalintis“, skirkite bent penkias minutes patikrinti informaciją alternatyviuose, patikimuose šaltiniuose – žiniasklaidoje ar faktų patikros portaluose. Tai yra pagrindinė asmeninės informacinės higienos taisyklė.
Mūsų tyrimai aiškiai rodo, kad didžiausias propagandos sklaidos daugiklis yra impulsyvus informacijos persiuntimas socialiniuose tinkluose.
Visada užduokite tris esminius klausimus: Kas yra šios informacijos autorius? Koks gali būti tikrasis jo tikslas? Ar ši informacija pagrįsta faktais, ar tik manipuliuoja mano jausmais?
Kritinis skepticizmas, o ne aklas patiklumas turi tapti kiekvieno interneto vartotojo norma.
– Jeigu ATSPARA veiktų idealiai, ar tai reikštų, kad propagandos problema išspręsta? Ar vis dėlto didžiausia problema yra ne technologijos, o žmonių noras tikėti tuo, kuo patogu?
– Kad ir koks tobulas būtų ATSPARA įrankis ar mūsų sukurti algoritmai, tai tik diagnostikos mechanizmas, padedantis laiku atpažinti grėsmę.
Propagandos problema yra sociokultūrinė, o ne vien technologinė. Didžiausias iššūkis yra pačiose visuomenėse – kol egzistuos atskirtis, skurdas, pasitikėjimo deficitas ir žmonių noras tikėti patogiomis sąmokslo teorijomis, propaganda turės kur plisti.
ATSPARA parodo, kur yra pažeidžiamumas, bet žaizdą gydyti – stiprinti demokratiją ir socialinę sanglaudą – turi pati valstybė ir jos piliečiai.
Technologinė utopija šiuo atveju negalima. Tobulas įrankis neleis prasmukti nė vienam propagandos naratyvui, tačiau jis neprideda žmogui kritinio mąstymo.
Kaip rodo mūsų tyrimai, radikalizacija formuojasi „aido kamerose“, kur net atpažintas melas dažnai priimamas kaip patogi tiesa dėl nusivylimo sistema.
Propagandos problemos neišspręsime tik technologijomis tol, kol rasime priešnuodį giluminėms visuomenės poliarizacijos ir susvetimėjimo priežastims.
ATSPARA – tai tarsi kompasas rūke, bet koks bus maršrutas, spręsti turėsime patys.
– Ačiū už pokalbį.
