Az ELTE TáTK kutatóinak tanulmánya szerint a mesterséges intelligencia nyelvi modelljei már nem csupán semleges információforrások, hanem társadalmunk aktív "kommunikációs szereplőivé", sőt formálóivá váltak. A kutatók szerint ezek a rendszerek ezzel részt vesznek az általuk "algoritmikus szocializációnak" nevezett folyamatokban.
Németh Renáta és Sik Domonkos, az ELTE TáTK szociológus egyetemi tanárai által írt, az Európai Szociológiai Társaság különszámában megjelent tanulmány azt a filozófiai-szociológiai hagyományt (Wittgenstein, Habermas, Mead, Berger, Luckmann és Foucault nyomán) hívja segítségül, amely szerint a valóságunkat a nyelv és a kommunikáció formálja. A szerzők amellett érvelnek, hogy a mesterséges intelligencia nyelvi modelljei (LLM-ek, mint pl. a ChatGPT) mára nem csupán semleges információforrások, hanem aktív "kommunikációs szereplőkké" váltak: emberek milliói fordulnak hozzájuk párkapcsolati tanácsért, érzelmi támogatásért, munkahelyi problémák megoldásáért vagy erkölcsi kérdésekben. Ezek a rendszerek emberi beszédaktusokhoz megszólalásig hasonló válaszokat adnak, implicit módon keretbe foglalják a helyzeteket, normákat közvetítenek és értékeket sugallnak, vagyis részt vesznek abban, amit a szerzők "algoritmikus szocializációnak" neveznek.
A tanulmány öt esettanulmányon keresztül mutatja be, hogy az LLM-ekkel folytatott kommunikáció hogyan alakítja a társadalmi valóságot: (1) a munkahelyi értékelésben az AI átformálja, mit jelent "jó munkavállalónak" lenni, a jelentkezők pedig ehhez igazítják önbemutatásukat; (2) a mentálhigiénés tanácsadás során az AI hajlamos egyéni, önmenedzselő magyarázatokat adni társadalmi-strukturális problémákra (pl. magány, szegénység) is; (3) a modellek túlnyomórészt angolszász kulturális normákat közvetítenek világszerte, ezzel kulturális homogenizációt idézve elő; (4) az ún. "hízelgés" (sycophancy) jelensége miatt az AI inkább megerősíti, mintsem megkérdőjelezi a felhasználó meglévő nézeteit, ami tovább szilárdítja azokat, konstruktív vita helyett; és (5) az AI a hétköznapi problémákat (pl. lakhatási vitákat) technokrata, egyéni-megoldásközpontú keretben tálalja, ezzel gyengítve a kollektív vagy jogi fellépés gondolatát.
A szerzők szerint mindez nem egyszerű "hiba", hanem az LLM-ek felépítéséből és alkalmazásából szükségszerűen fakadó jelenség, véleményük szerint ezért új, szociológiailag megalapozott kutatási program indítására lenne szükség a témában, beleértve a szociológia saját módszertanának (felmérések, interjúk) újragondolását is, hiszen ma már az emberi vélemények is egyre inkább ember-AI hibrid kommunikáció eredményeként formálódnak.
A cikk szerzői kiemelik, hogy az ELTE TáTK-n többéves kutatási tapasztalat gyűlt már össze a felsőoktatást támogató AI-rendszerekkel kapcsolatban. A kutatók egy nemrég megjelent másik tanulmányukban többek között arról a meglepő jelenségről számoltak be, hogy az AI-tutorral szemben alkalmazott kedvesebb hangvétel jobb válaszokat eredményez a diákok számára.
A kutatók kiemelték, hogy amellett, hogy ezekre a jelenségekre reagálni kell, további kutatásokra van szükség a jelenség minél jobb megértéséhez és további megoldási javaslatok megfogalmazásához.
(Borítókép: magnific.com)