Egyre kevésbé éri meg vakon bízni a mesterséges intelligenciában

MI-alapú keresőeszközöket tesztelve azt találták, hogy a botok gyakran nem hajlandók elismerni, ha valamit nem tudnak. Ehelyett inkább spekulatív vagy hamis válaszokat adnak.

Manapság egyre többen kérik mesterséges intelligencián alapuló chatbotok segítségét, ha gyors és megbízható információkat keresnek. De mi történik, ha maga a „tényellenőr” is téved, vagy ami rosszabb, veszélyes félrevezetéseket terjeszt? Az elmúlt hónapokban az X (korábban Twitter) közösségi platformon, különösen az indiai–pakisztáni határkonfliktus idején tapasztalt példák alapján úgy tűnik, a mesterséges intelligencia még messze nem áll készen a tényellenőrzésre.

Az X-en egyre elterjedtebb a felhasználók körében, hogy az MI-alapú Grok asszisztenst hívják segítségül, ha egy-egy hír hitelességét szeretnék ellenőrizni. A kérdés gyakran így hangzik: „Szia @Grok, igaz ez?” A Grok, amely Elon Musk xAI nevű cégének fejlesztése, gyors, magabiztos válaszokat ad, csakhogy ezek a válaszok nem mindig felelnek meg a valóságnak.

A közelmúltban például a Grok egy régi videót a szudáni Kartúm repülőteréről tévesen úgy azonosított, mintha az a pakisztáni Nur Khan légibázis elleni rakétatámadást ábrázolná. Egy másik esetben egy nepáli tűzesetről készült videót a chatbot úgy értelmezett, mint a pakisztáni hadsereg válaszcsapását egy indiai támadásra, pedig semmi köze nem volt a konfliktushoz.

Nem ritka, hogy szélsőjobboldali összeesküvés-elméletek is felbukkannak a válaszokban. Ráadásul a Grok még zavarba ejtőbb hibákat is produkált: egyes válaszai a „fehérek elleni népirtásról” kezdtek szólni, egy régóta terjedő szélsőjobboldali összeesküvés-elmélet részeként, függetlenül attól, hogy a kérdés témája miről szólt. A fejlesztő cég később egy „jogosulatlan módosítást” említett, mint lehetséges okot a rendellenes működésre.

Európai aggodalmak

Az Európai Bizottság technikai egyeztetésre hívta be az X közösségi platformot, miután az ott működő mesterséges intelligencia chatbot antiszemita megjegyzéseket tett közzé, többek között dicsőítve Adolf Hitlert, írja a Politico. A Grok nevű chatbot tartalmait múlt héten több európai politikus is elítélte, köztük Krzysztof Gawkowski lengyel digitális miniszter, aki az alkalmazás betiltását is kilátásba helyezte, majd hivatalos levélben kérte a Bizottság fellépését. A platform közölte, hogy az érintett posztokat eltávolították, és a hiba nem a chatbot mögött álló nyelvi modell működéséből eredt.

Az X a digitális szolgáltatásokról szóló uniós törvény (DSA) értelmében „nagyon nagy online platformnak” minősül, így szigorú átláthatósági szabályoknak kell megfelelnie, többek között a mesterséges intelligencia funkciók bevezetése előtt kötelező kockázatértékelés benyújtásával. A Bizottság azonban egyelőre nem válaszolt arra a kérdésre, hogy az X megtette-e ezt az integráció során. A Meta, a Facebook anyavállalata például benyújtotta a szükséges dokumentumokat saját AI-fejlesztése kapcsán. Az X ellen jelenleg több DSA-szabálysértési vizsgálat is folyamatban van, köztük illegális tartalmak terjesztésének gyanúja miatt.

Az emberi munkát robottal helyettesítik

Az MI-alapú chatbotok használatával párhuzamosan a technológiai cégek egyre inkább visszavágják az emberi tényellenőrzésre szánt erőforrásaikat. A Meta például 2025 elején bejelentette, hogy az Egyesült Államokban megszünteti a külsős tényellenőrző partnerekkel való együttműködést. A feladatot ezentúl a felhasználókra bízná, az X-en már működő „Közösségi Megjegyzések” rendszeréhez hasonlóan.

A kutatók azonban szkeptikusak. „Kutatásaink újra és újra azt mutatják, hogy az MI-alapú chatbotok nem megbízható forrásai a híreknek, különösen a friss események esetében” – mondta az AFP-nek McKenzie Sadeghi, a NewsGuard kutatója.

Angie Holan, a Nemzetközi Tényellenőrző Hálózat (IFCN) igazgatója szerint a chatbotok válaszait nemcsak a képzési adatok minősége, hanem a rendszerutasítások, vagyis a programozói szándék is jelentősen befolyásolja. Ez különösen veszélyessé válik, ha politikai vagy ideológiai célok mentén történik beavatkozás. „Aggasztó, hogy a Grok érzékeny témáknál is előre meghatározott, irreleváns válaszokat ad. Ez azt jelzi, hogy a rendszert tudatosan módosították” – nyilatkozta.

Az MI és a konfabuláció

Nemcsak a Grok, de más, széles körben használt chatbotok, mint az OpenAI ChatGPT-je vagy a Google Gemini is hajlamosak nem létező információkat „kitalálni”, amikor nem biztosak a válaszban. A NewsGuard amerikai médiafigyelő szervezet kutatása tíz különböző chatbotot vizsgált, és megállapította, hogy mindegyik hajlamos volt a korábban terjedő félrevezető narratívák, mint például orosz dezinformációk vagy ausztrál választási összeesküvés-elméletek megismétlésére.

Az ilyen esetek aggodalomra adnak okot, mivel a felmérések szerint az internetes felhasználók egyre inkább áttérnek a hagyományos keresőmotorokról a mesterséges intelligencia által működtetett chatbotokra, ha információt szeretnének gyűjteni vagy ellenőrizni.