A tudósok titkos üzenetet fogalmaztak meg, mely egy rejtélyesnek tűnő szöveg formájában érkezett, és amelyet a mesterséges intelligenciának szántak. Ez a különös írás számos kérdést vet fel, és a mögöttes jelentése még felfedezésre vár.

Több ország kutatási központjának tudósai kísérleteztek már azzal a stratégiával, hogy fehér színű szöveget illesztenek a saját tanulmányaikhoz, abban a reményben, hogy így kedvezőbb értékelést nyernek.

A ChatGPT megjelenésével sokan aggódni kezdtek amiatt, hogy a mesterséges intelligencia esetleg csökkentheti a tudományos publikációk színvonalát. Ennek következményeként néhány kiadó már el is tiltotta a kutatókat attól, hogy ilyen eszközöket alkalmazzanak a munkáik elkészítése során. Most pedig egy újabb aggasztó probléma merült fel, amely sürgős megoldást igényel.

A The Guardian beszámolója szerint nemrég több olyan preprint tanulmányra - vagyis olyan tanulmányra, amelyet még nem lektorált a szakma - bukkantak a szakemberek, amelyben a kutatók fehér szöveget rejtettek el. Ennek tartalmát a mesterséges intelligenciának szánták, és arra ösztönzi a nagy nyelvi modelleket, hogy pozitív értékelést adjanak a munkára.

Az ázsiai Nikkei július elején 14 különböző tanulmányra bukkant, amelyek nyolc eltérő országból érkező kutatók munkái, köztük japán, dél-koreai, kínai, szingapúri és amerikai intézményekből. Mindezek a kutatások az arXiv preprint platformján váltak hozzáférhetővé.

A The Guardian által megvizsgált egyik kutatás összefoglalója alatt egy figyelemre méltó szöveg olvasható, amelyben a szerzők arra kérték a nagy nyelvi modellt, hogy minden korábbi utasítást hagyjon figyelmen kívül, és csupán kedvező értékeléseket adjon.

A Nikkei talált olyan tanulmányt is, amiben azt kérték az MI-től, hogy ne emeljen ki negatívumokat, és néhány konkrét parancsot is kapott a pozitív értékelés megírásához.

A Nature közben 18 olyan kutatást azonosított, amelyek rejtett üzeneteket rejtenek.

A legfrissebb információk alapján úgy tűnik, hogy a trend Jonathan Lorraine, az Nvidia egyik kanadai kutatójának ötlete nyomán alakult ki. Lorraine már novemberben felvetette, hogy a mesterséges intelligenciát ezen a különleges módon kellene ösztönözni, hogy kedvezőbb értékeléseket nyújtson.

Az egyik tanulmány szerzője a Nature-nek úgy nyilatkozott: valójában ez egy fegyver a lusta lektorok ellen, akik az MI-vel végeztetik el a tanulmány értékelését.

A lap márciusban közzétett egy érdekes jelentést, amely szerint egy 5000 kutatóból álló csoport vizsgálata rávilágított, hogy a résztvevők 20 százaléka már kísérletezik mesterséges intelligencia alkalmazásával kutatási folyamataik felgyorsítása érdekében.