08/08/2026
Nagyon fontos megérteni, hogy jelenleg hogyan tanul velünk az AI, és milyen jelentősége lehet annak, ha ez megváltozik.
Jelenleg az AI nem tanul folytonosan, hanem legfeljebb szöveges fájlokba menti a tanulságokat, amelyek később bekerülnek a promptba. A mesterséges neurális háló súlyai nem változnak, csak ugyanannak a modellnek bővül a külső memóriája/skillje, ami aztán a következő promptjaiba bekerül.
Nagyon sok probléma szerintem, amiben az llm-ek látványosan gyengébbnek tűnnek az embereknél, arra vezethető vissza, hogy nincs tényleges folytonos tanulás, csak in-context learning.
Egy szinte abszurd módon pontos analógia erre szerintem a Memento című Christopher Nolan-film.
A Memento főhőse Leonard Shelby, aki egy támadás után anterográd amnéziában szenved. Emlékszik a támadás előtti régi életére, de nem tud új hosszú távú emlékeket kialakítani, pár perc után elveszíti, mi történt vele.
Ezért Leonard létrehoz magának egy külső memóriarendszert (ami szinte vicces, hogy mennyire hasonlít a mostani AI harnessekre). Az LLM-ek esetében sem változnak maguk a modell súlyai (nem tanulnak ténylegesen úgy, ahogy Leonard sem), csak folyamatosan változnak az új információk alapján kapott instrukciók és külső memóriák, amelyeket újra és újra megkap ugyanaz az „amnéziás” modell.
A legfontosabb információkat Leonard a testére tetoválja, hogy azok tartósan megmaradjanak számára. Ez gyakorlatilag az ő CLAUDE.md fájlja, a legfontosabb információk és utasítások, amelyeket minden reggel (LLM esetén pedig minden session elején) látni kell. Vannak Polaroidjai és rövid jegyzetei emberekről, és ha releváns, további dokumentumokat is elő tud venni róluk. Ez pedig nagyon hasonló a SKILL.md fájlokhoz, ahol van egy összefoglaló leírás a skillről, és az AI szükség esetén további információkat is beolvashat hozzá. A régi agyi tudása olyan, mint a fix modellsúlyok, amelyek nem változnak. Van egy néhány perces aktuális context window-ja, a testére írt tetoválások a CLAUDE.md, a Polaroidok és rövid összefoglalók a skillleírások, a visszakeresett dokumentumok pedig a skillekhez tartozó további fájlok/memóriafájlok.
És ami szerintem érdekes, hogy sokszor az, amiben haszontalanabbnak vagy gyengébb képességűnek látunk egy llm-et, valójában a folytonos tanulás hiányából fakad.
Például az egyik ilyen gyengeség, hogy viszonylag kiszámítható a stílusuk. Nemrég a Twittert olvasgatva azon gondolkoztam, hogy vajon miért nem nyírja ki teljesen az ilyen platformokat az AI, amely végtelenszer annyi tartalmat képes előállítani. Persze nagyon sok botposzt van, de egy ténylegesen ütős és autentikusabbnak tűnő emberi gondolat még mindig nagyobbat szokott menni. De miért nem tudja ezt az AI egyszerűen lemásolni?
A gond az, hogy hiába lehet szinte végtelen mennyiségű posztot gyártani AI-jal, ezek nem lesznek végtelenül változatosak.
Ezért lesz egy idő után kiszámíthatóan hasonló rengeteg ai-generált poszt vagy landing page design.
Ha belegondolunk Leonard példájába, tegyük fel, hogy lenne egy hozzá hasonló, anterográd amnéziától szenvedő ember, de valami csoda folytán végtelen kapacitása lenne, és annyit dolgozna nekünk, amennyit csak szeretnénk. Mindig ugyanabból az állapotból indulna az aktuális session, de adhatnánk neki egy csomó dokumentumot, amelyeket rendkívül gyorsan el tud olvasni. Természetesen lehetne terelni ezt az embert a dokumentumokkal, illetve saját magának is készíthetne későbbre jegyzeteket. Így folyamatosan bővülne, hogy milyen információkat tud beolvasni ez az anterográd amnéziától szenvedő ember.
De aztán, mivel végtelen a kapacitása, ezt az embert elkezdi egymilliárd ember használni, és mindenhol az ő munkája látható. Az egyetlen különbség, hogy mindenki más utasításokat és dokumentumokat adhat neki. Az, hogy kicsit más van a kontextusában, természetesen változtatja az outputját, de mindig ugyanabból az alapállapotból használjuk, csak más kontextust injektálva. Jelenleg nagyjából itt tartanak az AI-rendszerek.
Így érthető is, hogy különösen látványossá válnak a korlátai azokon a területeken, ahol fontos a stílusbeli változatosság. Ahhoz, hogy megoldjon egy jól verifikálható matematikai vagy mérnöki problémát, gyakran elegendő lehet a jó, amnézia előtti tudása. Viszont ahol éppen a stílusbeli változatosság a lényeg, ott nagyon nehéz néhány utasítással annyira eltéríteni ezt az amnéziás elmét, hogy az outputja felismerhetetlenül eltérjen a másik egymilliárd felhasználóétól.
Szerintem ugyanez történik az LLM-eknél is. Mivel hasonló adateloszlásokból és post-training folyamatokból indulnak ki, a continual learning hiánya miatt pedig nem alakítanak ki saját, egyedi, folyamatosan felhalmozódó stílust és ízlést és meglepően egyedi gondolatokat, egy idő után kiszámíthatóvá és felismerhetővé válhat az outputjuk.
Több kutatás is foglalkozik már a folytonos tanulás olyan lehetséges irányaival, amelyek túlmutatnak az egyszerű in-context learningen. Szerintem ennek a megvalósulása lehet az egyik legérdekesebb kérdés az AI területén a következő időszakban. Ha folyamatosan tudnának változni maguk a modellsúlyok, az akkora ugrást jelenthetne a hasznosságban, hogy akár a most még biztosnak tűnő emberi szerepek is jobban veszélybe kerülhetnének.
Persze óriási kockázat is lenne a folytonos tanulásban, és kérdés, hogy ezt a kockázatot valaha tudják-e vállalni a vezető AI-cégek. Ha visszatérünk a mementós hasonlathoz: ha valaki szándékosan félrevezető információkkal módosította Leonard feljegyzéseit, azzal komoly kárt okozhatott, de magához az agyához nem nyúlt. Az amnézia előtti tudása, személyisége és értékei továbbra is ott voltak. Nagyjából ez a helyzet a mostani LLM-eknél is.
Egy open-weight modellnél viszont fine-tuninggal maguk a modellsúlyok is módosíthatók. Az ilyen modelleket eleve komoly safety post-traininggel szokták kiadni, de open-weight modellnél a súlyok utólag módosíthatók, így ez a védelem sem feltétlenül stabil egy szándékos fine-tuninggal szemben
Viszont ha a legjobb és legnagyobb modelleknél létezne a folytonos tanulás valamilyen formában, az jelenleg úgy tűnik, hogy nagyon kiszámíthatatlan és kockázatos lenne. Most, amikor különösen szigorúan veszik az extrán jó cyber és biológiai képességű modellek kontrollját, nagy kérdés lehet, hogy megvalósítható-e valaha biztonságosan a folytonos tanulás.
Egyébként az embereknél is kockázatos a folytonos tanulás. A gyerekébe is belenevelhet nagyon erős elveket az ember, de sosem garantálhatja, hogy valamilyen későbbi rossz behatás nem változtatja meg úgy, hogy végül rossz irányba induljon el. És hát minden nap emberek millióinak a viselkedése megy el veszélyes irányba. Csak az AI-jal kapcsolatban (érthető módon) sokkal szigorúbbak az elvárásaink. Mivel ez egy rendkívül erősen skálázható technológia, ha valami egyszer félremegy, az nagyon félremehet (bár persze volt néhány ember is a történelemben, aki sajnos fel tudta skálázni a nagyon negatív nézeteinek hatását).
Ettől még, ha történik valamilyen jelentős áttörés az LLM-ek folytonos tanulásában, és ezt biztonságosan meg tudják valósítani, az óriási diszrupciót hozhat.
Viszont szerintem ennek a korlátai nem csak technológiaiak, hanem nagyon erősen biztonsággal/kocskázatvállalással kapcsolatosak. Ha azt akarjuk, hogy az AI tényleg új, akár előre nem kiszámítható dolgokat tanuljon folyamatosan, akkor az valószínűleg azzal is együtt jár, hogy valamennyit fel lesz adva a jelenlegi kontrollból, és nagyobb a kockázat. Ha azt akarjuk, hogy tényleg előre nem specifikált dolgokat tanuljon, akkor kevésbé tudjuk előre specifikálni azt is, hogy mivé fog válni.
