LLM jelentése

Az LLM, teljes nevén Large Language Model, magyarul nagy nyelvi modell, olyan mesterségesintelligencia-modell, amelyet nagyon nagy mennyiségű szövegen tanítottak. A működése lényegében a következő token előrejelzése: a modell a bemenet alapján kiszámolja, milyen szövegrész következik a legvalószínűbben, és így építi fel a választ tokenről tokenre.

Ismert LLM-családok: az OpenAI GPT-modelljei, az Anthropic Claude-ja, a Google Geminije és a Meta Llamája.

Mire jó, hol találkozol vele

Az LLM-ek állnak a chatbotok, az AI-asszisztensek, a kódolóeszközök és az AI-alapú keresők mögött. Szöveget foglalnak össze, fordítanak, írnak, kódot generálnak, és eszközökkel kiegészítve ügynökként is dolgozhatnak.

Néhány dolgot érdemes szem előtt tartani:

• Az LLM nem adatbázis. Magabiztosan írhat le olyat is, ami nem igaz, ezért a tényeket ellenőrizni kell.
• A tudása egy adott időpontig tart, frissebb információt csak keresésből vagy a megadott dokumentumokból tud.
• Kisebb, nyílt modellek akár saját gépen is futtathatók, így az adatok nem hagyják el a gépet.

Bővebben: Local LLM: otthoni gépen futtatható nagy nyelvi modellek