Mesterséges intelligencia fut DOS alatt

A Tiny 2.1 nyelvi modell 486-os processzoron és 540 KB memóriával is működik, a válaszokat pedig a PC speakeren keresztül olvassa fel.

Bár a modern mesterséges intelligencia futtatásához általában méregdrága GPU-kra és gigabájtnyi memóriára van szükség, egy fejlesztő bebizonyította, hogy a technológia alapjai a több évtizedes hardvereken is életre kelthetők. WollyMonjac elkészítette a Tiny 2.1 nevet viselő nyelvi modellt, amelyet kifejezetten 486DX és Pentium processzorral szerelt, DOS-t futtató számítógépekre optimalizáltak.

A Turbo C 2.0 nyelven írt szoftver egy 367 000 paraméterrel rendelkező, kérdés-válasz alapú transzformer modell. A Tiny 2.1 egyik legnagyobb technikai bravúrja az erőforrás-igénye: a futtatáshoz mindössze körülbelül 540 KB szabad konvencionális memóriára van szüksége, így a teljes disztribúció kényelmesen elfér egyetlen, nagyjából 1,475 megabájtos floppy lemezen is.

Robot hang és neurális monitor a DOS-ban

A program kezelőfelülete a korszak stílusát idézi, de funkcionálisan meglepően gazdag. A felhasználók egy beszélgetési előzményeket mutató panelen követhetik a diskurzust, miközben egy neurális monitor ablak és egy dedikált „Ask Tiny” beviteli mező segíti az interakciót. A navigációt funkcióbillentyűk (F-gombok) gyorsítják, a válaszokat pedig a PC speakeren keresztül, robot hangon is képes megszólaltatni a rendszer.

A GitHubon közzétett, MIT licenc alatt futó projekt érdekessége, hogy a kódot a leírás szerint a Fable 5.2 írta, a modellt pedig az Opus 5.5 tréningezte. A csomag tartalmaz egy tréning mappát is, így a vállalkozó kedvű felhasználók saját, testreszabott kérdés-válasz transzformert is építhetnek a retro vashoz.

Magabiztos válaszok, korlátolt tudás

Bár a Tiny 2.1 technológiai demonstrációnak kiváló, a fejlesztő óvatosságra int a válaszok pontosságát illetően. WollyMonjac elismerte, hogy a modell a tréningadatain kívül eső témákban hajlamos a hallucinációra, és rendkívül magabiztosan képes teljesen valótlan állításokat megfogalmazni. A projekt így elsősorban a programozási bravúrról és a régi hardverekben rejlő, eddig kiaknázatlan lehetőségekről szól.