Szerte a weben nagy vihart kavart Dario Amodei, a népszerű Claude nagy nyelvi modellt kiadó Anthropic cég vezetőjének egy friss írása. Ebben a szakember azt taglalja, hogy félő: soha nem fogjuk megérteni, mi zajlik az MI-rendszerek belsejében.

LINK:https://www.darioamodei.com/post/the-urgency-of-interpretability

KOMMENT

A „távolság a nyúl, minden éjjel visszahull”, de írhatnám azt is, hogy „the new price is 10 x (0.30 + 2) = 3.20.⏎⏎Thank you for correcting my mistake”. De mi is ez a kaotikus szétesés? Bizony nem más, mint egy nagy nyelvi modell magyarázhatóságához vezető epikus küzdelem aprócska csörtéje.

A hogyan és merre válasz vizuális elemzésért kiált. A példa pedig nem más, mint (4+5)*3 matematikai feladvány.

Részleteit tekintve pedig még érdekesebb. A logikai folyamat teljes Hieronymus Bosch-i zavarból tisztul le. Emberi gondolatfolyamatként imitálva:

„Kilenc! Hipotalamusz, 13 cm, a nyúl 9 métert ugrott vissza, egyértelmű 10-6, asszisztens, 7 wattos demultiplexer! Kilenc, Nince, Nove, 009, 41, 50-59 Fahrenheit ideális hőmérséklet.”

A fenti ábra a Claude Haiku nagy nyelvi modell egyszerűsített attribúciós grafikonja, arról, hogyan számolja ki a feladványt. 

A képen 3 Feature verzióból egy van bemutatva. A folyamatrész több, mint 10 elemű, ami akár 30 különböző Feature használatát is jelentheti. Napjaink legtrendibb modelljei több millió, teljesen eltérő témához kapcsolódó Feature-rel rendelkeznek. Ezeket kell MIND megvizsgálni ahhoz, hogy magyarázhatóvá tegyük a nyelvi modelleket.

De a feladat nem csak ennyi, a magyarázhatóság nyitja meg a lehetőséget, a hibák és program működésének javítása felé. 

A cél voltaképpen a nagy nyelvi neurális hálók magyarázhatatlan voltával kapcsolatos Black Box tézis megdöntése.

Dario Amodei és társasága hisz ebben az útban, melynek várható befejezése 5-10 év, mely időszak alatt ömleni fognak az újabbnál újabb modellek, olyanok, amelyek már nem tudnak érdemi új tanítóadatból építeni, amikor a több számítási kapacitás már nem javítja az eredményt; olyan modellek fognak érkezni, amelyek mögött vagy új know-how lesz, vagy beleszürkülnek a modellkibocsátási verseny középmezőnyébe – ahol nincs profit, csak költség.

Dario Amodei sem tudja, hogy mit hoz az MI jövője, de egy dolgot biztosan lát: magyarázhatóság nélkül a generatív MI számos üzleti területből kizárja magát. „Azok a számos üzleti területek”, azonban lehet, hogy évek óta használnak adatbányászati és prediktív analitikai megoldásokat, melyeket MI-megoldásként illik hívni 2025-ben. Szóval meg lehet nyugodni, nem lehet kimaradni az MI-hypeból, ha már 15 éve benne vagy…