Ez a saját készítésű robot valós időben „bekapcsol”

, a Reddit LocalLLaMA közösségének egyik hobbistája megépítette az év legmeglepőbb LLM-integrációját: egy Sparky nevű bőröndrobotot, amely egyre... összefüggéstelenebbé válik, ha füstnek van kitéve. Ez nem valamilyen előre megírt viselkedésnek köszönhető, hanem annak, hogy valódi érzékelőadatokat táplálnak közvetlenül a modell mintavételi paramétereibe.

A projektet a Reddit u/CreativelyBankrupt nevű felhasználója tette közzé. Lényegében egy MQ-2 gázérzékelőt (jelenleg 7,99 dollár az Amazonon) használ, amelyet a robot tokjába szereltek be. Az érzékelő 500 milliszekundumonta méri a környezeti levegőt egy adaptív tiszta levegő referenciaértékhez viszonyítva, és a füst jelenlétét 0 és 10 közötti fázisértékre konvertálja. Ez a fázisérték aztán valós időben átalakítja, ahogyan az LLM szöveget generál. Például a füstszint emelkedésével a hőmérséklet 1,0-ról körülbelül 1,6-ra emelkedik, a top_p értéke 0,95-ről 0,99-re nő, a top_k pedig 64-ről 120-ra ugrik.

Amikor ez megtörténik, Sparky szókincse szűkül, a robot pedig alacsonyabb valószínűségű tokenek felé fordul, és zajosabbá válik – mivel az élő mintavevő pontosan azt teszi, amit a magas mintavételi paraméterek bármely nyelvi modellel tesznek. Minden „magas” válasz frissen generált, így nincs két egyforma válasz. A fázisonkénti személyiség-finomítás biztosítja, hogy a viselkedés érvényesüljön (anélkül, hogy a robot ténylegesen bejelentené az állapotát).

Fizikai visszajelzés is van. Sparky lecsukódó szemeket, enyhén elnyújtott hangot mutat, és a kijelzője a 10. fázisban teljes füst- és plazmaeffektusba vált át. Ezt a állapotot hét percig tartja fenn, mielőtt elhalványulna.

Az alkotó őszintén beszél a hardver korlátairól – az MQ-2 egy VOC-érzékelő, ami azt jelenti, hogy a füstölő vagy a cigaretta ugyanazt a reakciót váltja ki, mint a kannabisz, és nem tud különbséget tenni a füstforrások között.

A videó a cikk írásának pillanatában több mint 1100 pozitív értékelést kapott a Redditen. Nézd meg alább:

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA