A Moonshot AI kiadja a Kimi K2-t: A DeepSeek ingyenes, okosabb riválisa

A Moonshot AI kiadta a Kimi K2-t, egy mesterséges intelligencia nagy nyelvi modellt, ingyenesen, a módosított MIT licenc alatt. Az LLM azonnal a világ tíz legerősebb mesterséges intelligenciamodellje közé került a LMSys szövegaréna ranglistáján. A Kimi K2 magasabb pontszámot ért el, mint a DeepSeek, egy másik ingyenes mesterséges intelligencia, amely világszerte figyelmet keltett teljesítményével és ingyenes licencelésével, amikor megjelent 2024 végén jelent meg.

A Kimi K2 egy egymilliárd paraméteres (1T) szakértői keverék (MoE) modell 128K kontextusablakkal és 384 szakértővel, 32 milliárd aktivált paraméteres részhalmazzal. A mesterséges intelligenciát az autonóm problémamegoldásra, érvelésre és eszközhasználatra szakosodott mesterséges intelligencia-ügynökök számára fejlesztették ki, lehetővé téve a használatát komplex feladatok megoldására és magas szintű üzleti problémákra adott válaszok kutatására.

A korlátozott valós világbeli eszközhasználati képzési adatok miatt a Kimi K2-t valós és szimulált környezetek kombinációjával képezték. Emellett a mesterséges intelligencia képzése önbírálati mechanizmust használt, amely lehetővé tette számára, hogy a képzés során saját maga állapítsa meg, hogy az elvégzett feladatokat megfelelően végezte-e el vagy sem. A MuonClip optimalizálót a neurális hálózatokhoz készült Muon optimalizálóban talált képzési stabilitási probléma megoldására fejlesztették ki, lehetővé téve a Kimi K2 gyors, sikeres előképzését 15,5T tokeneken.

A Kimi K2 üzleti célú fejlesztésében érdekelt olvasóknak legalább 1 TB tárhelyre lesz szükségük a modellhez és egy legalább 16 Nvidia H20/H200 GPU-ból álló fürtre mielőtt szabadon letöltené az Hugging Face-ről. Az otthoni felhasználók könnyen futtathatják a DeepSeek desztillált változatát 12 GB vagy annál nagyobb memóriával rendelkező Nvidia GPU-kon, mint például ez a kártya az Amazonon, amíg a Kimi K2 desztillált verzióira várnak.

A fogyasztók a oldalon ingyenesen beszélgethetnek a Kimi chatrobottal, a szoftverfejlesztők pedig itt fizethetnek a Kimi API-n keresztül történő használatáért.