MicroLLM Labはブラウザで小型LLM7種を試せる実験場、WebGPUで端末内だけで動く
小型の言語モデル7種をブラウザだけで動かして比べるMicroLLM Labが公開された。モデルは2600万〜3億6000万パラメーターで、4ビットに圧縮して端末で動かす。作者によると3万6000のIPから30万回超のアクセスがあった。
出典：GitHub robss2020・stateofutopia.com・Hacker News
#MicroLLM Lab
MicroLLM Labに関する海外の最新ニュース1本を日本語でまとめています。公式発表・論文・海外メディアの報道をもとに、ビジネスへの影響まで解説します。