PULSAR-ASMは5KBの機械語でGemma-2Bを動かす推論エンジン、AIと組んでアセンブリで自作
個人開発者2人が、GoogleのGemma-2B-ITを5,268バイトのx86-64機械語だけで推論するPULSAR-ASMを公開した。普通のPCのCPUで毎秒4.0〜4.4トークン。開発にはAntigravityを相棒に使った。
出典：GitHub tomtsai28・Reddit r/LocalLLaMA
#PULSAR-ASM
PULSAR-ASMに関する海外の最新ニュース1本を日本語でまとめています。公式発表・論文・海外メディアの報道をもとに、ビジネスへの影響まで解説します。