VRAMからはみ出したAIは、頭が悪くなるのか？ 実測と計算式で確かめた
VRAM16GBのPCで、VRAMの1.15倍と2倍のモデルを動かして比較。GPUに載せる量を変えても答えの中身は変わら…
続きを読む →— Tag
量子化
「量子化」タグが付いた記事の一覧です。
キーワードは「盆栽」。次にひっそりとくる「三値化」とは？～名前にaiがつくのがみそ～
27B（270億パラメータ）のAIモデルが約5.9GBに。2026年9月公開のBonsai（盆栽）を例に、AIモデルの「…
続きを読む →