got-oss 20bや、gpt2相当(15bくらい)のLLMを学習させたり回せるPCが欲しいのですが、ミニPCだとキツいですか?勉強用なのでそこまで快適じゃなくても大丈夫です。もしいけるミニPCがあれば教えてください!ミニPCだとキツければ普通のデスクトップだと何万くらいから買えますかね?

1件の回答

回答を書く

1266435

2026-03-12 23:55

+ フォロー

20Bクラスの学習をローカルでやるなら

なんらかのレンタルサーバーを使用したほうが良いと思います

LoRAにしても、ローカルで重みの更新ができるサイズはせいぜい7Bが関の山ですね

https://www.reddit.com/r/LocalLLaMA/comments/18o5u0k/helpful_vram_requirement_table_for_qlora_lora_and/



ただ推論するだけならば、最近はいわゆるdenseモデルよりMoEモデルが発展してきているので、計算速度はほどほどで帯域幅の広いユニファイドメモリを搭載したミニPCはかなり有力だと思います

20Bモデルを8bit量子化で動かした場合、必要メモリは20GB+コンテキスト+システムメモリで30GB程度あれば十分かと思います

すると、Mac mini/48GBモデル(27万)や、EVO-X2/96GB(20万)あたりが選択肢かなと思います

うったえる有益だ(0シェアするブックマークする

関連質問

Copyright © 2026 AQ188.com All Rights Reserved.

博識 著作権所有