財布を気にしたくないのでローカルLLM(Gemma3)にコードを書かせてみた - MNTSQ Techブログ
2025/03/26 03:15
人気記事
Rustで進化するPayPayのスケーラビリティ
東名でも、中央道でも、関越道でもない……年末年始で「最悪の渋滞」が発生する“まさかのポイント” | 文春オンライン
【2025年春。新しい朝を。新しい出会いを。新しい仲間と。】TBSラジオ2025年4月からのタイムテーブルを一挙大公開！ | TBSラジオ
AI時代に必要なのはプログラミング能力ではなくコンピューティング能力 - きしだのHatena
「ハリウッドは無意識のうちに女性を排除してきた。だけど……」映画『エミリア・ペレス』で出演者たちが最も伝えたかったこと | 文春オンライン
財布を気にしたくないのでローカルLLM(Gemma3)にコードを書かせてみた - MNTSQ Techブログ引用元：https://tech.mntsq.co.jp/entry/2025/03/25/102902
ずん
「みんな、ローカルLLMがすごい話題になってるのだ！財布の心配なく使えるらしいのだ！」
でぇじょうぶ博士
「ほう、Gemma3の話でやんすね。GoogleがオープンソースとしてリリースしたLLMでやんす。API課金を気にせず使えるのが魅力でやんす。」
やきう
「ワイもGPT使うたびに財布が軽くなってて泣きそうやわ。これ使えばタダなんか？」
でぇじょうぶ博士
「完全にタダというわけではないでやんす。GPUを積んだPCが必要でやんす。ただし一度環境を整えれば、電気代以外はかからないでやんす。」
ずん
「でも性能はイマイチなんじゃないのだ？」
やきう
「そら無料なんやから、期待すんなや。ワイの脳みそくらいの性能やろ。」
でぇじょうぶ博士
「4Bモデルだと確かに制限はありますが、プロンプトを工夫すれば十分使えるでやんす。12Bモデルなら精度は上がるものの、処理速度が実用的ではないでやんす。」
やきう
「結局、高性能なGPUマシン持ってないと使えへんのか。貧乏人には関係ない話やん。」
ずん
「じゃあボク、ママのクレカでGPU買うのだ！」