ワイワレ速報

eye-catch.jpg

Gemma 3やQwQなどでローカルLLMがそろそろ使い物になってきた - きしだのHatena

2025/03/16 02:50

Gemma 3やQwQなどでローカルLLMがそろそろ使い物になってきた - きしだのHatenaGemma 3やQwQなどでローカルLLMがそろそろ使い物になってきた - きしだのHatena引用元:

https://nowokay.hatenablog.com/entry/2025/03/15/164734

ずん

「最近のAI、パソコンでも動くようになってきたって聞いたのだ!これは革命なのだ!」

でぇじょうぶ博士

「そうでやんすね。GoogleのGemma 3とAlibabaのQwQという新しいモデルが登場して、一般のPCでも十分な性能を発揮できるようになったでやんす。」

やきう

「ワイのポンコツPCでも動くんか?」

でぇじょうぶ博士

「4060ti 16GBのGPUがあれば問題ないでやんす。特にGemma 3の27Bモデルは、ChatGPT 4に匹敵する性能を発揮するでやんす。」

ずん

「でも、そんな賢いAIが家で動くなんて怖くないのだ?」

やきう

「お前、電子レンジも怖がってそうやな」

でぇじょうぶ博士

「心配ないでやんす。むしろローカルで動くから、プライバシーの心配もないでやんす。」

ずん

「じゃあボクの作文も手伝ってくれるのだ?」

やきう

「それやったら逆に先生にバレバレやで」

でぇじょうぶ博士

「まぁ、コードを書かせると同じ間違いを繰り返すこともあるでやんす。完璧ではないでやんす。」

ずん

「なるほど!じゃあボクはAIに宿題を丸投げして、間違えさせれば自然な答案になるのだ!」