こんにちぱ　かっぱだっぱ(o’Θ’o)ﾉ))ﾌﾘﾌﾘ

今日は、ChatGPTとかGeminiのようなのを…

一般的にLLMっていうっぱ（大規模言語モデル）

オフライン環境（自宅のパソコン）で動かす話でもしようかの

最近のおいらっぱ？

パソコン新しくなってからいろいろ試そうとして

ROCmとかﾊﾞﾙｶﾝでGPU演算ぶん回して色々してみようとか

そんなことを思うと…

Dockerやwsl2導入でー

とか思いつくんだっぱが・・・

Dockerに紐づけされるBrowserが標準のBrowserだったり

英語と日本語をOSの標準言語に入れてあると英語が優先されて使いにくかったり

再インストールで修正できるきいて試しにアンインストールすると

最新版がインストール済みなので削除できません🤗　みたいな事をほざかれてひどい目にあったっぱ（その後なんとかした）

今どきはGemini辺りに**「Dockerの完全アンインストール用PowerShellコード」をくださいとか「install.exe等が壊れている事を前提に」**とか言えばさくっと提供してくれるご時世なので本当楽だよの(´ω)(´Θ)ﾈｰ

だけど

Googleに個人情報や質問を保管されたくないとかオンラインに情報を投げたくない(乂Θ･)ダメ

という方もいると思うっぱよo(`･Θ･´)oｳﾝ!!　（必要と内容に応じてとかね・・）

そこでLM Studioを持ってくるっぱｷﾀ──ヽ(‘Θ’)ﾉ──!!

やっと本題ってやつだの😂

まあ日本語のよくあるところの記事をぺたぺた

ローカルAIツール「LM Studio」が全面無償化 ～企業や組織でも無料で利用可能に - 窓の杜**https://forest.watch.impress.co.jp/docs/news/2031038.html

ローカルLLM実行アプリ「LM Studio」業務利用を無料化　商用ライセンス不要に - ITmedia AI＋ https://www.itmedia.co.jp/aiplus/articles/2507/10/news084.html

というわけっぱo(`･Θ･´)oｳﾝ!!

雑にいうと

これをインストールして推奨のLLMを選んで導入するとさくっと

GeminiやChatGPTに質問してたような事をできるよって感じだの（雑

ただ日本語に最適化されてるモデルを探してきたほうがいいので(´･Θ･`)

インストールして最初に推奨と書いてあるのを選ばないでSkip（確か右上に出てたな）を選んだほうがいいのぅ

あと右下に⚙があってここからGeneral（一般）を選ぶとLanguage（言語）があるので日本語にすると

もう余裕で使えるはずっぱ(人Θ’o)ﾈｯ

なぜんなもん使うかとなるっぱが・・

動作させるために必要なランタイムファイルや使用している環境に適したGPUに必要なエンジン構成とか

自動で更新かけてくれるし手間が少ないからの(*´-Θ-)-３

しかもこれ自体は負荷がものすごく低いしの

別にGoogleはアレだけどオフラインで試す分には大丈夫なはずと思うなら

👾Gemma 3n E4B 👾Gemma 3n 27B 👾Gemma 3n 128

みたいなのがモデルの検索にGoogleとでも入れれば出てくるのでいれてみるといいっぱ(´･Θ･`)ﾍｰ

ちなみに👾マークのものはLM Studioがとりあえず異常なし確認していたり動作最適化してモデルっぽいっぱ

いやならelyza/Llama-3-ELYZA-JP-8B-GGUF

とかいう日本の東大系のベンチャー企業が作ったモデルが見つかるので試してみるのもいいかもの

ELYZA LLM for JP (デモ版) | 株式会社ELYZA****https://elyza.ai/lp/elyza-llm-for-jp

こういうの(´･Θ･`)

日本の保険会社と一部のニュースサイト系がサービスに組み込んでるようだの

ELYZAは、国内最高性能、日本語版医療LLM「ELYZA-LLM-Med」を開発いたしました | 株式会社ELYZA | 株式会社ELYZA****https://elyza.ai/news/2025/07/14/elyza%E3%81%AF%E5%9B%BD%E5%86%85%E6%9C%80%E9%AB%98%E6%80%A7%E8%83%BD%E6%97%A5%E6%9C%AC%E8%AA%9E%E7%89%88%E5%8C%BB%E7%99%82llmelyza-llm

最近は医療系のもやってるんだとか(´･Θ･`)ﾍｰ

医療系のモデルもLM Studio経由で検索するとmedgemmaとかmeditronとか出てくるけども

私的にゃ国によって体格差での薬品の許容量の違いや法制度で使える薬物が違ってくるし

医療関係者でもない限りはそっち系はお試しするのはともかく

自前でなんとかしようとする前に医者にGOと思うところっぱの( ’Θ`)ｳｰﾝ　

ともあれこういうものが適切なGPUと紐づけして導入するのにたくさんDLしてこないと

とか紐づけ失敗すると地獄を見る系が

LMStudioを１つ持ってきてモデルを検索してダウンロードして

読み込まれたチャット欄に「きゅうりをくださいっぱ！」という勢いでやればお返事が特にPCに負荷もなく来る時代なのが

驚きを感じるっぱがの(´･Θ･`)ﾍｰ

もっとも大きな容量のモデルの方がいろいろ最適なお返事が来やすくなるけど負荷も上がるようではあるっぱが

まあ・・

私的にゃオフラインで使うにあたってそれらのモデルが

「いつまでのデータを元にしてるか？」**は確認したほうがいいっぱ

前述のGoogleのモデルだと2023年1月までだったと思うっぱ

ありがちな話として

「2010年から2025年までの情報を参照せずに　2026年に一年間発生しそうな大きな出来事を予想してみてください」

みたいなことをやってみてそれを眺めてみるのも私的にゃ面白いっぱの((´Θ`))ｹﾗｹﾗ

・・・

(´Θ`)

まあ、世の中ある日突然便利なものが使えなくなることは割りと有り得る話っぱよ？

便利なものを使う時はそれと、代替手段は確保するのが大事っぱ（ボソ

特に昨今は、BOTで情報が汚染されるなんて話が多すぎるからのぅ・・

…ウクライナが事がおきる前ぐらいから**そういう事自体はあったしウクライナ自体もロシアによる偽サイトやコンテンツ改ざんについて 言い出した後EUでもそういう話題が騒動になってたよのぅ（開戦後にぽつぽつ話が出ていたし・・）

私的にゃここ5年位を省いたデータから先のことを検討したほうがまともな結果が出る気がしてならないっぱ（ボソ**

どこの国とは言わないけども過去の統計データ全消しみたいな事を一部に行ってる国がぽつぽつあるからの

かっぱでしたっぱ♪