（12/23）ローカルLLM実践入門～基礎から、モデル選定・PoC・実務適用までを一気通貫で学ぶ～

サイオステクノロジー株式会社 シニアアーキテクト 武井 宜行 氏

セミナーポイント

■講座のポイント
　ローカルLLMへの関心は高まっていますが、実務で活用している例はまだ限られます。理由はおそらく、基礎を学ぶことと実務に適用することの間に、想像以上の隔たりがあるからです。動かすだけなら数分ですが、「では自社のどの業務に使えるのか」という問いに答えるには、その先がいくつもハードルがあります。
　無数に公開されたモデルからどう選ぶか。手持ちのハードウェアで実際にどれだけの速度が出るか。品質が十分かをどう判断するか。そして、そもそもローカルで動かす意味があるタスクはどれなのか。ここを飛ばすと、検証は成功しても導入には至りません。
　本講座は、そこを一本の線でつなぐことを目的としています。ローカルLLMとは何かという基礎から出発し、モデルと実行環境の選び方、PoCと評価環境の作り方、実務で必要になる機能の実装、そして適用先を見極める方法までを順に扱います。
　前提知識は特に必要ありません。ローカルLLMを触ったことがない方が、自社への適用を検討できる状態になることを目標としています。

■受講後、習得できること
・ローカルLLMとは何かを理解し、どういう場面で有効なのかを人に説明できるようになる。
・数多く公開されているモデルの中から、自社の用途とハードウェアに合うものを選べるようになる。
・PoCと評価環境を自分で構築し、品質と処理能力の両面から「使えるかどうか」を判断できるようになる。
・function callingやマルチモーダル、RAGといった実務で必要になる機能を、ローカルLLMで実装できるようになる。
・自社のどの業務にローカルLLMを適用すべきかを、勘ではなくデータに基づいて見極められるようになる。

セミナー内容

■講演プログラム
1.なぜローカルLLMなのか
　1.1　ローカルLLMとは？
　1.2　コスト・セキュリティ・レイテンシーの3軸で比較する
　1.3　クラウドLLMとローカルLLMの使い分けという考え方
　1.4　「全部ローカル」でも「全部クラウド」でもない
2.ローカルLLMを支える技術の基礎
　2.1　代表的なモデル —— Gemma、Qwenとその周辺
　2.2　派生モデルの読み解き方 —— ベースモデル、指示調整、蒸留
　2.3　モデルのライセンス —— 商用利用で確認すべきこと
　2.4　量子化とは？ —— なぜ精度を落として速くなるのか
　2.5　モデルアーキテクチャとハードウェアの相性 —— MoEと密なモデル
3.実行環境の選択
　3.1　Ollama —— 最も手軽に始める
　3.2　llama.cpp —— 何が起きているかを理解する
　3.3　LM Studio —— GUIとMLXバックエンド
　3.4　vLLM —— 並列処理とスループット
　3.5　4つの使い分け
4.ローカルLLMのPoCをどのように進めるか
　4.1　PoC環境の作り方
　4.2　評価環境の作り方 —— 何をもって「使える」と判断するか
　4.3　実測してみる —— ハードウェア別・量子化別の比較
　4.4　つまずきポイント —— チャットテンプレートの不一致による品質劣化
5.実務で使うための機能
　5.1　ローカルLLMでのfunction calling
　5.2　マルチモーダルの使い方
　5.3　ローカルLLMを使ったRAG
　5.4　実践例：フォトアルバムで学ぶ使い分け —— どこまでローカルで処理し、どこからクラウドに渡すか
6.どの業務に適用するかを見極める
　6.1　なぜ勘で決めてはいけないのか
　6.2　AI利用状況を計測する —— OpenTelemetryによる観測
　6.3　計測基盤の構築 —— Collector、オブジェクトストレージ、データウェアハウス
　6.4　利用ログからタスクを分類する

（質疑応答）

出典：株式会社情報機構（https://johokiko.co.jp/seminar_chemical/AD2612N3.php）。掲載は情報機構との提携によります。