テキストリンク
1/5

ご希望のサービス

案件の詳細

2/5

ご予算

3/5

ご希望の時期

4/5

連絡先

ご入力いただいた情報は、お問い合わせへの対応にのみ使用します。詳細はプライバシーポリシーをご覧ください。

5/5

ありがとうございます

当社のAIエージェントが迅速に対応しました。初回のお問い合わせへのご返信は、すでにお客様の受信トレイに届いています。

エラー

ありがとうございます!

追ってご連絡いたします。

ローカルLLM · オンプレミス構築

データを外に出さずに生成AIを動かす

情報漏洩を避けるために、社内規定でクラウドの生成AIを止めている。その状態のまま動いていない会社は少なくありません。処理を社内に閉じる構成なら、規定を変えずに前へ進めます。音声の書き起こしを社内で完結させた案件が、すでに動いています。

社内で完結オープンモデル既存システムと接続日本語で相談
0件
社外への送信
完全ローカル構成の場合
3つ
構成の選び方
ローカル・専用・併用
2週間
試せる環境
実データを入れる前に
1台
サーバー
小さく始められます
ローカルLLM
ローカルLLM とは、外部のサービスを呼ばずに自社の設備で動かす大規模言語モデルのことです。業務データが社内ネットワークから出ないため、持ち出しを禁じる社内規定と両立します。
01 出発点

禁止しているのは、生成AIではありません。

社内規定を読み直すと、書かれているのはたいてい「業務データを社外に持ち出さないこと」です。生成AIそのものを名指しで禁じている規定は、あまり見かけません。

詰まっているのは技術ではありません。データの行き先です。入力した内容がどこへ行き、どれだけ残り、学習に使われるのか。そこに答えられないから、稟議が止まります。

処理を社内に閉じてしまえば、この問いには構成そのもので答えられます。規定を変える交渉より、はるかに短い道です。

懸念の第2位
日本企業が生成AIの導入で挙げる懸念は、「効果的な活用方法がわからない」に次いで「社内情報の漏えい等のセキュリティリスク」が2番目に多く挙げられています。処理を社内に閉じる構成は、この2番目を構成そのもので解消します。
出典:総務省「令和7年版 情報通信白書」2025年7月、企業におけるAI利用の現状。soumu.go.jp
02 判断の分かれ目

クラウドかローカルか、ではありません。

見るべきは置き場所ではなく、次の四つです。ここが確認できれば、クラウドでも社内規定を満たせる場合があります。

どこで処理されるか
物理的にどの国のどのサーバーか。既定の設定のまま動かすと、思っていない地域に出ていることがあります。
どれだけ残るか
入力の履歴、ログ、キャッシュ。消したつもりのものが別の場所に残っている構成はよくあります。
学習に使われるか
契約と管理画面の設定、その両方で確認します。片方だけでは不十分です。
誰が証明できるか
監査で聞かれたとき、提供事業者に問い合わせないと答えられないのか、社内のログで即答できるのか。
03 構成

3つの選び方

どれが正解ということはありません。扱うデータの機微さと、求める品質のつり合いで決めます。

01

完全ローカル

社内のGPUサーバーでオープンモデルを動かします。業務データは社内ネットワークから出ません。人事、法務、設計情報のように、外に出せないものを扱う場合に選びます。

社外送信なしオープンモデル初期費用は高め
02

専用環境

欧州または日本のリージョンに専用の環境を用意し、学習に使われない契約で運用します。最新の商用モデルの品質を保ったまま、処理される場所を固定できます。

リージョン固定学習不使用品質が高い
03

併用

機微なデータはローカルで、一般的な文章の処理は外部で。どちらに流れるかを仕組みで振り分け、その判定を記録に残します。実務では最も多い形です。

振り分け記録現実的
04 図解

完全ローカル構成では、境界を越えるものがありません。

社内文書会議の音声基幹システム前処理分割 · 索引づくりオープンモデル音声認識回答出典つき社外との境界外部APIこの構成では通信なしここまでが社内ネットワークの内側です。境界を越える業務データはありません。
社内で動くモデル出典つきの回答境界の外は使いません
05 比較

よくある構成との違い

同じ機能でも、どこで処理するかで監査のときの答え方が変わります。

項目よくある構成データが出ない構成
文書の置き場所
外部の共有ストレージに集約します。
社内のファイルサーバーのまま、索引だけを作ります。
音声の書き起こし
録音データを外部サービスへ送ります。
社内のGPUで処理します。音声は外に出ません。
モデル
提供事業者のAPIを呼びます。
社内で動くオープンモデルを使います。
検索の索引
外部のベクトルデータベースに置きます。
社内に構築します。削除の請求も自社で完結します。
監査で問われたら
提供事業者に確認してから回答します。
社内のログを見せて即答できます。
モデルの更新
提供事業者の都合で変わります。
自分たちの都合で決められます。手間は増えます。
06 正直なところ

ローカルが向かない場合もあります。

売り込みたいのは構成ではなく、動く仕組みです。合わないときは合わないとお伝えします。

  • 初期費用は高くなります。サーバーを用意する分、最初にまとまった投資が要ります。
  • 更新は自分たちの仕事になります。新しいモデルが出ても、自動では入れ替わりません。
  • 用途によっては品質が届きません。込み入った推論や多言語の細かい言い回しは、最新の商用モデルが優ります。
  • 扱うデータが機微でないなら、過剰です。公開資料の検索にローカル構成は要りません。
  • それでも選ぶ理由があるとすれば、稟議が通ることと、監査で自分たちが答えられることです。
07 実績

音声を社内から出さずに動かしています。

会議の記録を扱う案件では、書き起こしを外部サービスに任せず、社内で動く音声認識に置き換えました。会議の音声には、人事の話も、価格の話も、まだ公表していない計画も入ります。外に出さないのが最も確実でした。

名前の突き合わせも社内の従業員名簿に対して行っています。誰が何を担当することになったのかという情報は、社外に出す必要のないものです。

詳しくはAIミーティングダッシュボードのケーススタディをご覧ください。多言語のナレッジ検索については多言語ナレッジ検索の構築にまとめています。

08 よくある質問

ローカルLLM:よくある質問

ChatGPTは社内規定で使えません。代わりになりますか。+
なる場合が多いです。規定に書かれているのはたいてい「業務データを社外に持ち出さないこと」で、生成AIそのものの禁止ではありません。処理を社内に閉じる構成なら、規定を変えずに導入できます。まず規定の文言を一緒に読むところから始めます。
オープンモデルは商用利用できますか。+
ライセンスによります。制限の少ないものから、利用者数や用途に条件が付くものまであります。私たちは用途と社内の方針に合うライセンスのモデルを選び、その根拠を文書に残します。あとから条件が変わっても乗り換えられる作りにします。
日本語の精度は十分ですか。+
用途によります。社内文書の検索、要約、定型的な文章の作成であれば実用に足ります。込み入った推論や、微妙な言い回しの翻訳では、最新の商用モデルのほうが優ります。判断できるように、実際のデータで試せる環境を先にお渡しします。
GPUサーバーは自社で用意するのですか。+
どちらでも構いません。既存の社内サーバーに載せる場合も、新たに用意する場合もあります。まず1台から始めて、使われ方を見てから増やす進め方をおすすめしています。最初から大きく組むと、使われない容量にお金を払うことになります。
クラウドでも「学習に使わない」契約があると聞きました。+
あります。そして扱うデータによっては、そちらのほうが合理的です。品質が高く、運用の手間も少なくて済みます。契約と管理画面の設定の両方を確認し、処理される地域が固定できるなら、それで足りることは珍しくありません。
既存のシステムとつなげられますか。+
できます。ファイルサーバー、グループウェア、基幹システムのいずれも接続の対象です。実務では、ここが最も工数を読みにくい部分になります。先に接続だけを試して、見通しを立ててから本体に進みます。
保守はどうなりますか。+
モデルの入れ替え、索引の作り直し、障害時の対応を保守契約に含めます。社内で運用できる体制を作ることも目標のひとつなので、引き渡し時に手順書をお渡しし、担当の方に操作していただきます。
費用はどのくらいですか。+
扱うデータの量、接続する既存システムの数、求める品質で変わります。初回の見立ては無償です。費用がどう決まるかについては、AI開発の費用の考え方にまとめています。
生成AIの情報漏洩が心配です。何から手をつければよいですか。+
どのサービスに何を入力しているかを一覧にするところからです。入力した中身がどこへ送られ、学習に使われるかは提供元の規約で決まります。そのうえで、外に出せないデータだけを社内の処理に寄せます。全部を社内に閉じると費用が跳ね上がります。
社内規定のサンプルはもらえますか。+
雛形はお渡ししていません。ただ、規定を書く前に決めることは決まっています。持ち出しを禁じるデータの範囲、使ってよいサービス、確認する人、記録の残し方の四つです。ここが決まっていれば、規定の文章は短くて済みます。
09 関連ページ

あわせて読む

次の一歩

社内規定のどこで止まっているか、お聞かせください。

30分あれば、どの構成なら通るかの見立てはお出しできます。クラウドで足りる場合は、そう申し上げます。

DEJPEN