※本記事は2026年6月時点の公開情報（総務省・経済産業省「AI事業者ガイドライン」、IPA中核人材育成プログラムのガイドライン、FISC・ISMAP等の公的資料、および各クラウドベンダーの公式技術文書）と、当社の生成AI・業務改善支援の実務にもとづく内容です。守秘案件は業界・規模・概要のみに匿名化し、実名・実数は出していません。
「機密情報を扱う業務なので、ChatGPTのような外部クラウドの生成AIをそのまま使うわけにはいかない」「インターネットに接続していない閉域網の中で、生成AIを安全に動かせないか」「規制やセキュリティ部門の壁で、PoCの先に進めない」——金融・医療・公共・製造といった機密性の高い現場では、こうした悩みが導入の最初の壁になります。
先に結論をお伝えします。閉域網で生成AIを使う方法は、大きく次の3つです。
- オンプレLLM（ローカルLLM）：自社サーバ内でモデルを動かし、データを一切外に出さない
- 専用線・プライベート接続でクラウドLLM：専用線やプライベートエンドポイントで、公衆インターネットを経由せずクラウドの生成AIを使う
- インターネット分離＋プライベートクラウド：既存の分離環境に閉じてLLM基盤を置く
どれを選ぶかは「機密度 × 精度要求 × コスト × 運用体力」で決まります。完全にデータを外に出したくないならオンプレLLM、高精度を保ちつつデータ経路だけ閉じたいなら専用線+クラウドが現実解です。この記事では、3方式の違いと選び方、セキュアに使う構成、PoC（試し導入）の進め方、そして現場で必ずぶつかる落とし穴とコストまでを、当社がオンプレ前提で生成AIのPoCを設計してきた経験をもとに整理します。
この記事の監修：大槻 伸夫（キュリオシティ株式会社 代表取締役CEO）。”現場主義 × AI” を掲げ、決済・物流・製造・コンタクトセンターなど複数業界の大手・中堅企業の業務改善（BPR）と生成AI活用を伴走支援。自社でも型番抽出AIや社内文書活用など、オンプレ前提の生成AI PoCを設計・検証している。
結論｜閉域網で生成AIを使う3つの実現方式と選び方
「閉域網」とは、ここではインターネットから論理的・物理的に隔離されたネットワーク環境を指します。具体的には、オンプレミス（自社内サーバ）、専用線で結んだプライベートな接続、官公庁や金融でよく使われるインターネット分離環境などです。生成AIを閉域網で使う目的は一貫しています。入力した機密データを、外部に出さない／学習に使われない状態を担保することです。
ポイントは、「閉域網で生成AI＝必ずオンプレで自前のモデルを動かす」ではないことです。データ経路を閉じる方法は複数あり、選ぶ軸は次の4つに集約できます。
| 選定の軸 | この軸が効くと…… |
|---|---|
| 機密度 | 一切外に出せない＝方式①オンプレLLM寄り／経路を閉じれば可＝方式②専用線+クラウド寄り |
| 精度要求 | 最新の高精度が必須＝クラウドモデル（方式②）／中程度で足りる＝オンプレ中小モデル |
| コスト | 初期投資を抑えたい＝クラウド（OPEX）／長く大量に使う＝オンプレ（CAPEX） |
| 運用体力 | 自前で運用できる＝オンプレ可／運用を持ちたくない＝クラウド寄り |
まずは全体像をつかみ、自社の機密度と精度要求に合う方式から検討するのが、遠回りに見えて最短です。各方式の中身は次章で比較します。
なぜ「閉域網で生成AI」が必要なのか｜情報漏洩と規制の2つの理由
そもそも、なぜわざわざ閉域網にこだわるのか。理由は大きく2つ、情報漏洩リスクと規制・コンプライアンスです。
理由1｜入力データが外部に出る・学習に使われるリスク（情報漏洩）
外部の生成AIサービスに機密情報を入力すると、その内容が通信経路上で扱われ、サービスによっては学習に利用される可能性があります。顧客情報・設計図・ソースコード・人事情報などを安易に投入すれば、情報漏洩に直結しかねません。「入力してよい情報の範囲」を線引きできないまま現場が使い始めると、ガバナンスが崩れる——これが多くの企業がクラウド利用に踏み切れない一番の理由です。閉域網は、この経路を物理的・論理的に断つための選択肢です。
理由2｜金融・医療・公共は規制でクラウド利用が制約される
機密性の高い業界では、そもそもルール側がクラウド利用を慎重に扱います。総務省・経済産業省が2026年3月31日に公表した「AI事業者ガイドライン（第1.2版）」は、AIを利用する事業者が安全・適正に活用するための原則を示し、人間の判断を適切に介在させる（Human-in-the-Loop）考え方を一段と重視しています。技術選定だけでなく、リスク管理・ガバナンスまで含めた全体設計が前提です。
加えて金融分野では、FISC（金融情報システムセンター）が2026年3月に公表した「金融機関等コンピュータシステムの安全対策基準・解説書（第14版）」で、生成AIに関するガイドライン等を収集・分析し安全対策基準へ反映しています。政府情報システムでもクラウドの安全性を評価するISMAPの枠組みが運用されています。「使ってよいか」を業界基準が決める世界では、データを外に出さない構成そのものが要件になるわけです。
なお、生成AIの導入・運用手順の整理としては、IPAの中核人材育成プログラムの卒業プロジェクトとして公開された「テキスト生成AIの導入・運用ガイドライン」（2024年7月）も実務の参考になります（※IPAの公式見解ではなく、同プログラムの成果物として公開されたものです）。
閉域網で生成AIを使う3つの実現方式【比較】
ここからが本題です。閉域網で生成AIを使う3方式を、それぞれの強みと現実的なハードルで見ていきます。
方式①｜オンプレLLM（ローカルLLM）｜データを一切外に出さない
自社のサーバやGPUマシン上でオープンソースのLLM（Llama系などの公開モデル）を動かす方式です。初回にモデルをダウンロードすれば、その後は完全にオフラインで推論でき、工場内LANのような閉域ネットワークでも利用できます。データが社内から一歩も出ないため、機密度が最も高い用途に向きます。
一方でハードルもはっきりしています。高性能なモデルを動かすにはGPUの確保が要ります。一般的な目安として、Llama系の70Bクラスのモデルは、4bitに量子化（圧縮）しても推論に40GB前後のVRAMが必要とされ、単一のコンシューマ向けGPUには載らずマルチGPU構成が現実解になります。さらにモデルの精度や運用負荷も、後述する「落とし穴」で詰まりやすいポイントです。
方式②｜専用線・プライベート接続でクラウドLLM｜高精度のままデータ経路だけ閉じる
「最新の高精度モデルは使いたいが、データを公衆インターネットに流したくない」——この要望に応えるのが、クラウドの生成AIにプライベート接続でアクセスする方式です。主要クラウドはいずれも、公衆インターネットを経由しない接続経路を公式に提供しています。
| クラウド | プライベート接続の仕組み（公式） | 専用線での延伸 |
|---|---|---|
| Microsoft Azure | Azure OpenAI の Private Endpoint（VNet内のプライベートIPで接続し、トラフィックをAzureバックボーンに留める） | ExpressRoute |
| AWS | Bedrock のインターフェイスVPCエンドポイント（PrivateLink。IGW/NAT不要・パブリックIP不要） | Direct Connect / Site-to-Site VPN |
| Google Cloud | Vertex AI の Private Service Connect（PSC） | Cloud Interconnect / Cloud VPN |
これらを使えば、オンプレ網から専用線・プライベート接続を経由してクラウドの生成AIへ到達し、通信が公衆インターネットを通らない構成を組めます。モデルの精度はクラウドの最新モデルをそのまま使えるのが最大の利点です。ただしAzure OpenAIのPrivate EndpointはAPI利用が対象で管理画面（Studio）は対象外といった制約や、Private DNS Zoneの設定漏れで意図せず公開経路に解決されてしまう落とし穴があるため、ネットワーク設計は慎重に行う必要があります。
方式③｜インターネット分離＋プライベートクラウド｜既存の分離環境に閉じる
官公庁や金融で既にインターネット分離環境を持っている場合、その分離されたセグメントの中にLLM基盤（オンプレ、または閉域接続のクラウド）を置く方式です。既存のセキュリティ境界を活かせるため、ガバナンス部門の合意を取りやすいのが利点です。実体としては①と②の組み合わせになることが多く、「どこにデータ境界を引くか」を既存の分離設計に合わせるのがこの方式の勘所です。
選び方の軸はシンプルです。データを一切外に出せないならオンプレLLM。最新の高精度モデルを使いたく、経路だけ閉じれば要件を満たせるなら専用線+クラウド。既存の分離環境があるならそこに寄せる。この順で当てはめると、自社の現実解が見えてきます。
セキュアに使うための構成と設計チェックリスト
方式を選んだら、「閉じたから安全」で終わらせないことが重要です。閉域網はあくまで土台で、その上に運用設計を載せて初めてセキュアになります。最低限、次の観点を設計に織り込みます。
- データ境界（入力情報の範囲）：何を入力してよく、何を入力してはいけないかをルール化する。線引きが無い閉域網は、内部で漏れる。
- 権限管理とアクセス制御：誰がどのデータ・どのモデルにアクセスできるかを最小権限で設計する。
- ログ・監査：入出力のログを残し、後から追跡・監査できるようにする。規制対応でも必須。
- Human-in-the-Loop（人の最終判断）：AIの出力をそのまま使わず、重要な判断は人が確認するゲートを置く。AI事業者ガイドライン第1.2版が重視する考え方とも一致します。
- ガバナンス（ガイドライン準拠）：社内利用ルールを整備し、教育とセットで展開する。
このうち最後の「人が最終判断を握る」設計は、当社が自社の生成AIプロダクト開発でも徹底している原則です。当社の議事録解析AIでは、AIが抽出した要求・要件のすべてに根拠（元データのどこを参照したか）の引用を必須にし、最終的な採否は人が決める設計にしています。閉域網であっても、「根拠を持たせる・人が最終判断を握る・撤退条件を先に決める」の3原則は変わりません。
閉域網で生成AIを始めるPoCの進め方5ステップ
閉域網での生成AIも、進め方の本質は通常の業務改善と同じです。「現状把握→施策→定着」の延長線上にあります。
- 業務課題の棚卸し：どの業務に・どんな機密データを使い・どの程度の精度が要るかを洗い出す。AIの話より先に、まず業務の可視化から始めます。
- 方式の仮決め：機密度・精度要求から、上記3方式のどれを軸にするか仮置きする。
- 小さく試す（合格ラインを先に決める）：1業務に絞り、削減工数・精度・そのまま使える割合などのKPIを始める前に数字で決めてPoCを回す。
- 効果測定とROIの判断：「削減工数 × 時間単価」で投資判断を可視化し、本番に進めるか冷静に決める。ここを曖昧にすると“PoC止まり”になります。
- 本番実装と運用定着：既存業務に組み込み、ルール・教育とセットで現場に定着させる。
当社も、製造系の型番・仕様情報の抽出や、社内に閉じた文書からの情報引き出しといったPoCをオンプレ前提で設計した経験があります（守秘のため業界・概要のみ）。そこで痛感したのは、閉域網の構成検討よりも、「どの業務に・どの機密データ種別で効かせるか」の見極めのほうがよほど成否を分けるということです。たとえば「外部に出せない仕様書」を対象にすると方式①オンプレが要件になりますが、対象を「社外公開済みの資料の整理」に変えれば方式②でも要件を満たせ、コストも運用も一気に軽くなります。対象データの機密度を業務単位で見極めることが、方式選定とコストを左右するのです。技術的に閉じることはベンダー文書どおりに設計すれば実現できますが、現場で使われ続けるかどうかは業務適合で決まります。考え方の土台は業務改善コンサルティングの現場主義と同じです。閉域網を含む生成AIの開発・PoCの支援内容は生成AI開発・PoC支援にまとめています。
落とし穴とコスト｜現場で起きる4つの“想定外”
ここは経験者しか書けない部分です。とくに方式①オンプレLLMは、「動いた」と「実運用に耐える」の間に深い谷があります。クラウドの生成AIをオンプレのローカルLLMへ移行した現場の一次体験（Qiita・中野哲平氏／2026年2月）から、典型的な“想定外”を共有します。
- 同時アクセスでメモリが落ちる：「複数人が同時にAPIを叩き始めた途端、Out of Memory（OOM）でコンテナがクラッシュ」。1人で試すと快適でも、現場で同時利用すると破綻する。
- スループットの壁：「5人同時に使うと、6人目のリクエストがクラウドより遥かに遅くなる」。クラウドのように自動でスケールしないため、想定同時数の設計が要る。
- 量子化で精度が落ちる：「4bitに圧縮したところ、論理パズルや複雑な日本語の文脈理解でミスが目立つ」。GPUに載せるための圧縮が、精度低下と引き換えになる。
- 運用負荷（環境の脆さ）：「CUDAドライバーの更新で推論ライブラリが突然動かなくなり、半日かけて環境再構築」。閉域網は外部のサポートに頼りにくく、運用は自前になりがち。
コスト面も方式で性格が分かれます。オンプレLLMはGPUの初期投資（70Bクラスを快適に動かすにはマルチGPU構成が現実解）と運用人件費が中心。専用線+クラウドは専用線・プライベート接続の通信費＋クラウド利用料が中心で、初期投資は抑えやすい一方ランニングが積み上がります。「自前で持つ（CAPEX）か、使った分払う（OPEX）か」の判断は、自社の利用量と機密度で変わります。こうした費用配分の考え方は、間接部門の効率化と同じ発想で整理できます（参考：間接業務の効率化）。
よくある質問（FAQ）
Q. 完全にインターネットから切り離した環境でも、生成AIは使えますか？
A. はい。オープンソースのLLMをオンプレで動かせば、初回のモデル取得後は完全オフラインで推論でき、閉域ネットワーク内で利用できます。ただし高精度モデルにはGPUの確保が必要で、精度と運用負荷が論点になります。
Q. クラウドの最新モデルを使いたいのですが、データを外に出さずに済みますか？
A. 主要クラウドは、専用線やプライベートエンドポイント（Azure Private Endpoint/ExpressRoute、AWS PrivateLink/Direct Connect、Vertex AI PSC）で公衆インターネットを経由しない接続を公式に提供しています。経路を閉じたうえで最新モデルを使う構成が組めます。
Q. オンプレLLMとクラウドのプライベート接続、どちらが安いですか？
A. 一概には言えません。オンプレはGPUの初期投資が大きく、クラウドのプライベート接続は通信費＋利用料のランニングが中心です。利用量が多く長く使うならオンプレ、変動が大きく初期投資を抑えたいならクラウドが有利になりやすい傾向です。
Q. 規制業種ですが、生成AIを使って大丈夫でしょうか？
A. AI事業者ガイドライン（第1.2版）やFISC安全対策基準など、業界基準に沿った設計が前提です。データを外に出さない構成・ログ・権限管理・人の最終判断（HITL）を織り込めば、規制業種でも活用の道はあります。
Q. まず何から始めればいいですか？
A. いきなり全方式を比較するより、1業務に絞って「機密度・精度・想定同時利用数」を洗い出し、小さくPoCを回すのが近道です。合格ラインを先に決めてから試すと、PoC止まりを防げます。
まとめ｜閉域網で生成AIは「経路を閉じる方式の選び分け」が要
閉域網で生成AIを使う方法は、(1)オンプレLLM、(2)専用線・プライベート接続でクラウドLLM、(3)インターネット分離＋プライベートクラウド、の3つ。データを一切外に出せないならオンプレ、最新精度を保ちつつ経路だけ閉じるなら専用線+クラウドが基本線です。そして「閉じたから安全」ではなく、データ境界・権限・ログ・人の最終判断という運用設計を載せて初めてセキュアになります。技術的な実現はベンダー文書どおりに設計できますが、成否を分けるのは「どの業務に効かせるか」という現場の見極めです。
💬 無料相談
「自社の機密業務で、閉域網のどの方式から生成AIを試せばいいか」を一緒に整理します。情報漏洩や規制でクラウドをそのまま使えない企業の、閉域網×生成AIのPoC設計のご相談はこちらから無料相談をご利用ください。”現場主義 × AI” で、本番まで伴走します。
監修者：大槻 伸夫（キュリオシティ株式会社 代表取締役CEO）。”現場主義 × AI” を掲げ、生成AIのPoC・PMI支援を統括。オンプレ前提の生成AI PoC（型番抽出・社内文書活用）の設計・検証を手がける。
