ネプコンジャパン[秋]に出展しました
完全ローカル生成AI(LLM)ソリューションを展示
出展概要
幕張メッセで開催される「ネプコンジャパン[秋]」に、PROMPT-Xとして出展しました。
展示内容
「すべてがローカル環境で完結する生成AIソリューション」です。キーワードはエアギャップ（Air Gap）環境対応。ネットワークを物理的に切り離した状態でも、AIが動き続ける実機（DELL GB10）とローカルの強みを活かした「インカムAIエージェント」を展示しました。
インターネット不要、クラウドなし、学習リスクゼロ。工場の中だけで動作するので、社外秘のデータも安心して処理できますし、話した内容が学習に使われる心配が一切無いという分かり易い特徴になります。
なぜ？この展示？
きっかけは、お客様の現場でよく聞く悩みでした。工場にAIエージェントを入れたいという声は日に日に増すばかりですが、その一方で「データを外に出せない」という壁にぶつかっているお客様が多いのが実状です。
クラウド型AIサービスの導入には、費用、導入期間、情報管理の面で課題があります。従量課金による費用の変動は翌期の予算策定を難しくするほか、導入に向けた相談が要件定義から始まり、半年程度の開発を伴う場合もあります。また、機密情報の取り扱いに関する制約から、外部サービスで利用できるデータが限られるという課題もあります。
特に受託製造を行う企業では、取引先から預かった図面や個人情報を含むデータなど、自社の判断だけでは社外に持ち出せない情報を扱っています。一方、AIによる分析や業務支援に活用したい情報は、こうした機密性の高いデータに含まれることも多く、その取り扱いがAI活用を進める上での重要な課題となっています。
今回の出展では、AIの処理とデータ管理をすべて社内に設置した装置内で完結させる仕組みを紹介します。機密情報を社外に持ち出すことなく、業務に必要なデータをAIで活用できる環境を提供することが、本出展の狙いです。
1. ハードウェア — Dell Pro Max with GB10
工場や施設内で生成AIを稼働させるためのインフラになるのは、NVIDIA製のGB10 Grace Blackwellを積んだ「Dell Pro Max with GB10」という小型マシンです。実物は本当に手のひらサイズで、150mm角・重量1.31kg。ラックも専用電源も要らないので、そのまま工場の現場に置けるサイズ感なのがポイントです。
128GBの統合メモリを搭載し、最大2,000億パラメータのAIモデルを実行できます。AI演算性能は最大1PFLOPSです（FP4精度・スパース機能使用時）。OSにはNVIDIA純正のDGX OSを採用し、互換レイヤーを介さずに動作します。
また、2台を直接接続することで、合計256GBのメモリを活用し、最大4,000億パラメータ規模のAIモデルにも対応可能とされています。単体での利用に加え、より大規模なモデルの活用に向けた拡張性も備えています。
2. インカムAIエージェント
現場の作業員が日常的に使用しているインカムにAIを組み込み、音声によるやり取りだけで作業記録を残す仕組みを紹介しました。
例えば、作業完了の報告では、次のようなやり取りを実演しました。
作業員「TM03の2、250個終わりました。15分くらいです。以上です。」AI「TY03-M-2、レーザーサテン粗、250個。10時5分から10時20分で登録しました。」
また、短時間の設備停止についても、次のような会話で記録できることを紹介しました。
作業員「ノズルが詰まりました。掃除しました。」AI「どれくらい止まりましたか。」作業員「2分くらい。」
こうしたやり取りを通じて、作業実績や停止状況が自動的に記録される仕組みです。さらに、同じインカムを通じて手順書の検索や多言語通訳にも対応し、記録・情報確認・伝達を音声だけで行えることを紹介しました。
会場では、これらの利用場面を動画で実演しました。
この組み合わせによる「ハンズフリー・生成AIインタラクション」の威力
本出展では、工場での生成AI活用に必要なハードウェアとアプリケーションを、一台にまとめた構成を紹介しました。PROMPT-Xが導入から運用まで一貫して対応し、納品当日から利用を開始できる状態での提供を目指したものです。
工場内に設置し、社内システムと連携する生成AI
主な機能は、「記録する」「調べる」「任せる」の3つです。
記録する：会話や作業内容を自動的にデータ化します。
調べる：社内資料を参照し、必要な情報を回答します。
任せる：従業員に代わり、業務システムへの入力などの処理を実行します。
インカムを通じた会話の中で、記録・情報検索・システム処理を完結できることを紹介しました。
社内システムとの連携
社内の業務システムとは、APIやMCPを通じて連携する構成を紹介しました。生産管理システムなどの既存システムを活用し、システムの入れ替えを伴わずにAIを業務に組み込むことを目指しました。
また、処理とデータ管理を社内で完結させ、業務データを外部サービスのモデル学習や統計データとして利用しない構成としました。
会場で紹介したユースケース
生産実績の入力代行
インカムやスマートフォンからの報告をもとに、AIが生産管理システムへの入力を代行し、作業実績の記録・転記の負担を軽減する利用例を紹介しました。
設備トラブル対応
手順書や過去事例から対処方法を検索・提示し、資料の探索や電話による確認の負担を軽減する利用例を紹介しました。
品質・不具合対応
不具合の状況や原因に関する情報を整理し、報告書の作成を支援することで、作成負担と記載内容のばらつきを抑える利用例を紹介しました。
新人教育・多能工化
標準手順書をもとに、新人にも理解しやすい言葉で作業内容を説明し、繰り返し行う口頭指導の負担を軽減する利用例を紹介しました。
在庫・進捗の確認
業務システムに問い合わせ、在庫や進捗状況をリアルタイムに回答することで、確認のための画面操作を減らす利用例を紹介しました。
本出展では、現場で日常的に発生する記録、検索、確認、入力などの負担を一つずつ軽減する、実務に即したAI活用を提案しました。
ローカル生成AIのムーブメントが来ています
今回の出展では、工場内での利用に加え、インターネット接続が難しい山間部やトンネル内での活用を想定する建機メーカー、機密性の高い情報を扱う航空部品メーカー、物流現場のフォークリフトに関わる業務など、さまざまな分野から活用に向けた声が寄せられました。
こうした声から、ローカル生成AIへの期待は、情報管理の課題だけでなく、通信環境に左右されず、実際に作業が行われる場所でAIを利用したいというニーズにも支えられていることがうかがえました。自社の管理下で、現場のデータを使い、現場の業務を支える。ローカル生成AIの活用が広がる可能性を実感した出展となりました。
技術補足
エアギャップ環境とは
エアギャップ環境とは、システムをインターネットなどの外部ネットワークから物理的に切り離した環境です。ファイアウォールによる通信制限とは異なり、外部とのネットワーク接続自体を設けないことが特徴です。
この環境でAIを利用するには、AIモデルやアプリケーション、必要なデータを環境内に配置し、外部のクラウドサービスに依存せずに処理を完結させる必要があります。これにより、取引先から預かった図面や社内の機密資料などを、外部に送信せずに活用できます。
外部から隔離された社内ネットワークの中であれば、生産管理システムなどとの連携も可能です。ただし、社内に装置を設置しただけではエアギャップ環境とはいえず、接続先を含めて外部への通信経路がない構成が必要です。
また、モデルやソフトウェアの更新、データの搬入・搬出は、管理された手順で行います。ネットワークの隔離に加え、持ち込み媒体の確認やアクセス権限の管理など、環境内での情報管理も必要となります。
ローカル生成AIとクラウドAIの違い
ローカル生成AIとクラウドAIの主な違いは、AIの処理をどこで行い、データを誰の管理下で扱うかにあります。
クラウドAIは、サービス提供者のサーバーで処理を行います。自社でAI用のハードウェアを用意せずに利用できる一方、入力データは外部に送信され、その取り扱いはサービスの契約条件に従います。モデルの学習に利用されない場合でも、不正利用の監視や監査などを目的として、入力内容や応答が一定期間保存される場合があります。「学習に利用されないこと」と「社外にデータが残らないこと」は異なります。
なお、社内に設置した装置でも、外部のAPIやサービスを利用すればデータの送信が発生します。機密情報を扱う際は、設置場所だけでなく、処理・保存・ログ管理まで含めたデータの流れを確認することが重要です。取引先から預かった図面など、外部への送信自体が認められない情報を活用する場合、社内で処理を完結できるローカル生成AIが有力な選択肢となります。
