LOCAL AI SERVER

社内で完結する、AIの実行環境をつくる。

顧客情報や設計資料など、外部に送れない情報を扱う業務のために、社内に設置するAIサーバを構築します。

BUILT

自社で構築・検証しています

お客様にご提案する前に、まず自分たちの環境で構築し、運用して確かめています。

BUILT

構築済み

AlmaLinux上にAIサーバを構築し、画像生成環境ComfyUIを社内の他のPCから操作できる構成で運用しています。

AlmaLinuxComfyUIリモート操作
NEXT

整備中・予定

ローカルLLMの実行環境、チャット画面、ワークフロー自動化、社内文書検索の基盤を順次整備し、実務・検証・改善を重ねます。

OllamaQwen3Gemma3Open WebUIDockern8nQdrant
ROADMAP

ローカルAI環境ができるまで

社内文書を検索して答えるAIを、社内だけで動かすための構成例です。

  • STEP 1

    AIの実行基盤

    Ollamaでローカルに言語モデルを動かす環境を用意し、Dockerで各機能を管理しやすくします。

  • STEP 2

    言語モデルの選定

    Qwen3・Gemma3などのモデルを、日本語の精度・速度・必要なメモリで比較し、業務に合うものを選びます。

  • STEP 3

    社員が使う画面

    Open WebUIで、ブラウザからチャット形式で使える画面を用意します。

  • STEP 4

    業務の自動化

    n8nで業務の流れを組み、ローカルのAIと接続。
    定時実行やメール受信をきっかけに処理を動かします。

  • STEP 5

    社内文書の検索

    ベクトルデータベースQdrantにPDF・Wordの内容を登録し、社内文書をもとに答えるAIを実現します。

COST ITEMS

オンプレミスを選ぶ場合の費用項目

金額やGPUの仕様は、要件定義・販売店の見積り・性能試験を経てご提示します。
モデルの商用利用条件も確認します。

費用の区分見積りの対象・算定の条件
サーバ購入費
(初期)
サーバ・GPU・メモリ・ストレージ・保証。
モデル、扱う文章の長さ、同時実行数で選定
設置・構築費
(初期)
社内への搬入、電源・冷却・ネットワークの確認、推論環境、認証、監視、動作検証
運用費
(月額・年額)
電力・保守・更新・障害対応・バックアップ・管理の人件費
拡張・更新費
(都度)
増設・冗長化・機器の更新・モデルの移行・再評価

ローカルAIが合うかどうかから、ご相談ください

処理量が少ないうちはクラウドAIのほうが総費用を抑えられることも多くあります。クラウドAIとローカルAIの比較もあわせてご覧ください。

まずは30分、無料でお話ししませんか?

しつこい営業は行いません。
今のお困りごとを伺い、削減できる時間と費用の目安をお伝えします。

AI30分無料診断を申し込む → diagnosis.final9.jp