CLOUD OR LOCAL

AIを「どこで動かすか」を、業務ごとに選びます。

クラウドのAIサービスと、社内に置くローカルAI。
どちらが常に優れているということはありません。
扱う情報と処理量で使い分けます。

COMPARISON

Claude API とオンプレミスのローカルLLM

構成を選ぶための当社の評価です。
性能・安全性・費用は、実際の業務データでの測定と設計で確かめます。

比較の観点	クラウドAI（Claude API）	ローカルAI（社内サーバ）
精度	複雑な推論・文書処理の有力候補。業務ごとの検証は必要	モデルの種類・軽量化の方法・検索の設計に左右される。日本語やツール実行の検証が必要
セキュリティ	外部への送信を伴う。保持期間・権限・契約条件を確認	社内で完結する設計が可能。端末・ログ・更新経路の管理は必要
初期費用	推論用のGPU購入は通常不要。連携・基盤の構築費は必要	サーバ・GPU・設置・構築・検証の費用が必要
サーバ・GPU	推論の設備は提供者が運用	メモリ・GPU容量を、モデルと同時実行数から選定
保守運用	利用量・上限・障害・モデル変更への対応	故障・OS・モデル更新・監視・バックアップを自社側で対応
拡張性	利用上限・提供地域・契約に依存	追加設備や冗長化が必要。調達期間も考慮
総費用	利用量に応じて変動。少量から始めやすい	固定費と運用の人件費が大きい。利用量が多いと有利になる可能性

※ 商用APIは原則として入出力を学習に利用しないと公式に説明されていますが、外部への送信・保存がないことを意味するものではありません。
オンプレミスでも情報漏えいを自動的に防げるわけではなく、クラウドより常に安い・高精度という前提も置きません。

RECOMMENDATION

Claude APIを基本候補に試験導入（PoC）を行い、外部に送れない業務はローカルAIを評価します。

PATTERN A

社内の認証・権限管理を通じて、必要な情報だけをAPIへ送信。
承認後に業務処理を実行します。
使用量・成功率・待ち時間を測り、予算上限と監視を設定します。

PATTERN B

機密情報の外部送信が禁止されている場合は、社内にサーバを設置するオンプレミス方式を選べます。

PATTERN C

社内で処理すべき業務と、クラウドに送れる業務を分けて組み合わせます。
外部送信の可否と品質の基準は、貴社と合意して決めます。

3-YEAR TCO

初期費用だけで比べると判断を誤ります。
同じ処理量・品質・稼働の条件で、3年間の総費用を比較します。

初期構築＋ 36か月分の運用費・API利用料・クラウド費

初期構築＋機器購入・設置＋ 36か月分の運用・電力・保守＋更新費

※ 共通の開発費は二重に計上しません。
AIサービスの料金は変更されるため、診断・お見積りの時点の最新料金で試算します。