全社にChatGPTを配布すれば、AI活用は進む——そう考えて実行した結果、見えてきたのはもう一段深い壁でした。ディーネットではAIリテラシーの向上や個人業務の効率化には成功した一方で、「業務フローに組み込めない」「プロンプトが属人化する」「出力が安定しない」という問題に直面しました。
結論から言うと、AI活用は“配布”ではなく“業務フローに組み込める形に変換できるか”で成否が決まります。ChatGPTのようなチャット型AIは、このような構造的限界があります。
・入力が自由すぎて再現性が担保しづらい
・プロンプトが暗黙知化して共有できない
・業務単位のUIになっておらずフローに乗らない
そこで選んだのが、AWS上にDifyを構築するアプローチです。Difyとは、プロンプトを「業務アプリ」として固定化し、ワークフローとして再利用できるようにするツールです。チャットではなく“アプリ化”することで、属人性を排除し、業務に組み込める形へ変換できます。
本記事では、ChatGPT中心の運用から脱却し、業務にフィットするAI基盤へ移行した背景、具体的なアプリ設計、70％のコスト削減の内訳（※約60名規模・日常業務での継続利用を前提）、そして実運用を支えるセキュリティ設計までを、実例ベースで解説します。
全社導入から見えた、ChatGPT活用の真の壁
ディーネットでは2024年2月より、「ChatGPT team」のアカウントを全社員に発行し、業務効率化を進めてきました。teamプランを利用することで学習データとして外部に流用されるリスクを抑え、セキュアに生成AIの活用が可能でした。
さらに、社内の定期勉強会や業務改善コンテストも積極的に開催し、社員のAIリテラシーを向上。壁打ちやアイデア出し、商談ロールプレイ、文章レビューなど、個人レベルでの活用が大いに促進されました。
これらの取り組みはアンケート結果にも表れています。導入から12か月後の調査では、
- 約6割のメンバーが毎日利用
- 週に数回以上利用する人を含めると9割を超える
- 7割近いメンバーが生成AIの利用に満足
という高い評価を得られました。
ところが、使い込むほどに明らかになった課題が「業務フローへの適用のしづらさ」です。特定のプロンプトを社内で共有・標準化する手間や、GPTsの出力の不安定さなどが要因で、「日々の業務フローに自然に組み込む」のは意外と難しいという声が目立ちました。
個人での業務利用は浸透したものの、チームとして業務フローの一部として組み込むことが難しい、という課題を抱えたのです。
AWS×Difyという選択：なぜChatGPTから移行したのか
そこで、「チャット活用」のメリットを維持しつつ業務フローへ組み込みやすい方法を検討した結果、AWS上にDifyを構築する運用に行き着きました。
Difyは、ノーコードで生成AIアプリケーションを利用できるプラットフォームです。たとえばChatGPTやGPTsのようなチャットアプリだけでなく、所定の作業手順とLLM（大規模言語モデル）を組み合わせて作業を自動化・完了させるワークフローも自作できます。
SaaS版のほかにコミュニティ版（セルフホスト）が提供されており、AWS環境上に独自構築することで、自社管理のセキュア環境＋LLM API連携を両立することができます。
全社共通と個別開発：使い分けるDifyアプリケーション戦略
ディーネットではDify上に「全社共通アプリケーション」と「個別アプリケーション」の2軸で展開をしています。
全社共通アプリケーション
ChatGPTのような汎用的なチャットアプリケーション作成して全社公開しています。
LLMとしては、Amazon Bedrock経由のClaudeまたは、OpenAIのChatGPTなど、汎用的な最新のものを適用しています。また、チャットアプリケーションにツールを追加することができます。それを利用し、Google検索やPerprexity、Dall-E3などが入力されたプロンプトに応じて自動で呼び出して対話を拡張できるように仕組みを整えています。
また、Chromeなどのブラウザの拡張機能を利用し、チャットアプリケーションへアクセスしやすい環境を実現しています。（下の図の右端にある「AIチャット」「別タブで起動」部分が該当します）
個別アプリケーション
一方、各部門・メンバー独自の目的にあったアプリケーションを、ノーコードベースで自由に作成できる仕組みも用意しています。ただし、現状はハードルがやや高いようで、得意なメンバーが要望をヒアリングしながら実装するケースが多い状況です。今後、ドキュメントやテンプレートを整え、より多くのメンバーが手軽に開発できるよう支援していきます。
驚異のコスト削減率70%！その内訳を公開
従来のChatGPT teamプランでは、利用の有無にかかわらず社員の人数分の固定料金が発生していました。たとえば、
- 1アカウント月額30ドル（年契約時は25ドル）
- 60アカウント利用で 25ドル×60名＝1,500ドル
- 1ドル150円換算で合計約22万円/月
この費用が大きな負担となっていたのです。そこでDify環境への移行を進めたところ、次のような支出構造になりました。
- AWSの利用料：1.5万円（EC2などのほぼ固定料金）
- LLM APIの利用料：4万円（使った分だけ従量課金）
合計は約5.5万円となり、従来の22万円から70％以上のコスト削減を達成。これは全社員がAPI連携のサービスを使う形にシフトしたことで、実際の使用状況に応じた変動費用になったのが大きな要因です。
AWS Bedrock×Difyの実装手順：誰でもできるAI基盤の作り方
ディーネットでは、主にAWS公式が公開している「Dify と Amazon Bedrock を使って、簡単にセキュリティオペレーション自動化」の手順を参考にしました。記事内の「1. 完成図」～「3. Dify の設定とワークフロー構築」などを参照すると、概念図や具体的なアーキテクチャが理解しやすいです。
社内情報を守りながらAIを活用：4つのセキュリティ施策
生成AIアプリを運用するうえで重要なのが、機密情報をどのように守るかという点です。ディーネットでは、以下の対策を講じています。
- Webアプリケーションは社内のみアクセス許可
- インターネットからのアクセスは遮断し、事務所からのみアクセスを許可。
- テレワーク環境からは、事務所へVPN接続を行うことで、利用可能に。
- APIのみに社外アクセスを許可
- AWS Lambdaや他システムからのAPI呼び出しに限り、外部からの接続を許可。
- Difyが持つAPIキー認証を利用しセキュリティを担保。
- LLMとのやり取りはAPIを通じて実施
- ChatGPT teamと同様、学習データに使われない仕組みを確保。
- アプリケーションの利用ログの閲覧制限
- 「ログを見られたくない」という要望に対応し、ALBを使ってログ閲覧を抑止。社員がユーザーの入力データを閲覧できない運用設計に。
これらの取り組みによって、「個々の利用状況を見られたくない」 という不安を払拭し、生成AIアプリの利便性と安全性を両立させています。
関連するFAQ
Q. なぜChatGPT Teamでは業務にうまく組み込めなかったのですか？
A. 個人単位では活用が進んだものの、チャット型は入力が自由で再現性が低く、プロンプトが暗黙知化しやすい構造があります。そのため業務フローとして標準化・共有するのが難しく、結果的に定着しませんでした。
Q. Difyを使うと何が変わりますか？
A. プロンプトを「アプリ」として固定化できる点が大きな違いです。業務手順とLLMを組み合わせてワークフロー化できるため、誰が使っても同じ結果を得やすくなり、再現性のある運用が可能になります。
Q. なぜAWS上に構築する必要があるのですか？
A. セキュリティと制御性を確保するためです。セルフホストにすることで、アクセス制限・ログ管理・外部連携などを自社要件に合わせて設計でき、企業利用に適した環境を構築できます。
Q. コストは本当に下がりますか？
A. 本事例では約22万円/月から5.5万円/月へ削減しました。ただしこれは「約60名規模で日常的に利用」「API従量課金へ移行」という条件下での結果です。利用頻度や人数によって変動しますが、固定費から変動費へ移ることで最適化しやすくなります。
Q. ノーコードでも実用的なアプリは作れますか？
A. はい。現時点では一部メンバーに依存する場面もありますが、テンプレート化とドキュメント整備を進めることで、非エンジニアでも業務特化アプリを作れる状態に近づきます。
Q. Difyでも結局属人化しませんか？
A. 設計次第です。チャットと違い、入力・処理・出力をアプリとして固定できるため、むしろ属人化は抑えやすくなります。ただしテンプレート設計や命名ルールを整備しないと再び分散するため、運用設計が重要です。
Q. セキュリティ面はChatGPTより安全ですか？
A. 少なくとも制御性は高まります。社内限定アクセス、API認証、ログ制御、学習データ不使用の担保などを組み合わせることで、自社基準に沿ったセキュリティ設計が可能です。
Q. 小規模な企業でも導入する価値はありますか？
A. ありますが、目的次第です。単なるチャット利用であれば過剰構成になる可能性があります。一方で「業務フローに組み込みたい」「属人化をなくしたい」という課題がある場合は、規模に関係なく効果が出やすいです。
ChatGPTの学びを活かし、Difyで進化：自社AI基盤の未来図
ChatGPT teamを全社導入して得たメリット（AIリテラシー向上や個人の業務改善）を引き継ぎながら、Dify×AWSで「業務フローへの本格的な組み込み」「利用状況に応じた変動課金」「高度なセキュリティ管理」を実現しています。
結果的に70％のコスト削減に加え、業務特化のアプリが次々に生まれる土台ができました。今後は、Difyのノーコード開発機能をさらに内製化し、社内の誰もが気軽にAIアプリを作れる環境を目指していきます。
「自社でもChatGPT teamに代わるAIプラットフォームを検討したい」「AWS上でDifyを構築して業務効率化を進めたい」などのご相談がございましたら、ぜひお気軽にお問い合わせください。弊社のエンジニアが、具体的な導入方法・コスト試算・セキュリティ要件の検討など、丁寧にサポートいたします。