設計書、解析データ、品質レポート、研究資料などの機密性の高い情報を安全に活用するため、オンプレミス環境によるローカルLLM基盤を構築するにあたり、 クラウド型生成AIでは情報漏洩や外部データ保存への懸念がある為、GPU搭載HPCサーバーを導入することで、社内閉域環境内で完結する安全な生成AI運用を 実現するために導入。さらに、高性能GPUによる高速推論処理により、大容量ドキュメントの検索や要約、技術問い合わせ対応、設計ナレッジ活用などを スムーズに実行させ、社内文書を活用した高精度な回答生成を実現し、技術部門や研究開発部門の業務効率化にも期待しています また、将来的なモデル拡張やGPU追加にも柔軟に対応できる構成としたことで、PoCから本格運用まで段階的に拡張可能なAI基盤として活用しています。