Vertex AIでのネイティブグラウンディングに向けたElasticsearchの連携による生成AIの最適化と最先端オブザーバビリティ・セキュリティ

Aaron Koga

ソリューション・アーキテクト

Elasticsearch株式会社

LLMは、コンテンツ生成、RAG（Retrieval-Augmented Generation）、データ分析といった新たなユースケースを可能にする一方で、可視性、制御、コスト管理の重要性も増しています。Elasticsearchのグラウディングにより、生成AIのアウトプットを向上し、自社データに基づいた信頼性の高い応答を実現できます。また、Vertex AIとの連携により、LLMのコストやパフォーマンスを可視化する高度なオブザーバビリティを提供。さらに、LLMとの連携の例としてセキュリティ運用の効率化が実現できる弊社のAI機能をご紹介します。

本セッションでは以下の内容を取り上げます：

• ElasticsearchのグラウンディングによるLLMアプリケーションの信頼性向上
• マルチモーダルのグラウンディングも含めるRAGアプリケーションのデモ
• 様々なモデル・プロンプト等を容易にテストできるElasticsearchのPlaygroundのご紹介
• Elastic ObservabilityにおけるLLMパフォーマンス・コストの可視化
• Elastic SecurityにおけるAI機能のご紹介：RAGの機能によりセキュリティ運用の効率化に貢献