目次

• 前書き

• 変更内容

• はじめに

• 1.　JP1 Cloud Service生成AI連携の概要

  • 1.1　利用可能なWebブラウザ

  • 1.2　機能概要

  • 1.3　チャット画面

    • 1.3.1　ハイパーリンク表示

    • 1.3.2　ワークフロー選択（02-30以降）

    • 1.3.3　レコメンド（02-30以降）

  • 1.4　質問文生成機能

  • 1.5　問い合わせ機能

    • 1.5.1　問い合わせ送信機能

    • 1.5.2　ワークフロー作成機能（02-30以降）

    • 1.5.3　プロンプト作成機能

    • 1.5.4　ユーザーコンテンツ取得機能

    • 1.5.5　運用管理データ取得機能（02-30以降）

    • 1.5.6　ユーザープログラム呼び出し機能（02-40以降）

  • 1.6　会話履歴

    • 1.6.1　会話履歴管理機能

    • 1.6.2　会話履歴出力機能

  • 1.7　ログ出力機能

    • 1.7.1　ログ出力機能の概要

    • 1.7.2　ログのダウンロード方法

• 2.　JP1 Cloud Service 生成AI連携の構築

  • 2.1　事前に準備するもの

    • 2.1.1　システム管理の準備

    • 2.1.2　お客様が用意するもの

    • 2.1.3　インデックスの作成（任意）

  • 2.2　セットアップ

    • 2.2.1　生成AIサービスとの連携設定

    • 2.2.2　検索サービスの接続設定

    • 2.2.3　ワークフローの設定（02-30以降）

    • 2.2.4　質問文生成機能の設定（任意）

    • 2.2.5　質問文の文字数の設定（任意）

    • 2.2.6　ログの追加出力の設定（任意）

    • 2.2.7　任意のリンク作成の設定（任意）

    • 2.2.8　ユーザープログラムの設定（任意）（02-40以降）

  • 2.3　アンセットアップ

• 3.　JP1 Cloud Service 生成AI連携の運用

  • 3.1　設定変更

    • 3.1.1　定義ファイルの変更方法

    • 3.1.2　シークレットの追加・変更・削除方法

    • 3.1.3　連携する生成AIサービスの変更

    • 3.1.4　連携する検索サービスの追加・変更・削除

    • 3.1.5　画面設定の変更

    • 3.1.6　ログの追加出力の設定変更

    • 3.1.7　ワークフローの変更（任意）（02-30以降）

    • 3.1.8　プロンプトの設定（任意）（02-30以降）

    • 3.1.9　ツールプロンプトの設定（任意）（02-40以降）

    • 3.1.10　ユーザープログラムの連携設定の変更（任意）（02-40以降）

• 4.　JP1 Cloud Service システム管理への影響

  • 4.1　SIDの追加

• 5.　トラブルシューティング

  • 5.1　トラブルシューティング

    • 5.1.1　新規スレッドを作成できない

    • 5.1.2　チャット画面のバナーに「保存できる会話履歴の上限に達しました。不要なスレッドを削除してください。スレッドが削除されるまで表示されている会話内容は保存されません。」と表示される。

    • 5.1.3　質問エリアへの入力が以下のような不安定な状態となる。

    • 5.1.4　検索サービスを利用した質問の回答が行われない。

    • 5.1.5　任意のリンクを作成するプロンプトに変更したが，作成されない／ハイパーリンク化しない。

    • 5.1.6　KNBD20024-Eのエラー詳細で，"Failed to retrieve a response from the assistant. Please try again."が頻発する。

    • 5.1.7　回答内容が"Sorry, need more steps to process this request"となる。

    • 5.1.8　意図しないXMLタグが回答に付与される／Markdown記法で返却される。

    • 5.1.9　回答に含まれるURLがハイパーリンク化せず，リンクが途中で途切れてしまう

    • 5.1.10　レコメンドが表示されない／精度が低い

    • 5.1.11　KNBD20030-Eのエラー詳細で，"The input for the DataModel that generated by the AI was invalid."が頻発し，ツールの実行に失敗する

    • 5.1.12　利用できる生成AIモデルが提供終了となった

    • 5.1.13　問い合わせ時に「KNBD20024-E 生成AI連携基盤による問い合わせ実行処理でエラーが発生しました。エラー内容: Invalid tool is called by the generative AI. Error: The tool call is empty, so the tool cannot be called.またはKNBD20010-E 連携するazure openaiへの接続に失敗しました。接続情報を確認してください。エラー内容：Error code: 400 - {'error': {'message': 'Could not finish the message because max_tokens or model output limit was reached. Please try again with higher max_tokens.', 'type': 'invalid_request_error', 'param': None, 'code': None}}」というエラーが返却される。

    • 5.1.14　問い合わせ時に「KNBD20024-E 生成AI連携基盤による問い合わせ実行処理でエラーが発生しました。エラー内容: Failed to retrieve a response from the assistant(＜operator|agent＞: ＜ノードの名前＞). Please try again.」

    • 5.1.15　問い合わせ時にtemperatureがデフォルト以外で失敗する。

• 6.　リファレンス

  • 6.1　定義ファイル

    • 6.1.1　設定ファイル（ai_assistant.yml）

    • 6.1.2　プロンプト定義ファイル（prompts.chat.ja.yml）

    • 6.1.3　ツールプロンプト定義ファイル（tools.ja.yml）（02-40以降）

  • 6.2　メッセージ

    • 6.2.1　メッセージの概要

    • 6.2.2　メッセージ一覧

• 付録

  • 付録A　連携サービス

    • 付録A.1　Azure Open AI

    • 付録A.2　Azure AI Search

    • 付録A.3　Amazon Bedrock

    • 付録A.4　Knowledge Bases for Amazon Bedrock

  • 付録B　プロンプト

    • 付録B.1　02-40以降のプロンプトのデフォルト

    • 付録B.2　02-30以降のプロンプトのデフォルト

    • 付録B.3　02-20以前のプロンプトのデフォルト

  • 付録C　ハイパーリンク表示の仕様

  • 付録D　ワークフローの定義例

  • 付録E　各バージョンの変更内容

    • 付録E.1　02-50の変更内容

    • 付録E.2　02-40の変更内容

    • 付録E.3　02-30の変更内容

    • 付録E.4　02-20の変更内容

  • 付録F　用語解説

• 索引