Hitachi

JP1 Cloud Service システム管理 生成AI連携 利用ガイド


2.2.4 質問文の文字数の設定(任意)

チャット機能で入力可能な質問文の文字数を変更する場合,設定ファイル(ai_assistant.yml)のui.chat.max_sizeの設定変更が必要になります。設定ファイルの変更方法は「3.1.1 設定ファイル(ai_assistant.yml)の変更方法」を参照してください。設定ファイルの詳細は「設定ファイル(ai_assistant.yml)」を参照してください。

この設定を変更すると入力可能な文字数を変更できますが,生成AIにできる質問の文字数は連携する生成AIサービスのモデルごとに決められた最大トークン数によって異なります。質問文で入力可能なトークン数の最大値は,「モデルの最大トークン数-質問文に追加するプロンプト-2048(AIの回答に許容する文字数)」になり,それより小さい値に設定する必要があります。