Hitachi

JP1 Cloud Service システム管理 生成AI連携 利用ガイド


付録A.1 Azure Open AI

利用料金に関連する主なパラメータは以下の通りです。

#

パラメータ名

説明

1

リージョン

本サービスを利用するリージョン。

2

モデル(バージョン)

生成AIのモデル。

3

プロンプトのトークン数

LangChainが生成AIへ入力するトークン数。1つの問い合わせ文に対し,LangChainから生成AIへ入力したトークンの合計数。

4

完了のトークン数

生成AIがLangChainへ出力するトークン数。1つの問い合わせ文に対し,生成AIがLangChainへ出力したトークンの合計数。

例1

たとえば,下記の場合,利用料金は,1問い合わせあたり,およそ$0.01です。

生成AI連携において,ドキュメント検索サービスの連携は無い状態とします。

問い合わせ文:

CPU使用率が高くなっています。考えられる原因を教えてください。

#

パラメータ名

1

リージョン

Japan East

2

モデル名(バージョン)

gpt-35-turbo (0613)

3

プロンプトのトークン数

2410

4

完了のトークン数

690

注※

同じ問い合わせ文を5回実施した結果の平均値を示します。小数点以下は切り上げています。

例2

たとえば,下記の場合,利用料金は,1問い合わせあたり,およそ$0.15です。

生成AI連携において,ドキュメント検索サービスの連携がある状態とします。

ここでのドキュメント検索サービスの連携は,サンプルコンテンツ「JP1CloudService-生成AI連携_サンプルコンテンツ_インデックス作成手順例.zip」に沿うものとします。

問い合わせ文:

ITシステム「サンプルシステム」では,どのポートを監視すべきですか。検索して教えてください。

#

パラメータ名

1

リージョン

Australia East

2

モデル名 (バージョン)

gpt-4 (0613)

3

プロンプトのトークン数

4033

4

完了のトークン数

404

注※

同じ問い合わせ文を5回実施した結果の平均値を示します。