Skip to content

ver3からRAGチャットの会話履歴が通常のチャットとして保存され、追加でRAG問い合わせが出来ない。 #894

New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Open
masno-soy opened this issue Feb 13, 2025 · 1 comment

Comments

@masno-soy
Copy link

バグの説明
ver3のGenUから、RAGチャットでの会話履歴が「チャット」として保存され、会話履歴からアクセスすると継続したRAGチャットが利用出来ない。

再現手順

  1. 'RAGチャット'に移動する
  2. 入力欄に文章を入力しRAGチャットを行う
  3. '会話履歴'に2の会話履歴が登録される
  4. '会話履歴 > 2の会話履歴'をクリックする
  5. 会話の続きを実施しようとするとRAGへの問い合わせが出来ない
  6. 画面右上の「システムプロンプトの表示」のトグルをオンにする
  7. 「チャット」のプロンプトが表示され、RAGチャットでの保存がされていない

確認した内容
・ver2では会話履歴から問い合わせを継続した際、RAGチャットとして機能していた。
・ver2ではシステムプロンプトもRAGチャットの内容が表示されている。
・「要約」の場合、ver3でも要約として会話履歴が保存される
(RAGのみが会話履歴として保存されていない?)

スクリーンショット
Image

@masno-soy masno-soy added the bug Something isn't working label Feb 13, 2025
@maekawataiki
Copy link
Collaborator

@masno-soy Issue 起票ありがとうございます。

現状の仕様としては履歴から開くと全て Chat Usecase になります。v2 で RAG チャットの履歴から開いた場合は Chat Usecase 扱いとなり、それまでの会話履歴を元にした Chat が可能ですが新規の Retrieval は発生しない認識です。

v2 以前では System Prompt を利用していたため RAG 向けの System Prompt が表示されていますが v3 からは Bedrock から Bedrock Agent に変えた際に System Prompt 使わなくなっているため表示されている System Prompt がデフォルトのものになっています。現状 Bedrock ではなく Bedrock Agent を利用しているのは RAG チャットと Agent チャットだけでこの2つのユースケースにてこの挙動となっています。

改善の方向性としては

  1. 履歴を開いた際に一律 Chat Usecase をやめて適切なユースケースに Routing する
  2. セッション保持期間中はセッションを再開できるようにする。(Agent の場合最大 365 日まで延長可能。RAG の場合 24 時間まで)

を考えています。

@tbrand tbrand removed the bug Something isn't working label Feb 28, 2025
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants