チャット機能
新しいチャットの作成
サイドバーの上部にある 「Create New Chat」 ボタンをクリックすると入力フォームが開きます。
各フィールドの説明は以下の通りです。
- Chat name
- チャット名を設定します。
- Flow
-
チャットの種類を選択します。
本アプリケーションでは、利用できるモデルや機能が異なる様々なチャットのタイプをフローと呼んでいます。 Fujitsu Research Portal 版では、以下のフローが利用可能です。
- Simple chat
- 生成AIとチャット形式で会話ができます。
- Fugaku-LLMは利用できません。
- Simple chat for Fugaku-LLM
- Fugaku-LLMを使う場合はこちらのフローを選択してください。
- Chat with retrievers
- ドキュメント管理機能で登録したリトリーバーを使って、ドキュメントを参照しながらのチャットが可能です。
- 本機能では、AIはすべての発言でドキュメントを参照します
- Fugaku-LLMは利用できません。
- Chat with retriever for Fugaku-LLM
- Fugaku-LLMで、ドキュメント参照を使う場合はこちらのフローを選択してください。
- Simple chat
- Retriever
-
ドキュメントを参照するフローを選択した場合、ドロップダウンメニューから対象となるリトリーバーを選択します。 リトリーバーは複数選択が可能です。 複数選択した場合、選択したすべてのリトリーバーから内容の検索が行われます。
ドキュメントを参照しないフローの場合は表示されません。
- Model
- 回答の生成に使うモデルを選択します。
- Create ボタン
- ボタンをクリックすると、新しいチャットが作成され、自動的にチャットの画面が開きます。 また、作成されたチャットがサイドバーメニューに追加されます。
AIとの会話
サイドバーにある、開きたいチャットのタブをクリックします。これによりチャットページに移動します。 チャットに既に会話がある場合は、チャット履歴が読み込まれます。ない場合は、新しい会話を開始できます。
AIとチャットするために、チャットページの下部のテキスト入力エリアに質問や発言を入力します。「Send」ボタンをクリックして入力を送信します。
AIからの応答が表示されます。
繰り返すことで、チャットを続けることができます。
フォームの利用
チャット入力欄の左下にある✨ ボタンを押すことで、チャットで利用可能なフォームが開きます。
表示されたフォームに値を入力し、sendボタンを押すことで、フォームの入力に応じた回答をAIが生成します。 いわゆる"プロンプトエンジニアリング"から、より複雑な処理まで、さまざまな機能拡張をフォームという形でチャットから呼び出すことが可能です。
Fujitsu Research Portal 版では、サンプルとして、「Word Explainer」というフォームが利用できます。
このフォームは「Word」に単語を入力することで、その単語の解説をAIが実施します。 その際、「Role」に、その単語をうまく説明できそうな職業や属性を入力することで、解説の質が向上する可能性があります。
メッセージに対する操作
会話ウィンドウの左下にあるアイコンクリックで以下のことが実施できます。
各アイコンの意味合いは左から以下のようになります
- <>マーク:テキスト⇔マークダウンの切り替えを行えます
- 盾マーク:幻覚検出機能を呼び出します
- ドキュメントマーク:AIの回答を表示するのに根拠とした登録ドキュメントの参照箇所を表示します(下部の画像参照)
- ゴミ箱ボタン:最後の会話を削除します
チャットの削除
チャット自体を削除したい場合は、チャットのタイトルの右にあるゴミ箱ボタンで削除することが出来ます。
削除したチャットは元に戻せませんので注意してください。
チャットの設定
チャットの設定を歯車アイコンのchat settingから変更することが出来ます。
Tokens Budget
AIモデルが利用するトークンを調整することが出来ます。
設定可能な項目は以下のようになります。
- history tokens
- チャット内の会話履歴の参照に利用する最大トークン。
- documents tokens
- 参照するドキュメントの最大トークン
- answer tokens
- 回答に利用される最大トークン
いずれも、利用されうる最大トークン数を制限するものになります。 例えばanswer tokens に1000を設定しても1000トークン数の出力を保証するものではありません。