- Cohere Chat UI
https://huggingface.co/spaces/Nyanfa/cohere-chat-ui
メッセージは月毎に1000回まで。 - Prem Chat UI (更新停止)
https://huggingface.co/spaces/Nyanfa/prem-chat-ui
注意: Claude 3 OpusはFree Planは無し, Pro Planは月に20回, Business Planは月200回になりました。
注意: メッセージ送信毎にAPIs traces usedが増えていく。残量はPrem公式の自分の名前のアイコン→Organizationから確認できる。(毎月リセット)
公式のLabだと別カウント。 - Claude Chat UI
https://huggingface.co/spaces/Nyanfa/claude-chat-ui
Claude公式API用。 - Nvidia Chat UI
https://huggingface.co/spaces/Nyanfa/nvidia-chat
nvidia/nemotron-4-340b-instruct用。
どちらのUIもページをリロードするとログが消えるため、サイドバーのCopy Conversation Historyからこまめにコピーしてメモ帳か何かに保存を推奨。
続きをしたいときはRestore Historyにログを貼り付けてボタンを押してください。
説明書
まずAPIキーを入力。Premの方はProject IDも入力。
メイン画面
改行はShift + Enter。
Edit: 編集。Saveで保存、Cancelでキャンセル。
Delete: 削除。Enable Delete buttonがオンのとき表示される。
Copy: クリップボードにコピーする。
Retry: 再生成。
サイドバー
左上の>
から開ける。
Settingsタブ
Copy Conversation History: メッセージ履歴を全てコピー。
Display History as Code Block: メッセージ履歴をコードブロックで表示。右上のマークからコピーできる。Hide Historyでたたむ。
Enable Delete button: オンにするとDeleteが表示される。
Use Continue instead of Retry: オンにするとRetryボタンを押した時に最後の応答をそのままprefillとして送信し、続きを出力する。
Advanced Settings
Model: 使用するモデルを選択できる。
Preamble (Cohere) / System prompt (Prem): システムプロンプト。
Prefill (Claude, Prem): Claudeでのみ動作。アシスタントの発言の最初の文字列を指定する。チャット入力欄で@プレフィルコマンドを使うとここに保存される。
@プレフィルコマンドの使用例
「小説を書いてください@ぷれふぃる はい、喜んで!小説を書くのは大歓迎です。まず、」と入力する。
すると、アシスタントの発言が「はい、喜んで!小説を書くのは大歓迎です。まず、」から始まる。
@prefill、@ぷれふぃる、@プレフィル、どれでも可。@は半角でも全角でもいい。
Save the @prefill... (Prem): オンだと@プレフィルコマンドを使った時にサイドバーに文字列を保存し、次回以降も文字列をアシスタントの発言の最初に挿入する。
Temperature: 温度。高いほどランダム度が上がる。
Top-K (Claude, Cohere): Claude曰く、ステップで生成される可能性が高いトークンの数を設定できます。値を大きくすると、より多様なトークンが考慮されますが、生成されるテキストの関連性が低くなる可能性があります。
Top-P: Claude曰く、各ステップで生成される可能性が高いトークンの累積確率を設定できます。値が小さいほど、より確率の高いトークンに集中し、生成されるテキストの多様性が低くなります。「Top-K」と「Top-P」の両方が有効な場合、「Top-P」は「Top-K」の後に適用されます。
Penalty Type: 繰り返しペナルティの種類を選べる。
Penalty Value: ペナルティの値。高いほど繰り返しにペナルティをかける。
Restore History: メッセージ履歴の復元。Copy Conversation Historyでコピーした履歴をペーストしてボタンを押せば復元できる。
Clear History: メッセージ履歴を全て削除。
Change API Key (Cohere): 使用するAPIキーの変更。
Change API Key or Project ID (Prem): 使用するAPIキーとProject IDの変更。
Appearanceタブ
Font Selection: フォントの変更。
Change the user's icon: ユーザーのアイコンの変更。
Change the assistant's icon: アシスタントのアイコンの変更。
バグ
- サイドバーのボタンを押すとフォントやアイコンの設定が初期状態になってしまう
- 右上の3つの点のメニューからRerunをすれば設定が適用されます
更新履歴
2024
10/24
- (Claude) モデルにclaude-3-5-sonnet-20241022を追加
10/13
- (Cohere) APIをv2に更新
- (Cohere) txt、pdfでのRAGに対応
- (Cohere) PauseキーでCopy Conversation Historyを呼び出す機能を追加 (Contributor: Discordのmml氏)
9/12
- (Claude) 例外メッセージが別枠に表示されるように変更 (Contributor: Discordのmml氏)
- (Claude) PauseキーでCopy Conversation Historyを呼び出す機能を追加 (Contributor: Discordのmml氏)
8/31
- (Claude) api_keyキーをファイルから読み込む機能(ローカル実行用)
- (Claude) メッセージごとにトークン数表示(不正確)
- (Claude) トークン数一覧表示(不正確)
- (Claude) コンテキスト長制限機能
- 単位Truns: 0で無制限。1で今入力したユーザー発言のみ使用(つまり記憶無し)。2で1つ前のユーザー&アシスタントの会話ログまで使用。
- 単位Tokens: 0で無制限。「システムプロンプト+会話ログ+ユーザー発言+Prefill」が指定トークン数に収まるように会話ログを切り詰める。
(以上全てContributor: Discordのmml氏)
8/26
- (Cohere) モデルにcommand-r-08-2024を追加
7/15
- Nvidia Chat UIを追加
7/10
- (Claude) Continue機能を追加。(Contributor: Discordのmml氏)
- (Claude) 例外を捕捉しメッセージ末尾に追加するように変更(Contributor: 同上)
6/21
- (Claude) モデルにClaude 3.5 Sonnetを追加
5/15
- Claude Chat UIを追加
5/8
- フォントサイズとアイコンサイズの変更を追加(Contributor: ★31 >>538)
5/6
- (Prem) Top Pのデフォルト値を1.00に変更
- (Cohere) Display History as Code Blockボタンを追加
5/5
- (Prem) Display History as Code Blockボタンを追加
5/4
- (Prem) Prefillの最初と最後の空白文字を除去する処理を追加
5/2
- フォント変更とアイコン変更を追加
4/30
- Delete ModeをEnable Delete buttonに変更
4/29
- Delete Modeを追加