feat: 予測入力機能の改善

[ensan-hcl]

GitHub Copilotを意識しつつ、いくつかの改善を加える。

自動補完

現在の実装ではユーザが能動的に予測をリクエストする設計になっているが、これを自動化し、何もしなくても勝手に予測が表示されるようにする。これはGitHub Copilotを模した動作である。

複数候補表示

現在単一の候補しか表示できていないが、上下に複数の候補を表示するとよい。上下キーはカーソル移動を奪う問題がありそうなので、タブで選択できるようにするのが望ましい？

キャッシュ管理

都度OpenAI APIを呼ぶとみるみるクレジットを消費するので、効率的にキャッシュを当てたい。このためにSuggestionManagerというクラスを新規に追加し、ある程度の補完候補はキャッシュしておく。また、「文字の削除」「文字の追加」などの際に候補の更新の必要の有無もここで管理するとよい。

英語対応

現在日本語モードでしか補完が行われないが、日本語話者としては英語でこそ補完が欲しい。

プロンプトの改善

現状、あまり有用な候補が現れない。アプリケーションの情報を渡すなど、改善したい。

他社API・ローカルLLM

GeminiやClaudeなど、他社のAPIを用いることができるようにしたい。また、ローカルLLMのエンドポイントにアクセスできると望ましい。

[ensan-hcl]

関連PR

• experimental: ChatGPT APIを利用した予測入力機能のベースを実装 #78
• fix: Suggestのショートカットを既存のキーバインドと競合しないctrl + sに変更 #85
• feat: ChatGPTによる変換候補の提案機能 #86