初めまして。プログラミングスクールに通う初学者です。
今回自分で開発したアプリケーションにdocker、circleCIを導入し、AWSで自動デプロイできる様になりたくて教えていただける方を探しています。
プロフィールをもっとみる
--
募集をシェアしてメンターを探そう
※ この募集は締め切られました。
PythonとLangChainチャットボットにおける会話履歴送信時のトークン削減方法
6月11日
単発
予算
10,000円
提案数
3人が提案中
応募期限
終了
【教えてもらいたいこと】
プログラミング/サーバーサイド
【具体的な相談内容】
チャット機能を開発中です。
pythonでソースコードを記述し、LangChainを利用してLLMとやり取りを行なっています。
チャットの会話履歴はElasticSearchに保存します。
毎回APIリクエストに会話履歴を原文のまま入れていますので、その文トークンが枯渇する恐れがあります。
トークンの残を検知し、前の会話を要約したり、消したりする方法を教えて欲しいです。
ConversationSummaryBufferMemoryなどを利用するのかと思いますが、プログラミングは経験が少なく、ご教授いただけると幸いです。
【目安予算】
10000円