LLM入力を圧縮して処理トークンを削減するライブラリ
chopratejas/headroom Python
Agent add-onsRAG & search 🆓No extra cost
★70,383 +31/3h
AIエージェントが読む出力やログ、RAGチャンクなどを事前に圧縮し、LLMに送る前にトークン数を削減できるツール。ローカルで実行されるため情報漏洩の心配がない。ライブラリ・プロキシ・MCPサーバーなど複数の形式で利用可能。
🔥🔥🔥 ~5.1x normal pace 🔥Surge pace 5 months old Intermediate
🏷️20 tags