llm-echo 0.5
发布:llm-echo 0.5 我正在筹备一个新的LLM版本,而在测试Pull Request时,我又重新审视了llm-echo调试插件。这个插件提供了一个“模型”,它完全不涉及任何LLM——只是原样回显输入的提示内容。新版本现已更新了模拟的token使用统计,将工具调用、系统提示以及推理token都纳入考量。示例用法如下:uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 输出结果: 首先我考虑提示内容,然后决定该说些什么。{ "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } Token使用情况:输入2个,输出24个 标签:llm