E-Ink 新闻日报

返回列表

llm-all-models-async 0.1发布

Simon Willison发布了llm-all-models-async 0.1,这是一个通过线程池将同步LLM模型转换为异步版本的插件。该工具解决了同步插件与异步系统(如Datasette)的兼容性问题,并需要LLM 0.30中的新插件钩子机制支持。

背景

LLM是一个用于处理大语言模型的命令行工具和Python库,插件为其添加不同模型提供商的支持。异步支持对于Web框架和高效I/O操作至关重要。

来源
Simon Willison
发布时间
2026年4月1日 04:52
评分
5.0 / 10