E-Ink 新闻日报

← 返回列表

ggml v1.0.0正式版发布

ggml发布首个稳定版v1.0.0,这是llama.cpp等项目的核心张量库。此次更新清理了废弃API,新增YaRN截断配置和FP8支持,并在CUDA/Metal MoE融合、Vulkan FlashAttention、WebGPU内核等方面带来广泛的多后端性能优化。

背景

ggml是由Georgi Gerganov开发的核心张量库,支持在消费级硬件上高效运行本地大语言模型。它是llama.cpp的底层基础,被开源AI社区广泛用于高效推理量化模型。

来源
hackernews
发布时间
2026年11月14日 10:28
评分
7.0 / 10