Odaily星球日报讯 Tether AI 正式推出开源 TurboQuant 技术,并将其整合至 QVAC SDK 0.12.0 版本。该技术基于谷歌研究院内存压缩算法,可在基本不损耗输出质量的前提下,将大语言模型 KV 缓存最高压缩 5 倍,大幅降低设备内存压力。TurboQuant 可适配笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络,让本地 AI 流畅处理复杂任务,兼顾数据隐私与