Granite Switch 4.1 发布:聊天、决策与语音转写共用一个端点
Granite Switch 4.1 的 8B 和 30B 模型发布,可在单一托管端点中切换聊天、决策和语音转文本任务。
推荐理由:原文给出决策、语音转写与聊天共用一个端点的配置,读者可据此评估多任务模型在 GPU 显存上的取舍。
Granite Switch 4.1 的 8B 和 30B 模型发布,可在单一托管端点中切换聊天、决策和语音转文本任务。
推荐理由:原文给出决策、语音转写与聊天共用一个端点的配置,读者可据此评估多任务模型在 GPU 显存上的取舍。
NVIDIA 与北欧展示先进计算生态进展,覆盖投资、超算、AI 云及企业应用。瑞典 Sferical One 超算运行两个 DGX SuperPODs、16 机架 DGX GB300 和 1,152 个 GPU。Klang 的 Pianissimo 比最准确替代方案快 64x,已在 Hugging Face 开放。