Granite Switch 4.1 发布:聊天、决策与语音转写共用一个端点
Granite Switch 4.1 的 8B 和 30B 模型发布,可在单一托管端点中切换聊天、决策和语音转文本任务。
推荐理由:原文给出决策、语音转写与聊天共用一个端点的配置,读者可据此评估多任务模型在 GPU 显存上的取舍。
Granite Switch 4.1 的 8B 和 30B 模型发布,可在单一托管端点中切换聊天、决策和语音转文本任务。
推荐理由:原文给出决策、语音转写与聊天共用一个端点的配置,读者可据此评估多任务模型在 GPU 显存上的取舍。
作者称昆仑万维开源 Matrix-Game 4.0,单张 RTX 5090 可运行 480p 游戏世界模型,端到端延迟低于 150ms,显存峰值约 18.5 GiB。
推荐理由:原文把单张 5090 的延迟、显存与多卡集群对比,读者可据此判断消费级硬件运行游戏世界模型的可行性。