DeepSeek V4 Flash现身Nvidia DGX Spark，本地多模型切换速度惊人

概述

近日，针对Nvidia DGX Spark设备的推理引擎 Athena 引发业界关注。该引擎支持在同一台设备上同时部署 DeepSeek V4 Flash 与 Qwen3.8 Flash-Next 两款大模型，并通过高效的上下文管理技术，实现了极速的多模型切换能力。这一突破使得本地化部署多模型智能体服务器成为可能，极大地降低了企业及个人开发者的使用门槛。

技术架构与性能表现

Athena引擎专为Nvidia GB10系统设计，充分利用了DGX Spark 128GB内存资源。由于单卡无法同时加载两个超大模型，Athena采用独特的检查点机制：在卸载当前模型并加载新模型的过程中，能够保留智能体会话状态，实现无缝切换。实测数据显示，模型切换耗时仅约 46秒，且全程保持OpenAI/Anthropic兼容API端点不变，客户端无需任何改动即可使用。

在性能方面，单卡运行DeepSeek V4 Flash时，8K上下文预填充速度达1,126 tps，256K上下文下预填充速度为948 tps，解码速度（@256K）为19.4 tps。Qwen3.8 Flash-Next表现同样亮眼，256K上下文解码速度高达 32.1 tps，超越了前者。令人瞩目的是，从8K扩展至256K上下文时，预填充性能几乎没有损耗。

工具调用能力与缓存优化

Athena内置的评估体系包含69个场景、52种可用工具，重点测试链式调用、错误恢复及-schema-valid JSON输出等能力。两款量化模型在工具使用评测中均获得 91/100 的高分，显示出强大的复杂任务处理能力。尽管在处理特定工具输出提示注入场景时存在挑战，但整体表现已满足绝大多数实际应用需求。

引擎还引入了磁盘缓存机制，显著提升了长对话的响应速度。一份长达 141,519 token 的对话记录，通过缓存恢复仅需2.1秒，而重新处理则需约2分20秒，效率提升超过60倍。此外，Athena支持投机解码、Qwen图像/文档输入及持久化智能体上下文，并可通过Docker便捷安装。

应用前景

目前，Athena已开源用于个人、研究及教育用途，但其核心引擎仍为闭源商业产品。开发者David Hendrickson指出，这一方案完美契合了“单台桌面设备运行巨型模型、超长上下文及实用速度”的需求愿景。随着Athena的普及，本地多模型协作将成为边缘计算与私有化部署的重要趋势。