Eagle/Eagle3投机推理

相比大小模型投机，Eagle/Eagle3投机仅有一层模型参数，同时使用历史生成的token和该token对应的hidden states作为投机模型的输入。这种方式提高了投机模型生成的效率。

适用场景：

不适用场景：

配置项	配置参数	取值类型	配置说明
--speculative-config	num_speculative_tokens	int	每次预测的 token 数量。
	method	str	投机方法："eagle"或者"eagle3"，视投机模型权重而定。
	model	str	投机模型路径。

基础模型	投机方法	投机模型权重
Qwen2.5-14B-Instruct	eagle	https://huggingface.co/Zjcxy-SmartAI/Eagle-Qwen2.5-14B-Instruct
Qwen3-8B	eagle3	https://huggingface.co/Tengyunw/qwen3_8b_eagle3
Qwen3-32B	eagle3	https://huggingface.co/AngelSlim/Qwen3-32B_eagle3

父主题： 投机推理

提供反馈

提交成功！非常感谢您的反馈，我们会继续努力做到更好！您可在我的云声建议查看反馈及问题处理状态。

系统繁忙，请稍后重试

在使用文档中是否遇到以下问题

内容与产品页面不一致

内容不易理解

缺失示例代码

步骤不可操作

搜不到想要的内容

缺少最佳实践

意见反馈（选填）

0/500

请至少选择一项反馈信息并填写问题反馈

字符长度不能超过500

直接提交取消

如您有其它疑问，您也可以通过华为云社区问答频道来与我们联系探讨