the surrogate is activated only when its agreement with the LLM exceeds a user-specified threshold α
大多数人认为模型部署应该是全有或全无的，要么完全替代原模型要么完全不使用。但作者提出了一种'部分激活'的激进方法，只在代理模型与原模型达到特定一致性阈值时才使用代理，这种细粒度的控制方式打破了传统的二元部署思维。
1 Matching Annotations
- Last 7 days
-
huggingface.co huggingface.co
-