OTHER
从令牌到能源灵活性：面向LLM推理工作负载的数据中心量化使能需求响应
Bojun Du, Xiaoyi Fan, Ershun Du, Long Chen, Jianpei Han, Qingchun Hou, Ning Zhang, Chongqing Kang
- 发表年份
- 2026
- 访问权限
- 开放获取
摘要
本文提出了一种量化使能的能源管理框架，用于支持电网需求响应的LLM推理数据中心。通过建立量化到功率的模型和两阶段需求响应模型，实现了模型实例切换、请求路由和精度选择的协同优化。
关键词
demand responseLLM inferenceenergy managementmodel quantizationdata center
相关论文
OTHER
📊 26,957 引用
Statistical Learning Theory
Yuhai Wu, Vladimir Vapnik
1999
OTHER
开放获取📊 20,501 引用
Fractional Differential Equations
Igor Podlubný
2025
OTHER
📊 18,993 引用
Applied Nonlinear Control
Jean-Jacques Slotine, Weiping Li
1991
OTHER
📊 13,277 引用
Genetic Programming: On the Programming of Computers by Means of Natural Selection
John R. Koza
1992