LEARNING
LoRA微调模型用于控制系统课程问答:模型规模和秩效应的多维评估
Shaowen Lu, Chengxu Liu, Ping Zhou, Tao Yang
- 发表年份
- 2026
- 引用次数
- 0
- 访问权限
- 开放获取
摘要
本文利用线性控制系统课程的习题和参考答案构建了360个对话的监督微调数据集,并对Qwen2.5-3B和7B模型应用LoRA微调。通过ROUGE、BERTScore和结构化输出特征评估,发现LoRA提升了答案相似度和格式稳定性,其中7B-r16在ROUGE-L和BERTScore上表现最佳,而r=8在性能与参数效率间取得更好平衡。
关键词
LoRAfine-tuningcontrol systemsLLMeducation
相关论文
LEARNING
📊 8,465 引用
The Organization of Behavior
D. O. Hebb
2005
LEARNING
📊 7,678 引用
Fractional Brownian Motions, Fractional Noises and Applications
Benoît B. Mandelbrot, John W. Van Ness
1968
LEARNING
开放获取📊 7,484 引用
Review of deep learning: concepts, CNN architectures, challenges, applications, future directions
Laith Alzubaidi, Jinglan Zhang, Amjad J. Humaidi 等 10 位作者
2021
LEARNING
📊 4,608 引用
A guide to deep learning in healthcare
Andre Esteva, Alexandre Robicquet, Bharath Ramsundar 等 10 位作者
2018