LEARNING
重新思考用于VLA初始化的VLM表示
Weifeng Lin, Siyuan Huang, Hao Li, Tingwei Chen, Ruichuan An, Xinyu Wei, Jianbo Liu, Hongsheng Li
- 发表年份
- 2026
- 访问权限
- 开放获取
摘要
本文系统研究了VLM表示在VLA初始化中的作用,发现原始预训练VLM表示是动作性能的关键,但具身VQA适配并非总是有益,且LoRA比全微调提供更可靠的初始化。通过分阶段LoRA训练结合机器人数据预训练可获得最佳VLA初始化效果。
关键词
Vision-Language-Action modelVLA initializationrepresentation learningLoRAembodied VQA
相关论文
LEARNING
📊 8,465 引用
The Organization of Behavior
D. O. Hebb
2005
LEARNING
📊 7,678 引用
Fractional Brownian Motions, Fractional Noises and Applications
Benoît B. Mandelbrot, John W. Van Ness
1968
LEARNING
开放获取📊 7,484 引用
Review of deep learning: concepts, CNN architectures, challenges, applications, future directions
Laith Alzubaidi, Jinglan Zhang, Amjad J. Humaidi 等 10 位作者
2021
LEARNING
📊 4,608 引用
A guide to deep learning in healthcare
Andre Esteva, Alexandre Robicquet, Bharath Ramsundar 等 10 位作者
2018