通过数据投毒实现隐蔽的世界模型操纵

Yibin Hu, Xiaolin Sun, Zizhan Zheng

摘要

本文提出SWAAP，首个针对学习型世界模型的两阶段数据投毒框架。该框架通过双层优化识别有害目标模型，并利用梯度匹配和预测误差正则化实现隐蔽攻击，仅修改少量微调数据即可操纵下游规划。

data poisoningworld modeladversarial attackmodel-based RLbilevel optimization

LEARNING

📊 8,465 引用

D. O. Hebb

2005

LEARNING

📊 7,678 引用

Benoît B. Mandelbrot, John W. Van Ness

1968

LEARNING

开放获取📊 7,484 引用

Laith Alzubaidi, Jinglan Zhang, Amjad J. Humaidi 等 10 位作者

2021

LEARNING

📊 4,608 引用

Andre Esteva, Alexandre Robicquet, Bharath Ramsundar 等 10 位作者

2018