揭示视觉语言模型可解释的故障模式

Isha Chaudhary, Vedaant V Jain, Kavya Sachdeva, Sayan Ranu, Gagandeep Singh

摘要

本文提出了REVELIO框架，用于系统性地发现视觉语言模型（VLM）中可解释的故障模式。该框架结合多样性感知波束搜索和高斯过程汤普森采样策略，在自动驾驶和室内机器人领域成功识别出先前未报告的漏洞。

VLMfailure modeinterpretabilityautonomous drivingrobotics

PERCEPTION

📊 22,245 引用

1995

PERCEPTION

📊 14,348 引用

Andreas Geiger, P Lenz, R. Urtasun

2012

PERCEPTION

开放获取📊 9,777 引用

Martı́n Abadi, Ashish Agarwal, Paul Barham 等 20 位作者

2016

PERCEPTION

📊 9,681 引用

Andreas Geiger, Philip Lenz, Christoph Stiller 等 4 位作者

2013