AI的致命弱点揭秘：一张小贴片如何迷惑深度学习模型？

不二如是 · 发表于 2024-5-6 18:00:00

您需要登录才可以下载或查看，没有账号？立即注册

x

本帖最后由不二如是于 2024-5-5 18:07 编辑

bad12a23951296b022357519b5ade622e72959bc.jpg@320w_200h.jpeg

在线学习：

在对抗样本攻击中，攻击者总是希望尽可能减少扰动程度，以避免被发现，但是在对抗补丁攻击中，攻击者不再将自己限制在难以察觉的变化中。

该攻击方案会生成一个与图像无关的补丁，然后可以将此补丁放置在图像中的任何位置，如此便能攻击分类器，让其输出指定的目标类别。

补丁示意图：

游客，如果您要查看本帖隐藏内容请回复

sunshine_8205 · 发表于 2024-5-6 19:37:28

tomok · 发表于 2024-5-7 08:50:38

账号		自动登录	找回密码
密码			立即注册

[大语言模型] AI的致命弱点揭秘：一张小贴片如何迷惑深度学习模型？