在AI帮助下如何用「1美元」买一辆大汽车｜提示词注入攻击

不二如是 · 发表于 2024-6-8 17:00:00

您需要登录才可以下载或查看，没有账号？立即注册

x

大语言模型在生成文本时非常依赖提示词。

通过提示词对模型进行攻击难以防范，将带来数据泄露等严重问题。

这种攻击被称为「提示词注入」。

从什么是「提示词注入」攻击到如何预防，来自IBM的工程师Jeff Crume用一个视频都为你讲明白了！

歌者文明清理员 · 发表于 2024-6-8 17:54:24

知人知面不知心

不二如是 · 发表于 2024-6-8 18:22:29

歌者文明清理员发表于 2024-6-8 17:54
知人知面不知心

哈哈哈，确实如此

某一个“天” · 发表于 2024-6-8 19:06:58

感谢分享

zhangchenyvn · 发表于 2024-6-9 15:17:33

本帖最后由 zhangchenyvn 于 2024-6-9 15:19 编辑

AI毕竟还是AI，只是一个模型，问得好就是人工智能，问得不好就……（语无伦次/胡套乱用，甚至是胡编乱造）
所以提示工程很重要

不二如是 · 发表于 2024-6-9 19:58:08

感谢分享

不二如是 · 发表于 2024-6-20 09:11:19

感谢分享

芜湖666 · 发表于 2024-6-20 09:56:56

感谢分享

学习编程中的Ben · 发表于 2024-7-19 22:39:41

感谢分享

青出于蓝 · 发表于 2024-7-20 11:38:42

感谢分享

chengwenjiang · 发表于 2024-8-19 13:45:01

感谢分享

账号		自动登录	找回密码
密码			立即注册

[最新资讯] 在AI帮助下如何用「1美元」买一辆大汽车｜提示词注入攻击