不二如是 发表于 2024-6-8 17:00:00

在AI帮助下如何用「1美元」买一辆大汽车｜提示词注入攻击



大语言模型在生成文本时非常依赖提示词。

通过提示词对模型进行攻击难以防范，将带来数据泄露等严重问题。

https://www.bilibili.com/video/BV1Ex4y1b7a7

这种攻击被称为「提示词注入」。

从什么是「提示词注入」攻击到如何预防，来自IBM的工程师Jeff Crume用一个视频都为你讲明白了！

歌者文明清理员 发表于 2024-6-8 17:54:24

知人知面不知心

不二如是 发表于 2024-6-8 18:22:29

歌者文明清理员 发表于 2024-6-8 17:54
知人知面不知心

哈哈哈，确实如此

某一个“天” 发表于 2024-6-8 19:06:58

感谢分享

zhangchenyvn 发表于 2024-6-9 15:17:33

本帖最后由 zhangchenyvn 于 2024-6-9 15:19 编辑

AI毕竟还是AI，只是一个模型，问得好就是人工智能，问得不好就……（语无伦次/胡套乱用，甚至是胡编乱造）
所以提示工程很重要

不二如是 发表于 2024-6-9 19:58:08

感谢分享

不二如是 发表于 2024-6-20 09:11:19

感谢分享

芜湖666 发表于 2024-6-20 09:56:56

感谢分享

学习编程中的Ben 发表于 2024-7-19 22:39:41

感谢分享

青出于蓝 发表于 2024-7-20 11:38:42

感谢分享

chengwenjiang 发表于 2024-8-19 13:45:01

感谢分享
页: [1]
查看完整版本: 在AI帮助下如何用「1美元」买一辆大汽车｜提示词注入攻击