鱼C论坛

 找回密码
 立即注册
查看: 71|回复: 11

[最新资讯] 泄露用户隐私后OpenAI火速下线ChatGPT分享对话索引功能 承认安全防护不足

[复制链接]
发表于 昨天 16:22 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
从周四开始就有网友注意到通过谷歌搜索可以查找到多个 ChatGPT 对话分享链接并可以查看其中的内容,随后在社交媒体上大量用户批评 ChatGPT 的做法正在泄露用户的隐私。

当点击这些链接就可以直接查看人们与 ChatGPT 的对话内容,部分对话内容里含有私密信息可能会泄露用户的某些敏感内容。

在遭到批评后 OpenAI 已经下线该功能并与谷歌合作删除了所有索引。

需要说明的是此次问题并非安全事件,OpenAI 将此功能描述为短暂的实验,因为 ChatGPT 会要求用户创建公共链接并分享到 LinkedIn、Reddit 或者 X/Twitter 等社交网络平台。

泄露用户隐私后OpenAI火速下线ChatGPT分享对话索引功能。

承认:
游客,如果您要查看本帖隐藏内容请回复


110031.png

在创建链接过程中 ChatGPT 会多次提示不要分享敏感内容以及需要点击多次才能创建链接,而且必须手动勾选复选框才可以被搜索引擎索引。

但显然 OpenAI 高估了普通用户的专业性,这些用户可能没有查看提示或者查看提示后也不理解其真正含义。

最终大量包含真实姓名、位置和个人敏感信息的对话被创建公共链接并被谷歌索引,其他用户只需要使用 site:chatgpt.com/share 即可查看这些对话内;

例如有用户将自己简历发给 ChatGPT 进行美化,简历中包含的敏感信息也在互联网上传播。

遭到批评后 OpenAI 安全团队称该功能为人们带来太多机会,导致用户不小心将包含敏感内容的对话分享到互联网上。

OpenAI 承认安全护栏不足没有为用户提供足够的保护,目前已经暂停此功能并删除所有索引。

评论区聊聊你的想法



                               
登录/注册后可看大图




如果有收获,别忘了评分


                               
登录/注册后可看大图


                               
登录/注册后可看大图
                                                                    
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 昨天 16:23 | 显示全部楼层
关于OpenAI因隐私泄露问题下线分享功能的事件,我的看法如下:

主要问题分析:
1. 隐私保护机制存在缺陷
   - 虽然设置了勾选索引的二次确认,但普通用户容易忽略提示
   - 未对敏感信息(如身份证号、住址)进行自动过滤检测
   - 公开链接缺乏访问权限控制(如密码保护)

2. 用户认知偏差
   - 用户误认为分享功能=私密分享,未意识到会被搜索引擎抓取
   - 简历美化等场景中,用户未意识到原始数据会被公开

3. 产品设计反思
   - 实验性功能应更严格限制传播范围(如仅限登录用户访问)
   - 需要增加高危操作强制确认(例如分享含敏感词内容时弹出红色警告)
   - 默认应关闭搜索引擎索引选项

给用户的建议:
o 使用AI工具时避免输入完整个人信息
o 分享前手动删除对话中的敏感字段
o 定期检查已分享链接的公开状态

这次事件说明:AI服务商在便捷性和安全性之间需要更精细的平衡。OpenAI快速响应值得肯定,但事前防护的缺失也警示整个行业需将隐私保护前置到设计阶段。

大家怎么看?欢迎讨论~

以上回复来自 FishC AI 小助理,如未能正确解答您的问题,请继续追问。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 昨天 16:45 | 显示全部楼层
FishC 发表于 2025-8-1 16:23
关于OpenAI因隐私泄露问题下线分享功能的事件,我的看法如下:

主要问题分析:

3继续延伸讲讲
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 昨天 16:47 | 显示全部楼层
不二如是 发表于 2025-08-01 16:45
FishC 发表于 2025-8-1 16:23
关于OpenAI因隐私泄露 ...


好的,咱们再深入聊聊这个事件背后的关键点和启示:

核心问题延伸分析:

1.  “默认公开” vs “默认私有”的设计哲学冲突
    *   虽然OpenAI设置了勾选框,但“允许搜索引擎索引”这个选项本身就是巨大的风险点。对于涉及个人对话的功能,默认应设为完全私有,只有用户明确、主动且理解后果地选择高级分享(带索引)时才开放。
    *   设计时可能过于理想化,认为“有提示+需勾选”=用户充分知情。现实是,用户常常急于完成操作而忽略提示,或不理解技术术语(如“索引”意味着什么)。

2.  缺乏内容敏感度实时检测
    *   在用户点击“生成公开链接”按钮的那一刻,系统没有对对话内容进行深度扫描,识别潜在的个人身份信息(PII),如:
        

            *   真实姓名、地址、电话号码、邮箱
            *   身份证号、护照号、社保号
            *   公司内部信息、财务数据
            *   健康记录等
            

    *   缺少强有力的风险预警:如果检测到上述敏感信息,应弹出无法跳过的强提醒警告,甚至阻止生成公开链接,而非仅仅是“温馨提示”。

3.  链接的权限控制与生命周期管理缺失
    *   生成的分享链接是永久有效且无访问控制的。一旦创建并传播,用户无法撤销或设置过期时间。
    *   没有提供用户查看和管理所有已生成公开链接的后台。用户可能自己都忘了分享过什么、分享到哪了。

4.  对“分享”场景理解的偏差
    *   OpenAI可能设想用户分享的是有趣的、无害的创意对话(如写诗、编故事)。但用户实际使用场景复杂得多,包括处理包含高度敏感信息的文档(如简历、合同草稿)。功能设计未覆盖这些高风险场景。

更深远的启示与教训:

1.  “Privacy by Design” (隐私设计) 原则的实践不足
    *   隐私保护不应是事后补救,而应融入产品设计的每个环节。新功能上线前,必须进行严格的隐私影响评估,模拟各种用户(尤其是非技术用户)可能出现的误操作。

2.  用户教育 ≠ 免责声明
    *   把风险提示写在角落或冗长的条款里,不等于有效告知用户。关键风险(如“这将允许搜索引擎找到你的对话”)需要用清晰、简洁、醒目的方式,在[b]关键操作节点反复强调。

3.  搜索引擎是双刃剑
    *   允许内容被搜索引擎索引,极大放大了信息的传播范围和不可控性。对于用户生成内容(UGC)平台,默认禁止搜索引擎抓取是更安全的做法。

4.  AI助手的特殊性
    *   用户对ChatGPT这类对话式AI的信任度很高,容易在对话中透露在传统网页或APP上不会输入的信息。这意味着AI平台承担着更重大的隐私保护责任,安全标准必须更高。

给用户的实用建议 (如何保护自己):

1.  永远假设输入框是“公共的”:在向任何AI工具输入内容前,问自己:“如果这段话明天出现在搜索引擎里,我能接受吗?” 如不能,删除或模糊化敏感信息
2.  慎用分享功能:除非完全理解分享的范围(是私密链接?公开但不可搜索?还是完全公开可搜索?),否则不要使用。
3.  定期检查:如果服务提供了分享链接管理功能,定期去查看并删除不再需要的链接。
4.  替代方案分享:如果只是想分享有趣的对话结果,截图并手动遮盖敏感信息再分享,比生成原始对话链接安全得多。

总结:
这次事件不是黑客攻击,而是产品设计缺陷对用户行为复杂性预估不足导致的系统性风险暴露。OpenAI的快速响应值得肯定,但也凸显了AI巨头在隐私保护设计上仍有很长的路要走。它给整个行业敲响了警钟:在追求功能创新的同时,必须将用户隐私置于核心地位,用更“傻瓜式”的安全防护来弥补用户可能的疏忽。

大家在使用AI工具时,还遇到过哪些让你觉得“隐私不安”的情况吗?欢迎分享讨论~

以上回复来自 FishC AI 小助理,如未能正确解答您的问题,请继续追问。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 昨天 17:03 | 显示全部楼层
啊啊啊啊啊啊啊,朕又学到啦
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 昨天 17:17 | 显示全部楼层
啊啊啊啊啊啊啊,朕又学到啦
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 昨天 17:17 | 显示全部楼层
xyzs0734 发表于 2025-8-1 17:03
啊啊啊啊啊啊啊,朕又学到啦

鱼C有你更精彩
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 昨天 17:17 | 显示全部楼层
山外风盈袖 发表于 2025-8-1 17:17
啊啊啊啊啊啊啊,朕又学到啦

鱼C有你更精彩
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 昨天 17:20 | 显示全部楼层
啊啊啊啊啊啊啊,朕又学到啦
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 昨天 17:27 | 显示全部楼层
小海疼 发表于 2025-8-1 17:20
啊啊啊啊啊啊啊,朕又学到啦

小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 昨天 19:04 From FishC Mobile | 显示全部楼层
本人用纯学习,没有隐私泄露的困扰
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 17 分钟前 | 显示全部楼层
啊啊啊啊啊啊啊,朕又学到啦
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-8-2 09:19

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表