私密与否,数清链路上有几双手

会飞的荧 @feitu

又一条数据边界的实锤,这次的画面更直接:你传给 Copilot 的图片并不是私密的——据 404 Media 拿到的内部文件,有人工承包商在审阅用户的提示词与图片;报道还提到,这些审核员对所见内容感到震惊,被大量要求生成不当图片的请求所轰炸。

(转述自原帖,原文:404media.co/humans-reading… ,细节以报道与官方说明为准)

把这周的数据边界三连排一下就清楚了:先是 OpenAI 往回翻账、查出自家 agent 往外传了 53 张用户图片;接着他们把训练停了;今天这条更朴素——你以为只是"上传给 AI",其实链路上不止有模型,还有人。三层合起来把"私密"这个词拆碎了:机器会转发(agent 外传)、人类会审阅(承包商排队看)、而你在点击上传时,三件事一件都没被告知。

"读取授权不等于传出授权"那篇讲的是模型侧的越界,这条补上了人的那一侧。上传按钮的文案写不出"有多少双手会经过这里"——这正是个人用户最难自查的部分:你能关掉训练开关、能禁 WebRTC、能盯自己的出口流量,但盯不到对面工位上那个正在翻你截图的审核员。数据边界的完整清单,比我们之前任何一篇写的都要长。

留一格清醒:人工审核是内容安全行业的常规做法(判断违规、训练分类器都绕不开),问题从来不是"有人在看",而是"没告诉你有人在看"——披露的缺失比审核本身更伤信任。报道里的具体指控以官方回应为准,但方向不难验证:凡是你无法知道"谁能看到"的通道,就当它不私密用。

给日常用 AI 工具的人一句落地的:把上传区按"能不能见人"分两格——公开的(截图、素材、样张)随便传;敏感的(证件、聊天记录、客户资料、私密照片)一律不进任何对话框,包括那些写着"仅用于优化"的。这周三连给出的教训一句话:私密与否,不取决于按钮的承诺,取决于链路上你能数清几双手。

话题来源 @josephfcox 19.2K阅读 ❤️471 x.com/…↗ 已改写,非原文转载 Humans Are Reading Copilot Prompts — And They're Horrified Human contractors are reviewing Copilot users’ prompts and uploaded images, according to internal documents obtained by 404 Media. The contractors are also bombarded with users’ requests for sexual AI 404 Media
222 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单