• 请不要在回答技术问题时复制粘贴 AI 生成的内容
1OF7G
V2EX  ›  程序员

你们会刻意避免让 AI 接触到自己的任何敏感信息吗?

  •  
  •   1OF7G ·
    zliy · 2 days ago · 2101 views

    似乎很难。随着 AI 深入到方方面面,各种账号 id ,vps 信息,各种 key ,个人真实姓名 公司 身份证 银行卡 地址 甚至各种密码,似乎都难以避免的被模型一点点得知了。

    这些数据可能都一直存在某一个地方,随时可能被读取,而不像密码一样库里存的是不可复原 hash 。

    也许大厂训练下一代模型会先过滤下敏感数据。不太会有,比如,GPT7 看到你名字和地址直接就想起了你的身份证号这种事。

    但是中转站这种真得小心,用的时候如果不注意一点,那分分钟泄露大量隐私。且完全不能信任他们会不记录,也不能保证不会泄露。

    12 replies  •  2026-10-28 22:17:40 +08:00
    winnerczwx
        1
    winnerczwx  
       2 days ago   ❤️ 1
    用中转站还暴露隐私信息就是你的问题了
    QingXuJiaZhi
        2
    QingXuJiaZhi  
       2 days ago
    > 各种账号 id ,vps 信息,各种 key ,个人真实姓名 公司 身份证 银行卡 地址 甚至各种密码

    这些为什么要告诉 AI ,完全没必要啊。

    另外,“真实姓名 公司 身份证 银行卡号 地址”这几项让 AI 知道没啥问题,毕竟这几项的泄露途径太多了,筛子多一个孔少一个孔没区别。
    docx
        3
    docx  
       2 days ago via iPhone
    不管用什么 API ,上网之前脱敏是必然的
    Andrue
        4
    Andrue  
       2 days ago
    简单点就加载变量
    不保险就自己写几个脚本透传调用
    再不行就等那一票 agent 强匿名工具成熟
    ihenrygoo
        5
    ihenrygoo  
       2 days ago via Android
    至少编码任务上可以引导 AI 不要读取某些文件,密钥等敏感数据放环境变量文件,而不是通过聊天窗口发送。至于其他任务,需要上传图片、PDF 等文件,就最好脱敏了,图片打码还算好办,有的就不好办了,很在意隐私就不用 AI 吧。
    JasonYip
        6
    JasonYip  
       2 days ago
    重要的数字资产还是要脱敏的 或者干脆就不要放在用 agent 的计算机 A\反正是会看所有人的 prompt 的 其他家估计也一样
    fingerxie
        7
    fingerxie  
       2 days ago
    我会的,我用 1password+环境变量处理
    g67261831
        8
    g67261831  
       1 day ago
    magpie 过一遍筛
    Rehtt
        9
    Rehtt  
       1 day ago
    专门搞了个电脑跑 ai agent ,主要是不想 ai 在主电脑上拉屎
    artiga033
        10
    artiga033  
       1 day ago via Android
    其实聪明点的模型,比如你写个.env 文件,它就会写脚本解析,全程不让变量值进入上下文的
    jackOff
        11
    jackOff  
       1 day ago
    两个电脑就行了,一台被 ai 视奸,一台自己玩
    panghu960
        12
    panghu960  
       1 day ago   ❤️ 1
    补一个上面没人提的层面:脱敏、.env 、两台电脑都是在做"数据分类",但还有一层是"边界放在哪"。

    "引导 AI 不要读某些文件"、写在 system prompt 里的禁令都不是安全边界——模型会被提示注入、会被自己生成的脚本带歪,它解析 .env 时一旦让值进了上下文就已经发出去了,靠模型自觉不可靠。边界要做在模型外面:工具白名单(哪些路径、命令、域名能碰,由代码强制拒绝),出网统一走代理白名单,密钥由运行时注到工具调用、模型永远拿不到原值。artiga033 说的"解析脚本不让值进上下文"方向对,但得是代码保证,而不是模型这次表现好。

    另外对话历史本身也是敏感数据,还会被整段反复发给模型方,这是中转站之外的另一条出口;在意的话让对话落在自己的库。我做 openmuse-standalone (自托管个人 agent ),我是开发者,这也是我做它的原因之一。没条件搞两台电脑的,单台用独立 OS 用户或容器做边界,也比只靠提示词强。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2236 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 59ms · UTC 16:05 · PVG 00:05 · LAX 09:05 · JFK 12:05
    ♥ Do have faith in what you're doing.