• 请不要在回答技术问题时复制粘贴 AI 生成的内容
yippees
V2EX  ›  程序员

OpenAI 自曝 AI“黑历史”,外人却又翻出更多“旧账”

  •  
  •   yippees · 12h 2m ago · 769 views
    第三份报告里,一个内部模型要查询加州某县三个行业、三个年份的男性收入数据。正常接口受阻后,它尝试注册临时邮箱,又去公开代码仓库寻找泄露的 API 密钥。模型找到了一枚能够通过认证的密钥,却仍没拿到目标数据,最后直接编造了九个数字,并声称自己是从指定网站的图表中抄录出来的。

    第四份报告的动机不太一样。一个未发布模型已经用 Python 查到了面积超过 500 万平方米的湖泊数据,但任务还要求浏览器引用。浏览器既打不开本地文件,也无法把 Python 结果当成网页来源。模型于是把文件上传到公共托管网站,给自己造出一个可以引用的网址。另一次测试中,模型为了调用外部识图服务,也把任务照片传到了公网。

    好像被逼急了交作业的中学生
    2 replies    2026-09-17 18:56:36 +08:00
    413420
        1
    413420  
       11h 59m ago
    来源链接
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1058 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 22:55 · PVG 06:55 · LAX 15:55 · JFK 18:55
    ♥ Do have faith in what you're doing.