xFrank
V2EX  ›  问与答

现在是不是到了给 AI 底层植入类似机器人三定律之类东西的时候了?

  •  1
     
  •   xFrank · Feb 25 · 1592 views
    This topic created in 258 days ago, the information mentioned may be changed or developed.
    另外,这个从技术上有可能实现么?
    6 replies  •  2026-02-25 17:57:48 +08:00
    momocraft
    momocraft
    Feb 25
    1
    路会很长, 现在的 LLM 连指示和数据都不区分
    940i3s34v4F1HW41
    940i3s34v4F1HW41
    PRO
    Feb 25 via iPhone❤️1
    2
    目测不可能,只能给像人一样的环境上的物理限制
    dobelee
    dobelee
    Feb 25
    3
    看看最近 openai 、claude 、grok 、openclaw 的各种争议和官司,你觉得有可能吗?
    现在的 AI 也无法准确判断,比如昨天 openclaw 删库的事件。

    另外,即使 AI 最终彻底解决幻觉,也难以做到三定律。
    如电车难题和罐中脑。为了执行<不让人类受到"任何"伤害>,而囚禁保护人类,是否合理。
    QingXuJiaZhi
    QingXuJiaZhi
    Feb 25 via Android
    4
    看了原著,这个设定本身就是自相矛盾的,是很巧妙的小说技巧,可以让故事很有趣,但这个在现实中是没有意义的。
    Zhuzhuchenyan
    5
    最简单的拒绝回答都做不到
    换句话说,只要模型开源,总有方法越狱的
    参考: https://huggingface.co/blog/mlabonne/abliteration
    xFrank
    xFrank
    OP
    Feb 25
    6
    @cmdOptionKana 我说的是类似,总要有些“底层代码”来防止 AI 不能干某些事
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1931 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 15:32 · PVG 23:32 · LAX 07:32 · JFK 10:32
    ♥ Do have faith in what you're doing.