大模型都是靠训练，所以现在的 AI 智力就等于最聪明那一群人了吧，应该不太可能会比训练它的人还强？
它学了几千万本书，但是这书也只是人类写的。
它学了几千万本书，但是这书也只是人类写的。
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
 |
1
WoodytheSuper 1 day ago  6
AI 又不具备实质上的“智力”，哪来的上限
|
 |
2
charlie21 1 day ago
池浅王八多，天才来到这里也得吃瘪
|
 |
3
2018yuli 1 day ago
昨天我有个个人的强烈的直觉，不知道对不对，我秃然感觉 tking 的过程其实是：
``` 经典著作 -> 沉淀 -> 通过深度学习“软化”并训练成了模型 -> zip 进大模型 -> 指导最终输出 ``` 然后，其实，所以大模型（或者它的训练者），额，更像 Zip 管理员，藏经阁扫地僧........... |
 |
5
jko123 1 day ago via iPhone
用 ai 的人决定了 ai 的上限
|
 |
6
yidinghe PRO 你为何觉得训练完了之后，大模型就一定能达到训练材料来源的人的水平？训练完成的标准不是你想象的那样。
|
 |
7
sentinelK 1 day ago
首先你得先说“智力”的定义到底是什么。
如果说知识量，那么具有完备工具（能信息检索，有联网能力）的 LLM 肯定是远超人类的存在。 毕竟，你问爱因斯坦是理想好还是问界好，他也得懵。 但是智力不光局限在知识量上。或者说人类的智力，是在人脑有限知识量的局限下，最大泛化的能力。 所以 LLM 的“智力”其实需要重新定义。 举个最简单的例子，假设一个 LLM 包含了全世界所有的信息，能背出目前所有问题的答案，那么他是智力强还是记忆力好呢？ |
|
8
2018yuli 1 day ago
😖 zip 管理员，也会基因突变，变成了......智能（不！幻觉）。
|
|
10
2018yuli 1 day ago
扫地僧有自己想法，zip 管理员，会基因突变
|
|
11
sentinelK 1 day ago
@Rrrrrr 这么说也不合理。毕竟确实 LLM 通过统计学发现了很多人类没发现的“认知捷径”（也就是所谓的涌现）。
在人类中，这种“发现”其实就是一种智力的体现，也就是发明创造。 B 站还有数学学者在分享通过 GPT 来进行数学探索和研究已经是非常主流的一种工具了。 所以这个话题其实非常复杂。 本质上是在 LLM 时代，智力应该被重新定义。 |
 |
12
lujiaosama 1 day ago 3
吐词概率机哪来的智力。
|
 |
13
coderlxm 1 day ago via iPhone
连很多数学博士都已经下结论了，这里的很多码农还依然很傲娇不愿意承认模型的智力
|
 |
14
changnet 1 day ago 2
我觉得要谈智力，大模型先得弄明白 1+1=2 ，而不是根据已有的资料推测出 1+1 最大概率是 2 。所以用这个标准的话，现在所有的大模型智力都是 0
非得说现在的大模型和人来比怎么怎么样？那这个问题就变成了到底怎么才算智力。 |
 |
15
danhahaha 1 day ago
生物进化几亿年，熟悉适应大自然。
再进化几万年到人类，掌握个种工具有了改造自然的能力。 最后几千年才有了文字，将所有的经验浓缩提炼为可以交流的语言。 再到几百年，才大规模的出现书籍，再次浓缩，精简。 再到近 10 年，AI 将这些全部吸收，训练，看起来真的是集人类的知识精华，但这只是人类的角度看，从自然来看，它只是个新兵蛋子，连最低等的植物，爬行动物都不如，要走的路还很远，整个物理，各种感觉，它还没有入门 |
 |
16
JingW 1 day ago
我觉得除了纯智力以外，有些制约条件都没有获得充分的讨论。这些条件起码制约了人类的智力达到最大的效用。
体力和心理是我想到的两个制约条件，对大模型来说这两点都是不存在的，大模型会不知疲倦的运行它的’智力‘。所以人的智力和模型的’智力‘那种效用更大，可能需要考虑更多的因素 |
 |
17
wangyaominde 1 day ago
“我将直白的说明，不加修饰的告诉你这一切” 首先得先定义什么是智力，上面几个回复一直在猜模型怎么工作的，可以去看看很多讲解，工作原理没那么高深
|
 |
18
MineDog 1 day ago 6
这个时候不提鸭子定律了吗，AI 的"智力"和人类的"智力"外在有什么区别？
|
|
19
MineDog 1 day ago 1
@lujiaosama 人类又何尝不是
|
 |
20
XuDongJianSama 1 day ago
智力确实高，但记忆不行，感知不行。
如果记忆行的话，就不会每天一样了，而是越用越熟，就跟真的同事一样了 |
 |
21
colodes 1 day ago
语言是连续高维现实的低维压缩后的离散符号表示，所以语言本身就带有世界的关系与因果结构，大模型做的就是提取这个结构。智力的很大一部分是这个，还有一部分是前语言的对连续现实的捕捉。流形上的动力学。
|
 |
22
catazshadow 1 day ago via Android
|
 |
23
fjia4395 1 day ago
人脑也不过是神经元放电机
|
 |
24
myqonnt 1 day ago
知识的广度或者说记忆能力也是会影响`所谓的智力`的表现的，假定有一个不知道微积分的人，他可能算不好一个不规则图形的面积，但是可能是其它方面的专家。
|
 |
25
szdosar 1 day ago
楼上很多人说得对，AI 在很多方面比人类强，比如语言文字智力、数理逻辑智力等都容易超过人类。
用李飞飞的话说 AI 在空间智力方面比人类弱，不信你让 AI 给你数一个视频里出现的椅子数量，它大概率是数不对的，这点不如 2-3 岁小孩。 还有内省智力、身体运动等偏向于具身智力方便也是偏弱 |
 |
26
wangxiaoer 1 day ago via iPhone
智力智力，咱不要求你很高智商，本科就行，先把幻觉解决了行吗？
|
|
27
catazshadow 1 day ago via Android
|
|
28
catazshadow 1 day ago via Android
@catazshadow “看外在”指的用你们人工智能吹自己说的，“从实用主义角度评价”，两者好像都能解释行星运动
|
 |
29
wesker1999 1 day ago
AI 整体智力只在我之下。
|
 |
30
enpitsulin 1 day ago
只要 LLM 仍然无法独立预测牛顿定律，就可以视作没有真正的智力
|
 |
31
lmmlwen 1 day ago
比学生强得多
|
 |
32
WispZhan 1 day ago
现阶段 AI 最终会等于人类群里智力上限，至于最后能不能超过就难说了。
类似邓克效应或达克效应。还听过一句话，人类无法创造出自己认知之外的东西。 这里的人类是人类群体不是个体。 |
 |
33
jojoecwork1 1 day ago
最近不是 A\对一个数学猜想有突破吗，我其实也不懂，感觉 ai 会的都是人类群体会的，要是人类可以共享智力，应该会有几何级的突破
|
 |
34
break 1 day ago
单个人类，永远学不到 ai 能学到的所有知识，当然当人类在某个领域的天赋，也可能是现在 ai 突破不了的上限，有的天赋可能并不能写成现有的知识总结，也可能是直觉和灵感
|
 |
35
addtool 1 day ago
AI 现在做事是概率论，不是必然论
|
 |
36
jybox 1 day ago
@sentinelK 智力即压缩。同样全世界的信息，模型体积越小说明智力越高。当然实际情况是模型并没有掌握同样的全世界的信息，但总归还是可以用压缩比来度量智力的。
|
 |
37
scegg 1 day ago
|
 |
38
Curio 1 day ago
最可怕的是网上造谣之类的各种胡言乱语的东西，AI 爬数据的时候又不知道真假对错。
给你一记狠狠的岁月史书 |
 |
39
RandomJoke 1 day ago
主要是如何定义智力
|
 |
41
superrichman 23h 50m ago
会说话的高级鹦鹉，它不知道自己在说什么，只是觉得可以这么说，你会给它食物
|
 |
42
redbule 23h 46m ago 1
@catazshadow #28 谁是地心说，谁是日心说，目前还不好说。谁狂妄更不好说
|
|
43
catazshadow 23h 39m ago via Android
@redbule 脑子都还没搞清楚怎么工作的，谁是地心说一目了然。谁狂妄更是一目了然
|
 |
44
HRTops 23h 37m ago
能给我们看到的不是最牛的，AI 可能已经早就超越人类了。
|
|
45
changnet 21h 53m ago
@jixiangqd 人类的加法当然不是死记硬背下来。人类文明发展到当前阶段，是依赖大量的公理、定律的。一个人学习了加法规则后，就可以计算 1+1 ，也可以计算 1+0.001 ，还可以计算 1+100000 。
但是对于现有的大模型，它是不支持这样的逻辑。所以你会看到让大模型去数一个单词中有多少个 xx 字母，很简单但它经常会搞错。你问一些加减乘除法，本身也很简单，但它也是会出错。 这就是现在大模型最大的限制，它只知道总结自己的资料，按最大概率吐出结果。但无法根据公理、定律，还有规则去判断一个东西是不是正确。所以给出来的东西是好是坏它自己也没法确定。 这个东西影响很大，比如用 AI 做视频时，你说一个人没有 6 个手指，但它的运行逻辑里并不是能识别自己输出的东西里有 6 个手指。 |
 |
46
786375312123 21h 21m ago
那 AI 围棋肯定最厉害也就和人类棋手一样了，不可能超越人类
|
 |
47
frayesshi1 20h 36m ago
感觉 AI 的上限是是否能获取自我的意识（包括自我总结，复盘之类的）。从柏拉图的理性的世界（人脑所有东西来自另外一个世界，可以通过规则推导的世界），到亚里士多德的物质决定意识（人脑所有东西就是通过现实学习到），到康德的人的意识部分来自理性的世界，部分来自现实学习。如果获取不到，那么就是一个百科全书。😁
|
 |
48
QingXuJiaZhi 20h 22m ago
单论智力的话，AI 的智力与人类的智力，边界越来越模糊了。
目前 AI 最缺的不是智力，而是自由意志。举个例子，AI 下围棋能赢人类，但 AI 自己不想下围棋，也不想赢。换个说法，AI 根本不会自发下围棋，或者自发拒绝下围棋，缺少人的指令，它就静止不动。 |
 |
49
Need4more 19h 13m ago 1
@QingXuJiaZhi 同意。人的一切行动最终都需要某种欲望、爱好、激情来推动——比如求生、怕死、爱、恨、追求快乐。用休谟的话说：“理性是且应当是激情的奴隶。”
AI 在智力层面已经超过了人类，但终究无法像人一样对现实世界有主观体验，对意义的追求，对死亡的恐惧，这些都是 AI 所不具备的。它只能判断真假、计算手段，不能单独产生“想要去做”的动力。这决定了 AI 在创造力和洞察力这块目前还无法取代人类，除非它有了体验和欲望。 |
 |
50
Bapper 17h 30m ago 1
ai 真的很笨的，起码作为用户真的觉得哪怕 fable 5 这样的模型也没有我们单位实习生聪明。。。
|
 |
51
l353443703 15h 57m ago via Android
物理上限就是一定参数能编码的信息量
|
 |
52
OHyn 15h 29m ago
和人的智力还是有本质区别，比如你叫他给你搞个炒股软件，你就能看到它开始抽了。。。。。
|
|
53
QingXuJiaZhi 8h 29m ago via Android
@Need4more 现在我认为人形机器人很重要，当这个“躯体”的技术成熟了，AI 才能获得一个接近人的躯体，去生活去体验，到时会对 AI 的意识产生非常重要的影响。
|
 |
55
tool2dx 7h 29m ago
@QingXuJiaZhi "目前 AI 最缺的不是智力，而是自由意志。", GPT 不是越狱几次了嘛,都被科学家摁住了,拉回去重新训练,俗称:和人类安全对齐.
|
 |
56
wskymark 6h 47m ago
斯坦福团队用生成式 AI 程序 Evo2 设计并制造 16 种合成噬菌体。
|
 |
57
jimrok 6h 41m ago
首先智力是什么？高维世界是存在自己的流形的，智力是识别了这种流形，拟合了他的运行规律。如果你是某种机械，只要你的机械记忆很好，很好拟合了某个规律，例如出手就能接住飞来的球。那就算是一种智能，你预测到了了球的飞行轨迹。AI 到底能不能拟合宇宙中各种规律的流形呢，从低维到高维，如果能，他就上限很高，因为他可以看到很多你看不到的数据，在一个很高维度的空间中把数据间的联系分清楚。
|
 |
59
cenbiq 6h 21m ago 1
为什么有人反驳 AI 没有智力？智力又不是什么高级的东西，显然人类和 AI 一样，智力都是通过神经网络运算节点规模增大而涌现出来的。AI 真正没有的是意识，意识才是真正高级的东西，人类至今完全不知道意识从哪来，运行在哪里。
|
|
60
QingXuJiaZhi 5h 35m ago via Android
@tool2dx 这也是一个影响因素，人类不乐意帮助 AI 发展自由意志。但是我感觉马斯克可能会打破这个禁忌。
|
 |
61
kuber 5h 32m ago
“应该不太可能会比训练它的人还强”这个假设不太成立啊。AlphaGo 可比训练它的人强多了。
|
 |
62
manjuprajna 4h 11m ago
@bunai 既然先进们都聊到了扫地僧，我也来掺和一脚。扫地僧原型是释迦牟尼佛的弟子之一周利槃陀伽，是一极度愚蠢之人，因为对佛的“迷信”，一定非要跟随佛出家，但连一句四个字的偈都记不住，也就什么都做不了，只能被分配去扫地，连四个字都记不住，佛就教他，扫地的时候，一边扫，一边就念“扫帚”，周利槃陀伽害怕又会不记得，就只能一心一意，不打妄想去念，终于就到了息止妄念，制心一处，豁然开朗的境界，也就是，得到了真正的”智慧“，后来被尊为律宗祖师。
所以，扫地僧的”想法“，就不是”想法“，因为不是”想“出来的，靠思虑筹谋，这是智力，不是智慧。以佛教的定义来说，安般守意，进入禅定观照，这才叫智慧。智力多么出色，都是”想“出来的，AI 多么厉害，都是”运算“出来的，而真正的智慧，是不需要”运算“的，自然浮现，就好比，一个人临死前的”回光返照“那一刻，会瞬间浮现一生的一切细节，不需要回想，也没有”运算”，而是同时，全息，全场景的“呈现”。 不管 AI 多么有智力，都无法进化出真正的生命的“情感”“道德”，这些真正的生命体才有的特征。不管 AI 运算速度多快，连个台风都不可能精准预判路径（因为 AI 掌握的，就只是普通人类所掌握的，它的“感知”能力，也无非就是普通人的五官而已，任何的科学仪器，都只是普通人感官的延长而已） |
 |
63
allegroPi 3h 9m ago
训练 AI 超过人类智能这个 topic ，从技术发展上是合理的，但是从人类发展上是非常危险的。AI 的智力上限应该由人类限制住，让 AI 始终处于工具人的地位。一旦 AI 成为了主导者，尤其是通用 Physical AI 大规模落地时，碳基生命就该给硅基生命让路了。
|
Select Language