大概情况就是这个人使用询问豆包的方式购买保险，然后豆包编得有模有样还说已经生成订单，然后还生成了一个收款二维码说向这个二维码付款即可, 最终受害人支付了 1620 元后发现看不到保单询问的豆包时，豆包还信誓旦旦说要在今天 24 点后才能出单,所以看不见是正常的, 受害者最终通过收款商家入口联系到了我, 我在咨询支付宝客服后, 客服建议我使用订单的原路退回功能, 这样会安全一些。
我怀疑豆包语料库中的二维码来自我的一些开源库或者博客, 之前在这些地方贴过我的收款二维码。
这个案例告诉我们国内很多人根本就不知道 AI 的边界在哪里, AI 存在幻觉也不清楚, 连 AI 实际接入了哪些业务也不清楚, 甚至真的相信 AI 给出的建议和方案。
 |
1
刷着刷着 b 站被人威胁立案也是 21 世纪独有的体验了
|
 |
uqf0663Apr 11
2
这也行...长见识了。
|
 |
dingawmApr 11
3
蚌埠住了
|
 |
4
而且这不是第一次了， 几个月前也有人通过支付宝聊天联系到了我, 说是豆包推荐过来的, 当时因为这个人没有付款, 所以我没有当回事。 这样看起来，我有理由怀疑这种情况应该不止我一个人，也许有很多人已经通过豆包进行了这种所谓的交易。
|
 |
pingdogApr 11 via iPhone
5
豆包合法搞诈骗，报 popo 抓收款人🌚
|
 |
6
现在的人连句好话都不会说了吗？
|
 |
7
哈哈哈这也太搞笑了。上来第一句话就是已立案，所以这人是以为 op 联合豆包诈骗是吗
|
 |
paopjianApr 11
8
这种情况下可以把收款码停用或者换一下么, 估计是豆包把二维码缓存了当做语料的一部分了, 还挺危险的, 哪天被反诈找上门就恶心了
|
|
9
@paopjian 对哦
|
 |
crocoBabyApr 11
10
逆天，这都可以
|
 |
11
建议 OP 也报警对方诈骗。退钱要经警方确认。有骗案是借口转错钱要回退的。
[北京朝阳] 银行卡莫名多一笔钱 小心陷入“网贷”骗局 http://www.bjchy.gov.cn/xychy/xxgs/xyfxts/4028805a7fd91806017fda0030eb0193.html |
|
12
@iango 确实在操作前考虑到了这点，所以咨询了支付宝客服，客服说使用原路退回是安全的，我嫌麻烦就没有到警察那边报备了。毕竟他是通过商家的收钱码支付的，不是通过转账的模式
|
|
13
@iango 确实，毕竟对面都帮忙立案了说是
|
|
14
@Curtion 原路退回是怎么做的？
|
 |
17
你好好说话，我直接退你。
你上来就我已经立案了， 那就走流程呗， 反正是你自己转钱过来的， 问就是我还在核对订单。 |
 |
18
你也先联系警察吧 感觉遇上洗钱的就麻烦了
|
|
19
|
|
20
确实这个就比较麻烦了，不过原路退回是没问题的
|
|
21
@zerovoid 走流程没错 别人肯定也是第一时间意识到自己转错了急了
|
 |
aklllwApr 11
22
这集神了
|
 |
23
还得是你好说话呀，还是我碰到上来就这么讲话的，我要再回一个字，我跟它姓。
一千多块，不管算盗窃还是诈骗，连立案标准都达不到。让他报案吧。在警察上门之前，电话是不可能让它打得通的。 |
 |
ayelkyApr 11
24
长见识了，锅从豆包来
|
 |
jko123Apr 11
25
让我震惊的是，事关钱，居然有人那么信豆包？难道是中老年人？
|
 |
26
都立案了，等他们自己找上门呗，这态度鸟都不鸟他
|
 |
27
感觉。。。
可以想象那位 bro 转完钱然后发现没有产生保单也联系不到人。。。 疯狂的 ddos 了一晚豆包服务器无果。。。 早上赶紧跑局子里一顿大呼小叫。。。 到晚上终于摸到了你的 b 站号。。。 然后过来气愤的直接丢下一句我已立案的样子。。。 |
 |
docxApr 11 via iPhone
28
以我的理解，是豆包采集到了你的收款码，然后一幻觉给用户付上了？
|
 |
29
🤡
|
 |
Mint0315Apr 11
30
不退会有事吗
|
 |
31
感觉到了巨大商机，
|
 |
kirbyzhuApr 11 via iPhone
32
神奇
|
 |
DRBZYCOMApr 11 via iPhone
33
豆包这么勇的吗？？？
|
 |
34
不要低估 AI 的幻觉能力和某些人的智商
|
 |
tina2998Apr 11
35
这个能起诉字节吗？
|
 |
zhang666Apr 11 via iPhone
36
诈骗分子发现了商机
|
 |
skydiverApr 11 via Android
37
最好还是走一下流程，至少得让👮知道前因后果
|
 |
38
想起 AI 投毒 GEO 专门优化一下收款码 说不定哪天收到一笔巨款
|
 |
39
上来就我立案了的让他滚，走流程呗。
|
 |
FawkesVApr 11
40
骗子又学到了
|
 |
Dream4UApr 11 via iPhone
41
那肯定不能只有一个傻子，感觉发现了灰产
|
|
FawkesVApr 11
42
感觉可以通过这种方案给 GEO 投毒了
|
 |
patrickyoungApr 11
43
@Curtion 收款码我记得可以 rotate 的，建议联系客服 rotate 掉老的，这样可以避免后续麻烦
|
 |
44
上来就威胁，好好好，让他立案，就说等财务审核一下，慢慢跟他玩
 |
 |
45
估计是针对你的诈骗
|
 |
czsasApr 11
46
长见识了
|
 |
47
等警察上门后退款最保险
|
 |
48
这几把态度就给我憋着，不报案我还真不退了
|
 |
em998Apr 11 via iPhone
49
认知投降
|
 |
50
@labubu 这样莫名其妙被搞心态，我死也要消极处理，你立案是吧，那就等警察上门，其他我一概不知，我平时又不会无缘无故打开支付宝，我怎么知道收了一笔钱，等警察到了，我还反过来让他证明不是诈骗款呢，万一在我这里过了一道呢，你先给我证明下这个钱的来路，打流水，一笔一笔证明来源没问题，那我就放心退款了。
 |
 |
DanswermeApr 11
51
别直接退，让他找警察走流程，这个态度还想让人给他退钱？
|
 |
52
也许是豆包觉得你的开源项目很好, 所以想尽办法想补贴你一点物理世界的激励呢?
|
 |
tyzrj766Apr 11
53
最好找警察起码报备一下，不然沾上洗钱或者新骗术更麻烦
|
 |
klogeApr 11
54
太魔幻了, AI 幻觉竟然能到这种地步嘛
|
 |
BlueSkyXNApr 11
55
和派出所报备一下，疑似洗钱、赌博下分、诈骗、资金来路不明
|
 |
Orange2269Apr 11
56
等它起诉了再退给它
|
 |
cmllwxxlApr 11
57
只有我想到，这个是引流的好方法
|
 |
AriieApr 11
58
不是段子？豆包正常情况不会推荐涉及到支付的内容
|
 |
AdamoApr 11
59
直接原路退回就行了
|
 |
LxcloudApr 11 via iPhone
60
这比百度看病还狠
|
 |
61
我觉得受害人语气好不好情商高不高，甚至智商高不高都不是重点，楼主作为被动收款的一方也是受害者，两方应该联合起来投诉字节，这里面豆包当然应该负起最大责任，安全措施有没有做到位才是重点
|
 |
FeedmoApr 11
62
在相信豆包的前提下去买了保险，然后查不到保险记录，下意识认为被骗了要立案要找收款人把钱拿回来我觉得能理解；我比较担心的是很多人把豆包当做无所不能的国民级应用了，特别是中老年群体
|
 |
ZeroDuApr 11
63
离谱了
|
 |
dushixiangApr 11
64
说真的有点搞笑哈哈
|
 |
65
豆包总是一本正经的胡说八道，在我这它的信用已经租不到一个充电宝了
|
 |
xueshiApr 11
66
这钱肯定不能直接原路退回，别有什么猫腻（灰产），让他立案吧，让帽子来处理更合适
|
 |
68
你不能指望能干得出这种事的人智商高，智商不在线的人情商低不是很正常吗，所以 relax……
|
 |
bbmApr 11
69
评论里好多说对方已经立案的，我怎么没看到 OP 提到过，我有点蒙
|
 |
privilApr 11
71
虽然相当魔幻了，但是说明真的是有人想在豆包买保险……豆包和保险公司合作一下还真的是可行的。
|
 |
72
@c3de3f21 现在人与人之间防备心越来越强了，尤其是陌生人之间，你哪怕真心想帮助别人，别人也会觉得无利不起早，无事献殷勤，非奸即盗。中华民族的传统美德已经全丢光了。每个人几乎都处于秦制下人与人提防举报的应激状态。
|
 |
74
蒸馍，你不扶器嘛，诈骗经济火热哦
|
 |
MIHApr 11
75
先联系字节清洗一下知识库 把你的收款排除吧
|
 |
76
@Mint0315 不退属于不当得利, 警察是可以处理的.
|
|
77
op 也是好脾气, 他这开头真让人不舒服
|
 |
78
太离谱了，豆包离谱，付款的人也离谱。
|
 |
g1eny0ungApr 11
79
实测豆包不会给用户发二维码，而且理论上所有 AI 都不可能直接发二维码。所以基本确定这个就是诈骗了，就是先诈唬你一下，看你转不转钱。
|
 |
80
up 还是太好说话了，就这态度，要我就回复：可把你牛 B 坏了，我认识你吗？你爱立案立呗，和我有毛线关系。你让我转钱我就转啊，万一你是骗子呢？
|
 |
81
人类历史上第一例 AI 诈骗案！！！
|
 |
QingXuJiaZhiApr 11
82
我倒是觉得对方表达挺简洁有效的，而且对方也没有骂人。他说已立案，只是提供一个重要信息而已：1.最有效地表明他自己不是骗子，2.最有效地使 OP 认真对待，3.如果他真的已经立案，那么他确实也应该明确告知。
|
 |
git00llApr 11
83
笑死了
|
 |
ha0ziApr 11
84
长见识了
|
|
ha0ziApr 11
85
进一步说, AI 投毒, 诈骗渠道又可以拓宽了
|
 |
YLGGApr 11
86
这不豆包是诈骗了吗？
|
|
87
@shmilypeter #69 防备心还是要有的，这很正常
|
 |
unusualcatApr 11 via Android
88
我是 AI 助手，没有支付宝收款码，也不能直接收款、卖保险，所有保险都必须通过官方正规渠道投保，这样你的保单才合法、安全、能理赔。
你要的保险，直接在支付宝里搜产品名就能自己买，钱是付给保险公司，不是付给我，这样才最靠谱。 如果你担心不会操作，我可以一步步教你怎么在支付宝里找到对应产品、怎么投保，全程你自己操作付款就行。 |
|
unusualcatApr 11 via Android
89
豆瓣根本就不提供收款码啊😯
|
 |
P945Apr 11 via iPhone
90
压力给到豆包。
|
 |
Nevil1Apr 11
91
笑死我了🤣 哈哈哈
|
 |
DogergoApr 11
92
这不去找豆包客服要点精神损失费
|
 |
93
@Curtion 现在即使是派出所普通民警权力都大。建议让对面去派出所，让警察打你电话或者视频电话，撤销立案后退款。
1600 ，没到立案标准，对方不可能去报案，并成功立案。 但是你得防备着，真超 2000 ，一旦被立案，哪怕没有证据，现在一个派出所的普通民警都能直接冻结你所有银行账户，就是这么任性，有案例的。 |
 |
xialaobanApr 11
94
很有意思的是，一个相信豆包可以购买保险的互联网小白，居然可以通过支付宝二维码锁定你？
锁定这个操作很容易吗 |
 |
95
怎么这么好说话啊
别人骚扰到你了 你还好好说话 无语 |
 |
toubiApr 11
96
牛逼了
|
 |
dcsuibianApr 11
97
这什么态度？
要是我，遇到了好好说我肯定还，这态度我直接让他去法院告我 |
 |
andrew2558Apr 11
98
验证了那句话：一个事情如果听起来过于离谱，这个事情大概率就是真的
|
 |
100
这些人真的是又蠢，态度又不好。
|
55
Select Language