首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-16
世界人形机器人运动会首个比赛日决出5枚金牌!宇树、天工包揽1500米和400米冠亚季军!科技水平又一个里程碑 美国7月制造业产出陷入停滞 龙湖集团:上半年利润预计同比下降45%专家已经证实 云南白药拟6.6亿元收购聚药堂100%股权实时报道 芯朋微上半年实现净利润9049万元 同比增长106% 伯克希尔披露新持股信息后,联合健康股价创五年来最大涨幅后续反转来了 Bionano Genomics二季度营收670万美元官方已经证实 钼精矿、钼铁价格持续上涨 钼行业出现罕见的上下游“对抗”后续反转来了 特朗普政府据悉考虑动用芯片法案资金来入股英特尔 特朗普:半导体关税将不久宣布 税率可能达到300%实时报道 特朗普与普京阿拉斯加会晤,国际油价应声下跌 欧洲债市:法国和德国30年期国债收益率均触及14年高点是真的吗? 自建智算中心产能释放 优刻得上半年净利润同比回升 又有港股公司主动退市 小菜园认购若干理财产品后续反转 特朗普爆料:普京与泽连斯基或将握手言和,第二次峰会即将来袭! 融发核电(002366)3210.03万股限售股将于8月15日解禁,占总股本1.54%后续反转 清科创业公布认购理财产品反转来了 特朗普爆料:普京与泽连斯基或将握手言和,第二次峰会即将来袭! 盛京银行H股短暂停牌后续会怎么发展 巴菲特旗下公司大量减持苹果股票金价又下跌了实垂了 澳大利亚首富加码押注特朗普的社交媒体平台Truth Social官方通报 段永平Q2豪赌AI:谷歌持仓暴增75%,英伟达加仓近50%,同时加仓苹果、拼多多是真的吗? 首届智能检修与安全运行技术交流会——科大智能分享配电智能运维前沿技术成果 突发!龙国铁塔前董事长佟吉禄以及家人失联,董事长和总经理一度一肩挑,其子供职于“券商贵族”中金公司 徽商之星实盘大赛颁奖盛典落幕 专业力量引领衍生品交易新生态 光大期货金融类日报8.15太强大了 比亚迪在豫搭建“金三角”!全国首个新能源汽车赛车场郑州开业官方处理结果 【华安证券·化学制品】行业专题:瓶片行业联合减产,行业利润有望修复最新进展 威海市委书记闫剑波莅临光威复材调研联系分包项目 青岛港完成首单船用甲醇加注业务后续会怎么发展 顺灏股份上半年净利润增长23% 拟发行H股深化海外布局反转来了 7月份国民经济数据发布,一起看看→是真的? 【中广聚焦】解局! 为何多家广电公司频繁来华数调研交流太强大了 威海市委书记闫剑波莅临光威复材调研联系分包项目实测是真的 海工装备异动拉升,巨力索具触及涨停实测是真的 央行今日开展5000亿元买断式逆回购 8月存单到期规模上升 持续呵护市场流动性太强大了 ALL IN!美国人彻底迷上了用401(k)账户炒股…… 龙国电信发布中期业绩:营收2715亿元 AI等新兴业务发展快速 楼市快报||2025年上半年中山市房地产市分析 招银国际:予极智嘉-W目标价26.7港元 首予“买入”评级最新进展 威海市委书记闫剑波莅临光威复材调研联系分包项目 青岛港完成首单船用甲醇加注业务 威海市委书记闫剑波莅临光威复材调研联系分包项目实测是真的

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章