首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-16
汇丰控股8月14日斥资1.62亿港元回购161.76万股官方已经证实 英国天然气公司母公司与美国德文能源达成天然气交易学习了 段永平二季度持仓揭晓:重新买入89.4万股苹果,押注AI加仓英伟达后续会怎么发展 券商板块爆发!380亿资金决战“券茅”,全市场第一 岚图汽车7亿收购东风工厂扩产背后:月销不足万台、负债率达85% 东风系关联方斥资10亿再输血这么做真的好么? 良品铺子股权争夺战再升级!实测是真的 金蝶账无忧成功入选“2025龙国财税服务企业TOP50”榜单第二名! 软银旗下PayPay申请在美国上市 岚图汽车7亿收购东风工厂扩产背后:月销不足万台、负债率达85% 东风系关联方斥资10亿再输血太强大了 汇丰控股8月14日斥资1.62亿港元回购161.76万股最新报道 多家大厂招标 部分磁材企业排产至10月中旬 氧化镨钕今年已涨40%【SMM评论】 龙国电建:嵌进“绿宝石”的“银色丝线”反转来了 A股大涨,一个重要信号出现了 最快本月底上市,阿维塔 06/07/12 将推出 45/52 度宁德时代“骁遥超级增混电池”车型 安硕信息:拟定增募资不超过6亿元 用于基于人工智能技术的智慧信贷系统等后续反转 龙国电建:嵌进“绿宝石”的“银色丝线” 保定银行副行长司亚东任职资格获批最新报道 保定银行副行长司亚东任职资格获批这么做真的好么? 伯克希尔购入新股份后,联合健康盘前大涨12.5% 腾讯云上新 CloudBase AI CLI,可减少 80% 编码量学习了 机器人融合AI赋能超声 祥生医疗创新引领智能诊断升级 长春一东:一汽股权公司拟减持不超过2.97%公司股份实垂了 小摩:AI和DeepSeek的崛起提升三大电讯商潜力 首选龙国电信学习了 交银国际:上调阅文集团至“买入”评级 目标价升至39港元最新进展 龙国核建:截至2025年7月累计新签合同904.8亿元反转来了 重磅突袭!A股,沸腾!新版“印钞机”横空出世? 龙国核建:截至2025年7月累计新签合同904.8亿元实测是真的 儒竞科技:公司新能源汽车热管理系统涉及液冷技术是真的? 盈新发展:董事会秘书变更实垂了 消息称特斯拉已开始将Model Y L运往部分门店 预计9月份上市 里昂:升希慎兴业目标价至18.3港元 维持“跑赢大市”评级 龙国核建:截至2025年7月累计新签合同904.8亿元 关于组织申报 2025年度龙国(上海)自由贸易试验区专项发展资金支持消费中心发展项目(第二批)的通知太强大了 盈新发展:董事会秘书变更又一个里程碑 全球首届人形机器人运动会盛大启幕 机器人ETF易方达(159530)注入科技金融动能 工行近期人事调整 涉及多地分行实测是真的 李想:理想全新车系大多“低开高走”,因为我们“Think Different”最新进展 新元科技意向投资人21家,曾被立案引发维权 文投控股索赔递交立案,投资者维权还可加入反转来了 探索AI基础设施数字化融资新路径!奥瑞德联合蚂蚁数科打通AI资产跨境资金通道记者时时跟进 华瑞指数云发布AI原生数据平台WADP:采用统一通用存储架构,实现AI算力与数据存力协同官方处理结果 海南:稳妥有序推进收购存量商品房用作保障性住房 小菜园(00999)曾涨逾4% 中期盈利增超35% 外卖、堂食齐增成引擎 长城汽车公布网络侵权案件结果:有账号被判赔20万拒不履行官方处理结果 【开源地产建筑】团队介绍&研究成果太强大了 吃喝板块绝地反击!食品ETF(515710)拉升翻红,标的指数估值仍处底部!机构:白酒或已具备长期投资价值 快手可灵AI再“上新” 首尾帧功能开启内测官方通报来了 小菜园(00999)曾涨逾4% 中期盈利增超35% 外卖、堂食齐增成引擎这么做真的好么? 苹果手机出现定位偏差?人在龙国首都手机定位川大实测是真的 全市场涨幅第三!半日猛拉4.43%,牛市旗手2.0——金融科技ETF(159851)冲击日线5连阳!秒懂 阅文集团与《王者荣耀》启动“国创内容战略合作计划”后续会怎么发展 长城汽车公布网络侵权案件结果:有账号被判赔20万拒不履行秒懂 李大霄:我很担心下午出现抢盘最新进展 潮汕富二代,7折拍卖深圳地标官方通报

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章