首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-16
1.5亿老洋房流拍,曾为《三十而已》取景地 卓越商企服务杨志东:数字化转型不是跟风,必须围绕客户痛点和需求展开后续会怎么发展 又一首席转会,华福电子杨钟跳槽平安证券 小摩:消费贷补贴政策料对内银财务影响有限 推荐招商银行最新进展 桥水二季度大举增持英伟达 加仓谷歌、微软、Meta 还清仓了这些中概股!上新浪财经看桥水持仓最新进展实测是真的 还有哪些股息率5%以上的红利指数?实测是真的 元成股份(603388)、新智认知(603869)投资者索赔案持续推进这么做真的好么? 西部证券财务总监张永军薪酬94万是券商CFO平均薪酬的7成, 西部证券董事长徐朝晖、总经理齐冰该给CFO加薪了 苹果下一代Vision Pro有望升级M5芯片 预计今年晚些时候推出学习了 今日必看!特朗普隔夜重磅动态,从美联储新老大进展到普京会晤 新浪财经一网打尽 投资决策快人一步! 大华继显:上调耐世特评级至“买入” 目标价大幅升至10港元学习了 首席看新高丨沪指未站稳3700点,重要指标与10年前有三大不同,后市如何?官方通报 元成股份(603388)、新智认知(603869)投资者索赔案持续推进最新进展 美国消费复苏?美银:7月信用卡支出意外反弹,周五零售销售或大幅增长最新进展 不香了?巴菲特再度抛售苹果最新进展 建银国际:升腾讯控股目标价至717港元 重申“跑赢大市”评级最新进展 亚马逊云科技推出Amazon DocumentDB Serverless,简化数据库管理并大幅节省成本学习了 珍酒李渡午前涨超5% 机构预计下半年大珍渠道推力有望延续 沃尔玛不满高费率而改协议 TradeDesk面临丢失大客户后续反转 三则重磅利好加持!互联网金融走强,牛市旗手2.0——金融科技ETF(159851)盘中拉升2.2% MIRXES-B午前涨逾12% 盘中股价创上市新高 珍酒李渡午前涨超5% 机构预计下半年大珍渠道推力有望延续 信义光能(00968)领涨光伏太阳能股 储能行业倡议获152家企业响应是真的吗? 不香了?巴菲特再度抛售苹果专家已经证实 信义光能(00968)领涨光伏太阳能股 储能行业倡议获152家企业响应后续反转 信义光能(00968)领涨光伏太阳能股 储能行业倡议获152家企业响应后续反转 三则重磅利好加持!互联网金融走强,牛市旗手2.0——金融科技ETF(159851)盘中拉升2.2%实测是真的 中粮集团招聘财会英才!又一个里程碑 鸿腾精密早盘涨超17% 股价刷新2018年1月以来新高官方已经证实 钢贸起家的“上海千亿巨头”均和集团暴雷:大部分营收来源于“空转流水”,老板82年出生、福建长乐人太强大了 三则重磅利好加持!互联网金融走强,牛市旗手2.0——金融科技ETF(159851)盘中拉升2.2%最新进展 又一个里程碑 北汽蓝谷半年亏了23亿,四年亏损超230亿又一个里程碑 美国高关税为何没推高通胀?关键在“有效关税率”没那么高 央行发布二季度货币政策报告,透露哪些关键信号?反转来了 南都电源:公司仍将以客户需求为导向锚定市场方向 恒大前行政总裁夏海钧,被曝藏身美国加州而非加拿大!他妻子在美持有资产达1.7亿元实垂了 报喜鸟:2025年半年度净利润约1.97亿元秒懂 宜宾银行:肖玉烽辞任非执行董事这么做真的好么? 雷迪克:8月15日召开董事会会议后续来了 华测导航:截至7月31日公司股东户数为27614户 大涨!巴菲特“抄底”保险巨头最新进展 揭秘涨停 | 玻纤概念多股涨停又一个里程碑 南都电源:2025年上半年,公司营业收入约39.23亿元 厮杀187轮力压中海,招商华润联合体86亿元豪夺宝中“压轴宅地” 法拉电子:2025年半年度净利润约5.69亿元,同比增加18.15% 道通科技:2025年半年度净利润约4.8亿元,同比增加24.29%是真的? 道通科技:2025年半年度净利润约4.8亿元,同比增加24.29%科技水平又一个里程碑 凯撒旅业:8月15日召开董事会会议 网银在线: 收到龙国人民银行相关指导后,已第一时间完成相关整改事项

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章