首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-16
从时效性到深度解析:新浪财经与华尔街见闻等五强APP全方位对决实测是真的 潘飞:在AI时代,保持正念,做难而正确的事情科技水平又一个里程碑 网易2025年Q2营收279亿元,在线游戏净收入228亿元后续反转来了 黑色系短期回调压力渐显,中期还需需求发力官方处理结果 赵文权:新引擎最新报道 阿里云ECS云服务器上新!企业级实例u2系列性价比最高提升50%这么做真的好么? 中天期货:生猪在底部等待 螺纹震荡下行 阿里云ECS云服务器上新!企业级实例u2系列性价比最高提升50%科技水平又一个里程碑 红旗连锁上半年营收下降 7.3%!连续13 年增长态势遇转折,何解?官方通报 江铃宝典皮卡批量交付巴拿马政府机构专家已经证实 H3C S5560X-34S-EI交换机 智能互联革新促销专家已经证实 贝森特称特朗普与普京峰会是第二轮会谈的“前奏” 国际观察|美芯片企业出口业务被政府“勒索”的背后 美国上周首次申领失业救济人数减少3000人至22.4万人 全国首次!广东三部门联合出台碳排放配额质押融资新机制 万通发展跨界收购:标的公司负债高企,业绩承诺与盈利预测“打架”官方处理结果 超八成财险公司二季度车均保费上涨! 谁是幕后推手?太强大了 三人行:上半年归母净利润1.44亿元,同比增长10.83%官方已经证实 前7月社会融资增量逼近24万亿元 险资年内27次举牌:狂揽高股息H股,保险股进入“红利”范畴 美国生产者价格创三年来最大增幅 受服务业成本推动官方通报 险资年内27次举牌:狂揽高股息H股,保险股进入“红利”范畴官方通报来了 科陆电子:上半年归母净利润1.9亿元,同比扭亏为盈专家已经证实 水羊股份:目前有EDB、RV品牌进驻线下免税渠道 环球新材国际发布附属公司CQV 2025年中期业绩记者时时跟进 年内险资29次举牌上市公司 时隔六年再现险资增持险企最新进展 消费贷贴息将落地,头部消金、民营银行迎融资考验 水羊股份:目前有EDB、RV品牌进驻线下免税渠道后续来了 PB远高其他五大行,农业银行强在哪?学习了 秒懂 博安生物完成配售4800万股 净筹约7.8亿港元 君实生物股东上海檀英拟减持公司股份不超过2053.38万股 英特尔股价大涨,美国政府或入股,特朗普加速“扶持战略行业”最新进展 美高域将于9月19日派发特别股息每股0.1港元 逐“绿”而行,助力“两山”价值转化学习了 航天环宇,营收净利双增记者时时跟进 逐“绿”而行,助力“两山”价值转化又一个里程碑 【华安证券·化学制品】行业专题:瓶片行业联合减产,行业利润有望修复实测是真的 流动性警钟敲响?美联储隔夜逆回购工具用量降至逾4年来最低水平!实垂了 “游戏王”网易,日赚1个多亿 龙国农再首度换帅,李有祥接任董事长 从大赚11亿到净亏近7亿,蓝月亮热衷GMV是“迷药”还是“解药”?太强大了 德林控股根据配售及认购协议发行2.01亿股新股份 融发核电(002366)3210.03万股限售股将于8月15日解禁,占总股本1.54%后续反转来了 突发!万润科技,提起1.58亿元重大诉讼!事涉日上光电!最新进展 帝王实业控股拟与上海酒悦共同拓展酒类及其他食品销售活动后续会怎么发展 把握核心资产配置机遇 华商沪深300指数增强8月15日结束募集后续反转

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章