首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-12
【银河晨报】8.11丨宏观:反内卷效果需抱以耐心 近6亿美元!上海晶圆代工龙头Q2业绩亮眼记者时时跟进 美国7月CPI等经济数据本周重磅来袭!美联储降息时间表或被重塑 佳创视讯连亏6年拟易主 “接盘”夫妇旗下锂电设备厂重启IPO尚无实质进展|速读公告 【华西非银】保险行业2025年中报前瞻:资负两端延续回暖,业绩稳健增长 理想汽车不仅仅是i8舆情与销量问题! 美国如何给芯片安“后门”官方处理结果 反转来了 【华西纺服】纺服行业周报:健盛俏尔婷婷盈利能力改善,安德玛FY26Q1收入下降4%专家已经证实 银行板块2025年内上涨16%全线飘红 “低估值+高股息”特征突出险资公募重仓实时报道 佳创视讯连亏6年拟易主 “接盘”夫妇旗下锂电设备厂重启IPO尚无实质进展|速读公告 佳创视讯连亏6年拟易主 “接盘”夫妇旗下锂电设备厂重启IPO尚无实质进展|速读公告 佰达国际控股拟配售1.6亿股 净筹约1698万港元秒懂 【华西纺服】纺服行业周报:健盛俏尔婷婷盈利能力改善,安德玛FY26Q1收入下降4% 创新药赛道火爆!机构密集调研+资金大幅加仓,仅13股这么做真的好么? 理想汽车不仅仅是i8舆情与销量问题! 佰达国际控股拟配售1.6亿股 净筹约1698万港元 “任性”的百果园,被现实教育官方通报来了 阿里为什么不收购京东?马云当年的判断太准了 “任性”的百果园,被现实教育实测是真的 港股华南城于上午10时55分起暂停买卖 小鹏汽车-W早盘涨超7% 全新P7小订不到7分钟破万台 贝森特表示新的美联储老大应该是一个能够审查整个组织的人记者时时跟进 高盛市场团队视角:印度跌很多但没到抄底,日本面临短期回调风险,思考“低配美国科技”策略 电力行业财务总监CFO观察:宁波能源夏雪玲违约收到2次警示函 2024年薪酬为72万元太强大了 实垂了 “指数权重跌至数十年来最低点”!美国医药股被市场“抛弃”了学习了 煌上煌:上半年归母净利润同比增27% 经营性现金流净额超2亿元后续会怎么发展 小鹏汽车-W早盘涨超7% 全新P7小订不到7分钟破万台 国资云概念持续走强,特发信息涨停 小鹏汽车-W早盘涨超7% 全新P7小订不到7分钟破万台 特朗普签署行政令,中美关税休战期延长90天 特朗普称黄金不会被征收关税秒懂 中际旭创董秘王军: 以稳健之道 构筑千亿市值护城河 从经济联盟到战争引擎?欧元EURUSD背后的军事化转型全面开闸后续来了 华尔街多空对决:Stifel预言标普500或暴跌14% Trivariate却乐观预测两年内冲上7000点 从经济联盟到战争引擎?欧元EURUSD背后的军事化转型全面开闸 欧洲主要股指多数收跌 德国DAX30指数跌0.37%又一个里程碑 原油:油价维持在两个月低点附近 市场聚焦美俄会谈走向学习了 五大期交所同步发布程序化交易新规 特朗普对英特尔CEO态度反转,要求其辞职数日后称其“成就斐然” 特朗普签署行政令,中美关税休战期延长90天官方通报

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章