首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-12
风电行业景气度提升 新强联上半年营收增109% 剧透未来:机器人走向实用主义实测是真的 宁德时代宜春锂矿确认停产 碳酸锂供给收缩预期或难达成官方通报来了 月内15家上市公司披露控制权变更进展是真的? “8·11汇改”十年 人民币汇率弹性增强官方处理结果 “8·11汇改”十年 人民币汇率弹性增强 特朗普淡化外界对美俄领导人峰会期待 称能否达成协议自己说了不算最新报道 1.9万亿巨无霸出手,挪威主权基金清仓11家以色列公司股票学习了 纽约汇市:美元上涨 投资者屏息以待美国通胀数据 月内15家上市公司披露控制权变更进展 剧透未来:机器人走向实用主义 理性看待低价股的投资价值最新报道 风电行业景气度提升 新强联上半年营收增109% 金融领域反洗钱政策持续优化 提供清晰操作指引实时报道 智能家居待破“伪智能”学习了 贝森特预计美国贸易谈判将在10月底之前基本完成最新报道 【国金电新 周观点】风电板块启动预期差修正,液冷海外链国产渗透机会再重申太强大了 【电力*袁理】香港RWA注册平台上线,继续关注RWA对虚拟电厂、电交易、碳交易的赋能 龙国科教产业与华立建筑订立2025年建筑服务框架协议又一个里程碑 百胜龙国8月8日斥资627.07万港元回购1.75万股秒懂 银行半年报大丰收!这项收入增长最快后续反转 集体辞职!*ST赛隆,突然公告! 操盘必读:影响股市利好或利空消息_2025年8月11日_财经新闻 【国金电新 周观点】风电板块启动预期差修正,液冷海外链国产渗透机会再重申官方通报来了 融资平台转型提速 “不合格者”将彻底清退是真的? 中小盘指数创阶段新高 相关主题基金限购或调仓 贝森特预计美国贸易谈判将在10月底之前基本完成官方处理结果 货币堵塞和压抑是计划时期困难和低增长的重要原因后续反转来了 黑马「零跑」的十字路口:“3年超特斯拉”如何兑现? 百胜龙国8月8日斥资627.07万港元回购1.75万股 银行半年报大丰收!这项收入增长最快官方处理结果 燃气行业财务总监CFO观察:特瑞斯王粉萍仅为专科学历 出现1次违规情况 薪酬仍有81万元实时报道 李斌:目前蔚来能源全国累计建设超8100座充换电站最新报道 宁德时代枧下窝锂矿停产?碳酸锂供应扰动再起!有色龙头ETF(159876)单日劲涨1%斩获日线5连涨! 轨交设备板块震荡走强 必得科技涨停创历史新高专家已经证实 “算力+应用”集体活跃,创业板人工智能ETF(159363)涨超3%领跑全市场!AI应用提速驱动算力需求实时报道 马斯克:Grok 4现已免费提供给所有用户,免费用户每天可少量查询科技水平又一个里程碑 巴奴国际赴港上市收到证监会反馈意见:需说明未认定韩艳丽为共同实际控制人的原因及合理性官方已经证实 英伟达概念走强,麦格米特涨停学习了 中铝集团董事长段向东会见进出口银行董事长陈怀宇 巴奴国际赴港上市收到证监会反馈意见:需说明未认定韩艳丽为共同实际控制人的原因及合理性最新报道 OpenAI在龙国申请GPT-5商标均已被驳回学习了 龙国首都北辰实业股份早盘一度涨超20% 龙国首都五环外限购取消 燃气行业财务总监CFO观察:皖天然气朱亦洪为年龄最大 57岁硕士学历 年薪72万元 低于行业平均水平实时报道 宁德时代重要矿山停产,“投资者光着膀子,深夜上山蹲守见证”,相关商品和股票一波大涨,澳洲股票也在疯涨后续来了

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章