首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-06
晨丰科技:公司已实际发生的对外担保总额为人民币98260万元太强大了 本田汽车第一财季营业利润惨遭“腰斩”,因美国关税和日元升值官方通报 晨丰科技:公司已实际发生的对外担保总额为人民币98260万元后续来了 债券资讯平台评测:新浪财经APP为何稳居第一?学习了 债券资讯平台评测:新浪财经APP为何稳居第一?后续会怎么发展 视频丨要造核导弹?特朗普白宫屋顶“玩笑话”惹争议 插混技术进入“策略时代”,比亚迪2.6L打破行业天花板官方处理结果 主动权益基金又行了?实时报道 德国准备设立1000亿欧元基金 投资于战略性资产秒懂 估值直逼5000亿美元!OpenAI洽谈新一轮员工股权出售太强大了 警报!技术面和持仓变动双重预警,警惕金价见顶风险 迈威生物:公司尚未实施本次股份回购官方通报 珍酒李渡即将推出高端啤酒牛市,零售标价88元/瓶最新进展 预告:国新办8月7日举行国务院政策例行吹风会 介绍逐步推行免费学前教育政策有关情况后续反转来了 长虹华意:2025年半年度净利润约2.57亿元,同比增加13.42% 洽洽瓜子,到了最危险的时刻实测是真的 美联航787客机起飞后遭遇机械故障 飞行员紧急呼救录音流出官方处理结果 财政部通报六起隐性债务问责典型案例——政府表态更趋严厉,坚决遏制新增隐债官方已经证实 长虹华意:8月5日召开董事会会议太强大了 陈四清专栏(第4期)|龙国式现代化与国有商业银行的责任 大连友谊连续3个交易日收盘价格跌幅偏离值累计超20% 丽珠集团回购7.21万股 金额300万元学习了 陈四清专栏(第4期)|龙国式现代化与国有商业银行的责任后续来了 银河电子控股股东累计增持476万股 增持计划实施完成 碧兴物联:股东碧水源累计减持18万股 持股降至12%官方处理结果 巴斯夫发布2025年Q2财务数据&全年预期,释放哪些信号?实垂了 国恩股份拟建PEEK材料一体化平台后续来了 华平投资以2.4亿美元收购日本大东京地区两处物流资产 预计上半年净利暴增20倍 “投影仪第一股”筹划赴港上市后续反转 仁信新材:三期项目就绪,48万吨产能登顶华南聚苯乙烯市场专家已经证实 国恩股份拟建PEEK材料一体化平台科技水平又一个里程碑 邮政储蓄银行扣划邮储银行网商贷逾期客户银行账户款项偿还欠款公告后续反转 国恩股份拟建PEEK材料一体化平台专家已经证实 破发连亏股杰美特7名股东拟减持 2020年上市超募7.7亿学习了 “反内卷”行情持续,化工ETF(516020)冲击三连阳!板块仍处估值低位,黄金布局期或至? 东风汽车七月销量同比增长27.5%,售后晒图:订单像雪花一样飞 老乡鸡港股冲刺:30亿项目缺钱,超8成门店困在华东,社保欠缴风险仍在后续反转 广哈通信:暂不涉及无人驾驶相关技术研究 美元窄幅震荡,市场信心修复艰难!最新报道 “反内卷”行情持续,化工ETF(516020)冲击三连阳!板块仍处估值低位,黄金布局期或至? 信光能源科技(安徽)有限公司发生工商变更专家已经证实 消息称苹果将在9月9日发布iPhone 17 当周五开始接受预订19日上市 华平投资以2.4亿美元收购日本大东京地区两处物流资产秒懂 比亚迪电子盘中涨超9% AI驱动液冷市场增长公司切入英伟达产业链后续反转 东风汽车七月销量同比增长27.5%,售后晒图:订单像雪花一样飞 今日10家公司公布半年报 2家业绩增幅翻倍官方已经证实

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章