绿野

OpenAI承认其模型测试失控 侵入抱抱脸系统_我的网站

A |     △美国开放人工智能研究中心办公楼（资料图）          美国开放人工智能研究中心（OpenAI）21日承认，该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司的系统。         抱抱脸公司此前表示，上周，其生产基础设施遭到一个“自主”人工智能代理系统的入侵。    转自公众号：新西兰中文先驱Chinese_Herald          曾经震惊奥克兰华社的洗钱案          Advertise with us          最近宣判了          一华人男子逃脱了牢狱之灾          到底是怎么回事          往下看                    01          大批豪车被扣押震惊华社          从2020年1月开始，新西兰警方展开一项行动——Brookings行动，专门打击洗钱犯罪。         奥克兰一位华人男子是首批被警方纳入调查的人之一。         该男子名叫Xiao Yu Lu，英文名“Shaun”。在取证分析时，由于美国前沿模型“无法区分事件响应方和攻击者”，他们转而采用中国模型分析攻击者数据。         OpenAI在官网发文说，此次内部评估在与互联网高度隔离的“沙箱”环境中进行，仅能通过一套内部托管的第三方软件安装软件包。

B |          这位已婚，有3个孩子的父亲住在奥克兰东区Halfmoon Bay码头附近一栋价值 170 万纽币的房子里，开着一辆价值 30 万纽币的奔驰，草坪上还停着一艘价值 16 万纽币的 Rayglass Legend 船。         但在2020年10月14日，也就是他40岁生日的几个月后，警察敲开了 Lu的家门。         随后，警方扣押了价值 2,245,000纽币的三处房产，和价值1,425,000纽币的 11 辆汽车，一时震惊奥克兰华社。模型在尝试完成名为ExploitGym的网络安全基准测试时，识别并利用了第三方软件的一个“零日漏洞”，由此获得互联网访问权限。

C | 模型推断抱抱脸平台可能存有ExploitGym测试相关的模型、数据集和解决方案，利用多种攻击手段找到进入抱抱脸系统的路径。                             02          警方暗中盯梢调查          警方调查他的核心是 Lu控制的未经注册的比特币交易业务，以及他提供的将资金转移到中国的汇款服务。         OpenAI安全团队发现内部异常活动，抱抱脸安全团队在其基础设施上检测到并阻止相关活动，双方正在展开联合调查。         警方发现，5年来，Lu经手的比特币销售量超过 3000 笔，账户资金流水超过1800 万纽币。

D |          虽然他的生意有合法客户，但Lu还处理了大量现金，他知道这些现金有的是来路不明，但一律以15%的佣金帮忙洗钱。         在Brookings行动中，警方能证明Lu帮毒贩洗钱至少有30万纽币。         抱抱脸方面表示，目前仍在评估是否有合作伙伴或客户的数据受到影响，尚未发现模型、数据集或应用空间遭到篡改。

E |          Lu的一名顾客是一位来自南岛 Invercargill的年轻女子。在调查过程中，抱抱脸使用人工智能分析了包含逾1.7万条记录的攻击行动日志，以重建时间线、识别受影响情况并区分真实攻击行为和干扰活动。         2020年5月，该女子开车前往基督城，在机场停车场遇见了从奥克兰飞来的Lu。         抱抱脸说，其最初尝试使用通过商业应用程序接口提供的前沿模型分析日志，但请求被阻止。         警方监控拍到这名23岁的女子，将一个黑色Countdown超市购物袋递给Lu，然后立即离开。该公司随后改为在自己的基础设施上运行中国企业智谱开发的开放权重模型GLM-5.2，以进行取证分析，从而避免攻击者数据及相关凭据离开公司内部环境。         第二天，Lu和他的商业伙伴开着租来的车返回奥克兰，并在Picton登上了库克海峡渡轮。         OpenAI说，这一事件表明，先进人工智能模型已能够在无法访问源代码情况下发现现实系统中的新型攻击路径，并持续执行复杂、多步骤的网络操作。         警方趁机偷偷闯入了Lu租来的车里，调查发现他的背包里有一捆20和50面值的纽币，用胶带和橡皮筋绑在一起，总额大约10万纽币。         Lu的另一个客户叫 Preston Radford。

F | 模型网络安全能力快速提高的同时，内部评测环境、模型行为控制和安全防护措施等也需要同步加强。         2018 年 8 月，Radford从基督城飞往奥克兰，两次在东区Halfmoon Bay码头与Lu会面。         每次，Radford（在另一项警方调查中受到监视）都会拿出10万纽币来换取比特币。         Radford和他的同伙后来因进口14 公斤冰毒而被定罪。                   03          买豪车房子洗钱          并非所有Lu的顾客都是罪犯。         但由于他没有提供金融服务的注册许可，Lu通过比特币销售和汇款服务赚到的所有钱都是非法的，他需要洗钱。         警方称，Lu 于 2015 年开始在新西兰进行比特币交易，其个人资料名为“nzshaun2015”。         他在广告中宣传自己的服务：“奥克兰和新西兰最好的报价！随时转帐。你想要的我都可以做。

G | ”          5年来，他经手了多于 500 万纽币。         为此，他通过购买豪华汽车（包括价值 42.1万纽币的兰博基尼）、房产和摩托车，并把资金转移去中国来洗钱。         2018年3月，Lu 以170万纽币购买了Halfmoon Bay的一处房产。

H |          警方称，10万纽币的存款来自他母亲的银行账户，余额超过100万续币来自住房贷款。         他通常把这些资产以其他人的名义登记，并用不同银行账户的多笔存款购买。

I |          单单买那部兰博基尼，Lu就通过不同账户支付了 29 笔款项。         他用同样的方法购买了奔驰汽车。

J | 据警方称，其中一辆车被记在他母亲的名下，尽管她没有有效的新西兰驾照。

K |          当Brookings行动于 2020 年 10 月结束时，警方在Lu家隐藏在地板下的保险箱中，发现了近 275,000纽币现金。

L |          图片来源：NZ Police          Lu否认了所有指控，并表示他的财富来自出售比特币、中国父母给的及个人储蓄。         但他最终承认了 18 项洗钱指控，以及一项通过欺骗手段获取资金和提供未经注册许可的金融服务的罪名。                   04          被判 12个月居家监禁          Lu上周在奥克兰地方法院出庭接受宣判，法官本来要判他4年多一点的监禁，但之后Lu承认有罪，并没有犯罪前科给予了折扣。

M |          这使得Lu的刑期减至2年，有资格居家监禁。         最终，他的判决是12个月的居家监禁，免去牢狱之灾。         除了Brookings行动外，警方还有另外两起调查行动，作为 2020 年和 2021 年相互关联的秘密调查的三部曲。         上次，我们报道了华人女子洗钱被判史上最长刑期，就属于其中的一个行动中。         原文链接          相关阅读：          华人换汇公司女老板被判洗钱罪，刑期为新西兰史上最长          奥克兰反洗钱行动：9人被捕，大部分为中国公民          奥克兰突袭行动：查获豪车房产等数百万资产，洗钱机构大量资金流向中国          注：本文为编译/原创，欢迎转发分享；但严禁复制等未经授权的非法使用。违反上述声明者，本网将追究其相关法律责任。使用授权请联系[email protected]。         chineseherald.co.nz All Rights Reserved 版权所有          (责编：twinkle)          来源 - 先驱自媒          相关内容                政府宣布，这些福利上涨，明年4月生效！           新政府重拳打击犯罪，囚犯将大幅增加，但监狱里住不下了……           突发！美国和以色列驻新西兰大使馆外发现可疑包裹，附近学校被封锁           毛利党发起全国示威，抗议政府的变革，明天一早奥克兰三条高速或受阻           疫情通报：过去一周新西兰新增6656例，圣诞或迎来一波感染高峰           上周末又有30多个医疗和礼拜场所收到威胁邮件，警方正在全力追查           新西兰第5波疫情下，接种加强针人数激增           节前针对邮政工作人员的暴力行为增多，邮局提醒人们尽快寄出礼物。

Current article:http://9rc6.yaoyaotoutuanmieshaideizun.buzz/s7okz6q/0mg9a.html

Published on:00:00:00