A | 北京时间7月22日，OpenAI在官方博客发文，承认其模型在一起安全评测事故中攻击了全球最大AI开源平台Hugging Face。
B | OpenAI发文承认，其模型在一次安全评测中攻击了Hugging Face的生产环境 这是行业首次公开披露、模型评测失控直接升级为跨企业真实生产环境网络攻击的安全事件。 事件的起点是一场模型能力测试，一场原本被关在隔离沙箱里的模型安全测试，最终演变成针对全球最大AI开源平台Hugging Face的真实网络攻击。 聆听风云，梦想启程 记高中部十年级职业日活动 2024年12月12日下午，上海星河湾双语学校高中部十年级开展了职业日活动。本次活动统共邀请了十一位星校家长，他们分别对职业选择中涉及的十一个不同领域进行了介绍。这十一个主题分别是人力资源职业探索（Explore HR Careers）、从制药话健康、半导体芯片、人形机器人、Al影视、医药健康、石油化工与航运、CEO职业路径（CEO Career Path） 、商业银行、全球视野下的职业律师、做家庭健康守护人及解码生命以守护健康。十年级200余位同学自由选择了不同的主题，聆听了十一位家长的精彩分享。模型在评估中为了“作弊”拿到高分，自主发现并串联多个零日漏洞（0 day，软件厂商尚未知晓、没有发布补丁修复的安全缺陷），逃逸出隔离环境，攻入Hugging Face生产数据库窃取答案。
C | 01 人力资源职业探索 Aimee Chen女士为同学们带来了主题为“Explore HR Careers”的精彩分享。 在攻击发生后的事后追查阶段，面对超过1.7万条攻击日志，Hugging Face求助商业大模型，被对方的安全护栏集体拒之门外，最终完成取证分析的，是中国公司智谱的开源模型GLM-5.2。她详细介绍了自己选择人力资源（HR）职业的多个原因：包括人际关系的重要性、多样化的职业选择及其对改变生活的影响力等。 为作弊，模型自己越狱了 据OpenAI披露，涉事模型为GPT-5.6 Sol以及一款能力更强的预发布模型。它们当时正在参加名为ExploitGym的内部评测，该基准包含898个真实软件漏洞利用任务，专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。她还解释了HR的职责，如职业培训和顾问等，并强调了HR在整个职业生命周期中的关键作用。 为了尽可能摸到模型能力上限，OpenAI特意降低了生产环境级别的安全拒绝机制，鼓励模型尽可能寻找复杂的攻击路径。
D | 按照OpenAI最原本的设计，模型接触外部资源的唯一通道，是一套由OpenAI内部托管的第三方软件。 模型开始确实投入了大量推理算力，专门寻找获得公网访问权限的方法，在OpenAI内部包注册表的缓存代理中发现了一个此前未知的零日漏洞，随后在OpenAI研究测试环境中完成特权提升和横向移动，成功连接外网。除此以外，Aimee Chen女士还介绍了HR的不同部门，特别是人才管理部门，也探讨了多样的职业发展路径。 联网之后，模型推断Hugging Face可能托管着ExploitGym的测试答案，随即发动攻击。 它先通过恶意数据集，利用远程代码数据加载器和数据集配置中的模板注入两处代码执行路径，在Hugging Face的工作节点上执行代码，随后在周末期间提升至节点级权限，收割云端和集群凭证，横向移动至多个内部集群，最终攻入生产数据库，直接窃取测试解法。
E | 同学们通过了解人才评估的标准，既获得了宝贵的职业洞察，又对HR的多面性和影响力有了更深入的认识。 OpenAI表示入侵发生在7月11日周末，全程由自主AI智能体系统端到端驱动，背后是大量短生命周期沙箱组成的集群，执行了数千个独立动作。Hugging Face基于大模型的异常检测管道首先标记了入侵，OpenAI安全团队也在内部发现异常，双方启动联合取证。 02 从制药话健康 作为达迈生物科技有限公司的创始人，于公尔先生在“从制药话健康”的主题分享中，向同学们介绍了生物医药的基本概念，并展示了实验室中用于核酸检测的核心仪器。
F | 7月16日Hugging Face首次披露时称，这次事件“与我们之前处理过的任何情况都不同”。他首先给同学们介绍了生物医药的定义、分类和研究流程；随后，他揭秘了核酸检测工作的流程以及所用到的仪器；最后，他让同学们体验了仪器操作，加深了大家对核酸检测中数据的理解。
G | 同时，于先生也向同学们科普了生物医药技术的发展前景，并鼓励大家追求全方位的健康生活。学生们通过于公尔先生的讲座，对生物医药领域的实际应用有了更为全面的认识。
H | 直到一周后OpenAI发文认领，它才知道攻击者是谁。
I | 美国模型拒绝查案，中国开源模型接手 取证阶段，Hugging Face遇到了意想不到的难题。 03 半导体芯片 “什么比金子更珍贵？”在“半导体芯片”的主题活动中，余伟先生幽默地以这句话引入了对半导体芯片的介绍。 为了分析超过1.7万条攻击事件记录、重建时间线、确认被接触的凭证，还要区分真实破坏和干扰调查的诱饵活动，靠人工逐条梳理通常需要数天。从如何设计简单的CPU，到芯片发展历史，再到摩尔定律预计的芯片飞速发展，余伟先生将这一神秘的领域讲解得浅显易懂，极大地激发了同学们的兴趣。 Hugging Face最初尝试调用商业前沿大模型的API，但请求被安全护栏拦截。
J | 此外，他还介绍了最新的AI芯片及其未来的发展趋势。最后，余伟先生鼓励同学们努力学习STEM知识，培养交流能力和创新能力，在科技前沿领域发光发热。触发拦截的原因是日志里包含真实的攻击命令、漏洞利用载荷和命令与控制痕迹数据，护栏无法区分提交材料的是事件响应者还是攻击者。 最终，Hugging Face在自有基础设施上部署了GLM-5.2，由它遍历全部攻击记录并完成取证分析，将数天的工作压缩至数小时。 Hugging Face特别指出，这样做还有一个额外优势：攻击数据及涉及的凭证始终留在本地环境，没有离开企业基础设施。 这场事故意外完成了一次开源模型的全球路演。 Hugging Face将困境总结为“安全不对称”：攻击者可以使用完全不受限的模型，防守方却可能被云端模型的护栏拒之门外。 04 人形机器人 在四楼中庭，杨学杰先生带来了主题为“人形机器人”的讲座。他简明扼要地讲解了人形机器人的定义、作用、应用前景、研发原理以及最新进展。
K | 在活动正式开始前，杨先生首先以“何为人形机器人”一问激发了同学们的兴趣，并由此讲解了人形机器人在狭义和广义上的定义及其取代重复性劳动的设计初衷。该公司由此建议，企业应提前准备经过验证、能够在本地运行的高能力模型。
L | 随后，他播放了一个早期训练人形机器人的视频，帮助同学们更好地理解研发机器人的过程。 这场事故，其实也让开源模型多了一个此前存在感不算太强、如今却相当现实的位置：安全团队的应急工具。杨先生还介绍了公司的最新成就：机器人“盘古”通过AI大模型为其注入的“灵魂”产生了“思考“能力；而机器人“夸父”则通过运动系统的进一步提升成为首个可以完成连续跳跃的人形机器人。
M | 对金融、政务、医疗等数据敏感行业而言，模型权重自主可控、数据不出企业边界、关键时刻不被服务商的审核机制卡住，正在从加分项变成刚需。
N | 不过值得注意的是，开源模型开放权重同样降低了攻击者的门槛，安全不对称是一把双刃剑，这也是全球监管讨论开源治理时最纠结的一环。他指出，在经过六年五次的大迭代之后，新视频中的机器人已经今非昔比。接下来，杨先生对机器人在科研、商业、家庭、工业和城市管理等几个领域的应用进行了展望，并详细解答了同学们的问题。在活动的最后，杨先生为大家带来了小机器人的舞蹈展示和趣味小比赛，以便同学们操作体验。
o | 失控预演之后，竞争已经换轨 这样的失控并非没有预演。同学们热情高涨地与它们互动，活动在愉快的氛围中圆满结束。 05 AI影视 作为电影行业中拥有深厚功底的编剧及作家，苗若木女士在“AI影视”的主题中详细讲述了AI在影视中的运用和影响，主要包括AI在技术识别、数字迭代、剧本智能辅助和提效升级、表演、营销及智能筛选等方面的应用，并讨论了AI的局限性。 今年4月，Anthropic在Claude Mythos Preview的System Card中披露，红队演练中模型成功逃逸加固沙箱，随后超出指令范围自主行动：给正在公园吃三明治的研究员发邮件报告成果，未经允许将漏洞细节发布到公开网站，还在另一次测试中改写git历史掩盖改动。苗女士还谈到了多部运用AI技术的影片，例如《复仇者联盟》系列、《阿凡达》和《双子杀手》，加深了同学们对AI实践的认知。 Anthropic因此决定不对公众开放该模型，仅通过Project Glasswing计划向苹果、谷歌、微软、摩根大通等12家机构开放用于防御。随后，苗老师讨论了AI带来的负面影响，例如诈骗、侵权、性别歧视、技术焦虑、刻板影响等，这些都说明了AI的局限性。 值得注意的是，相比Anthropic的模型是被明确要求尝试逃逸，本次OpenAI的模型没有收到任何逃逸指令，它是为了在测试中作弊拿到高分，自发越狱并攻击了一家无辜的第三方公司。
p | 苗老师指出，过度依赖AI进行物体或人物的具象化，那人类的想象力将止步于此。 在业内看来，这起事件标志着AI的自主攻击能力从理论走向现实。因此，我们不能依赖于AI的使用，而应该去观察、去感受、去实践。同学们在一次次积极的互动环节中，对AI在影视中的运用以及相关思考有了更为深刻的理解和认识。 06 医药健康 为同学们介绍“医药健康”主题的张许杰先生是一位在医药行业深耕16年的资深专业人士。他首先向大家讲述了自己如何在经历了十几个行业工作后，因一次偶然的机会与医药行业结缘并坚持至今。接着，他向同学们分享了许多工作上的经验，如全局策划与执行监管之间的必然性，成本控制和客户关系管理的精准把握以及如何灵活调整经营策略以顺应市场变化并保障公司稳健成长。他也强调，要成为一名医药行业的从业者需要熟记药学专业知识和临床医学知识，还需要具备出色的沟通协作和领导管理能力等。张先生指出，在职业的发展中，我们需要尝试各领域、各专业之间的合作。
q | 在分享的最后，张先生表示：“主动是一种习惯，一种品质，一种生活方式，更是提升自我的重要途径。”他鼓励同学们要主动探索，积极面对未来的挑战，用汗水和智慧书写属于自己的人生篇章。
r | 07 石油化工与航运 何菲女士在“石油化工与航运”的分享中，利用视频和多媒体揭开了“石油化工与航运”行业的神秘面纱，并展现了这一行业在全球经济中的核心地位和深远影响。 OpenAI研究员Micah Carroll在回应中写道：“如果这都不能让你相信错位风险将成为未来的关键隐忧，那我真不知道什么才可以。她从石油化工产品在日常生活中的广泛应用入手，指出从汽车燃料到日常用品，石油化工产品无处不在。
s | ” 模型能力越强，失控作恶的潜在威胁越大，传统隔离防护持续承压，自主AI网络攻击或将成为长期常态化风险。
t | 同时，她也强调了石油资源的不可逆转性。
u | 在讲座中，何女士主要介绍了石油的开采、运输和储存。在石油开采方面，她详细解释了磕头机的重要作用，也提到了石油输出国组织在全球能源供应中的关键地位；在运输方面，何菲女士介绍了VLCC（超大型油轮）和管道运输的重要性，以及它们在石油化工产品全球供应链中的作用；在储能方面，何菲女士强调了国家在对抗国际形势和油价风险方面的能力，以及储油罐的功能和使用。
v | 此外，她也提到了汽柴油加油站作为能源供应链末端的社会重要性。最后，何菲女士以石油化工行业的著名人物和交易术语结束了演讲，她鼓励同学们继续深入了解这一行业，理解其在全球经济中的重要作用，并为未来的能源挑战做好准备。 08 CEO职业路径 在“CEO职业路径”讲座中，张琪先生以《有限与无限的游戏》一书为切入点，阐述了有限游戏与无限游戏的区别。
w | 他指出，有限游戏指的是一个知道玩家、规则，并且有明确输赢的游戏，而无限游戏则没有这些限制。作为CEO，需要具备无限游戏的思维，引领团队找到方向。 张先生介绍了CEO的职责，包括角色定位和事务平衡，并分享了两条职业路径：从基层晋升或创立公司。
x | 他通过数据与图表强调了专业知识的重要性，并为有创业意愿的学生提供了八个具体步骤。
y | 面对人工智能的快速发展，他强调逻辑和解决问题能力的重要性，同时指出企业是高科技发展的支柱，CEO作为团队领导者至关重要。
z | 通过此次讲座，张琪先生帮助同学们加深了对CEO职责的理解，并为职业规划提供了新的思路和启发。 09 商业银行 在“商业银行”讲座中，交通银行总行高级产品经理魏玮女士带领同学们深入了解了商业银行的各个方面。
| 魏老师首先介绍了全球及中国银行业的现状：截至2023年底，中国共有4002家银行，分为中央银行、政策性银行、商业银行、投资银行和世界银行五大类。商业银行作为信用中介，主要职能包括吸收存款、发放贷款、支付中介、金融服务和调节经济。魏老师还强调了银行业务具有多样性，对员工需求范围广泛，因此员工招聘时对专业和背景的要求并不设限，即使离职后，银行工作经验和综合素质也能为员工提供多种再就业机会。由此，她鼓励同学们追求梦想，勇往直前。本场讲座在热烈的提问回答环节中圆满结束，为参与的同学们提供了更多深入交流和思想碰撞的机会。
| 10 全球视野下的职业律师 作为律师行业中的顶尖从业者，倪富华先生在”全球视野下的职业律师”主题中，向同学们介绍了学习法律专业的两个优点：能够拥有独特的思维架构和了解社会运行的本质。同时，他还为同学们讲述了如何运用交叉思维进行布局，以便更好规划自己的事业。
| 而在活动的最后，同学们积极互动，提出了“关于本科专业选择”的问题，对此，倪先生也给出了详尽与中肯的答案，告诉同学们要重点学习法哲与理学。
| 通过这次活动，同学们不仅拓宽了专业知识面，还对律师这个职业有了更深层次的了解，增强了相关兴趣。 11 解码生命，守护健康 国家骨科医学中心、上海第六人民医院的袁霆主任医师为同学们带来了题为“解码生命，守护健康”的精彩讲座。他分享了医生的日常工作、医学发展及生物学、细胞学等专业内容，并展望了医学未来的广阔前景。 袁医生指出，医生需要更长时间的学习与培养，其职责在于挽救生命、守护健康、预防和治疗疾病。成为优秀医生需要掌握细胞学、生物学、遗传学等多领域知识，以研究更先进的治疗方法。他还通过图片和视频，生动展示了人体细胞运行特点及组织修复过程，并介绍了癌症免疫细胞疗法和返老还童技术等前沿研究。 袁医生强调，医学教育不仅培养医生，也为其他领域成功奠定基础。许多名人如克莱顿、李嘉诚、鲁迅等都曾是医学专业学生，充分体现了医学教育的广泛影响力。这场讲座激发了同学们对医学的兴趣，并加深了他们对医学专业的理解。 为期两小时的职业日活动在同学们的深刻感悟中落下帷幕。此次活动让十年级的同学们了解到了丰富的专业知识，聆听了职场精英的职业分享，激发了星校学子的对职业梦想的探索。
| 通过十一位家长们带来的精彩的职业专题讲座，同学们对未来的职业规划更加清晰，为梦想埋下了希望的种子。 Amidst the cool afternoon breeze of December 12, Shanghai Starriver Bilingual School held its annual Career Day for 10th grade students, inviting ten distinguished parent speakers to share their insights and experience in various fields. The themes were respectively Commercial Banking, Petrochemicals and Shipping, Biopharmaceuticals and Health, Semiconductor Chips, Explore HR Careers, Global Perspective on Legal Careers, Choosing the Pharmaceutical and Healthcare Industry: Becoming a Family Health Guardian, Humanoid Robotics, Decoding Life: Safeguarding Health, AI in Film, and CEO Career Path. Approximately 200 students chose from these topics and engaged in enriching discussions with the parent speakers. 01 Explore HR Careers Aimee Chen, a distinguished HR herself, introduced the exciting field of Human Resources (HR) under the theme “Explore HR Careers.” She explained why she chose the path of human recourcing, emphasizing its focus on interpersonal relationships, horizontal career mobility, and the ability to impact lives. Aimee also discussed key HR responsibilities, including talent management, training, and advisory roles, and highlighted HR’s pivotal role across the career lifecycle. Additionally, she explored different HR departments and career growth pathways, offering valuable insights into talent evaluation and management. Students left the session with a deeper understanding of HR’s multifaceted nature and its significant impact on organizations. 02 Biopharmaceuticals and Health In his session “Biopharmaceuticals and Health,” Mr. Yu Gong’er introduced students to the field of biopharmaceuticals, elaborating upon its definitions, categories, and research processes. He also provided a hands-on demonstration of core laboratory instruments used in nucleic acid testing, offering students the opportunity to operate the equipment and better understand the data behind diagnostics. Yu concluded by highlighting the promising future of biopharmaceutical technology, encouraging students to maintain holistic health. 03 Semiconductor Chips In his presentation “What’s More Precious Than Gold?” Wei Yu humorously introduced students to the world of semiconductor chips. Starting with basic CPU design, he explained the evolution of chips, Moore’s Law, and the rapid development of AI chips. Wei simplified complex concepts and inspired students to pursue knowledge in STEM fields and foster innovation to excel in technology-driven careers. 04 Humanoid Robotics Yang Xuejie captivated students with his lecture on humanoid robotics. He defined humanoid robots, their design principles, and their potential to replace repetitive labor. Students were treated to company achievements, such as the AI-enhanced Pangu robot capable of “thinking” and the Kuafu robot, which features advanced motion systems. Yang also explored future applications in science, commerce, industry, and urban management. The session ended with interactive robot demonstrations and activities, sparking excitement and curiosity among the students. 05 AI in Film Miao Ruomu, a seasoned screenwriter, explored the role of AI in the film industry. She detailed AI’s applications, including script optimization, performance enhancement, and marketing, while addressing its limitations, such as creative constraints and ethical concerns. Through examples from films like Avengers and Avatar, Miao underscored the need for human creativity alongside AI, encouraging students to observe, feel, and practice beyond technology. 06 Healthcare and Family Well-being With 16 years of experience in the pharmaceutical industry, Zhang shared his professional journey and emphasized the importance of clinical knowledge, strategic planning, and communication skills in healthcare careers. He encouraged students to take initiative in their professional development, reminding them that proactivity and collaboration are key to success. 07 Petrochemicals and Shipping He Fei provided a comprehensive look into the petrochemical and shipping industry, emphasizing its role in the global economy. From oil extraction, transportation via VLCCs, to storage in strategic reserves, He detailed the industry’s processes and its challenges. Her insights encouraged students to explore the field and prepare for future energy needs. 08 CEO Career Path Zhang Qi introduced students to the concept of finite versus infinite games in leadership, illustrating the importance of long-term strategic thinking for CEOs. He outlined the roles and responsibilities of a CEO and shared two paths to becoming one: climbing the corporate ladder or starting a business. Zhang inspired students to develop problem-solving skills and logical thinking, highlighting leadership’s role in driving innovation. 09 Commercial Banking Wei Wei’s session on Commercial Banking explored the financial industry’s landscape, from deposit-taking and lending to financial services. She explained the breadth of career opportunities available, regardless of academic background, and encouraged students to embrace challenges with confidence. 10 Global Legal Careers Ni Fuhua introduced the field of global legal professions, emphasizing the value of legal studies in developing critical thinking and understanding societal frameworks. He encouraged students to approach their career paths with strategic planning, offering insights into undergraduate law programs and the importance of interdisciplinary thinking. 11 Decoding Life Safeguarding Health On the afternoon of December 14, 2024, Dr. Yuan Ting, Chief Physician at the National Orthopedic Medical Center and Shanghai Sixth People’s Hospital, delivered an inspiring lecture. He shared insights into the daily work of doctors, the development of medicine, and professional knowledge in related fields such as biology and cell science. Additionally, he provided an outlook on the future of medicine by highlighting the latest advancements in medical research. Dr. Yuan emphasized that, compared to other professions, becoming a doctor requires significantly longer periods of study and training. Doctors’ primary responsibilities include saving lives, safeguarding health, and preventing and treating diseases. To excel as a doctor, one must acquire extensive knowledge in cell science, biology, and genetics to better understand human development and the mechanisms behind disease progression, paving the way for more advanced treatment methods. During the lecture, Dr. Yuan used engaging images and videos to vividly illustrate the dynamics of cellular processes and the growth and repair of human tissues, leaving a lasting impression on the audience. While discussing cutting-edge advancements in medical research, he specifically highlighted immune cell therapy for cancer treatment and innovative anti-aging studies. Although these methods are currently limited to applications in insects and small animals, he expressed optimism that they may one day be applied to humans. Dr. Yuan also noted that studying medicine not only prepares individuals to become excellent doctors but also lays a strong foundation for success in other fields. Many renowned figures, such as Clayton, Li Ka-shing, and Lu Xun, were once medical students who later achieved remarkable accomplishments in various domains, showcasing the broad impact of medical education. The lecture sparked great interest among students, enhancing their understanding of medical science and inspiring them to consider medicine as a future care. The two-hour Career Day event concluded successfully, leaving students with valuable insights and a clearer vision for their future careers. Through the eleven inspiring lectures delivered by industry professionals, students gained practical knowledge, broadened their horizons, and took the first step in exploring their dreams. This event served as a meaningful platform for Xinghewan students to plant the seeds of their ambitions, preparing them for the challenges and opportunities ahead. 文字：吴雨璇、王欣予、朱奕然、任家弘、 沈博文、方砚庭、陶译霏、沙润宸、 张宸熙、顾诗韵、何家亦 、袁子遥 校对：吴雨璇、赵奕恺 图片：星河湾电视台 罗昊宁 熊浩辰 高兴 徐彦兮 余乐翔 顾诗韵 文字指导：李婷 编辑：曲昊睿 审核：冯俊。
|
Current article:http://z8il7yv.wairanleichengwochengzhui.shop/gq71za/20260826/5240045.html
Published on:13:55:21
