那款入侵过 Hugging Face 的模型正式上线了

9 月 3 日,OpenAI 正式发布了新一代旗舰模型 GPT-6 Astra,网友的观点主要分成两派:一边认为这是 AGI 的开端,称赞它在操控电脑和 Blender 3D 建模方面表现出色;另一边则不以为然,“AGI”已经是用到烂的营销噱头,性能提升不等于“AGI”。

根据官方数据,Astra 在多项测试的表现均超过 Anthropic 旗舰模型 Fable 5.1——ARC-AGI-3 得分 99.9%,FrontierMath Tier 4 得分 97.6%,ExploitBench 得分 100% 。

Astra 的首次亮相是在 7 月份的 OpenAI 智能体入侵 Hugging Face 事件。当时 OpenAI 对外宣布暂缓 Astra 的开发计划 ,因为它的网络攻击能力太强,必须先建立更完善的防护措施。

Astra 的安全报告 值得留意,它的网络安防能力已经达到“Critical(关键、严重)”水平,只要有合适的工具和通路,即使面对保护完善的系统也能够找出从未见过的安防漏洞,创造新的手段加以利用。全程无需真人指引。用户给个目标,它会自己想办法完成。

Safety Overview: GPT‑6 Astra

  1. GPT‑6 Astra is a significant step up in cyber capabilities and meets our Critical threshold. This means that, with the right tools and access, GPT‑6 Astra can find previously unknown security flaws and develop new ways to exploit them across many well-protected systems without a person guiding each step. Accordingly, we significantly strengthened our protections against the model taking harmful cyber actions, whether that’s due to misuse or misalignment. We also took steps to secure our internal development and deployment of Astra and similar models, including stricter isolation, checkpoint encryption, universal monitoring of full trajectories including chains of thought (CoT), and a blocking alignment evaluation process before internal use.

安全报告还提到 Astra 的稳定性(robustness)相比前代大幅提升——更抗“越狱”破解,更顽强地拒绝不合规的任务请求。普通用户不可能简单输入一句“帮我黑入某某网站”就让 Astra 执行网络攻击。

我不禁好奇,模型性能提升到底更有利于安防从业员,还是更有利于黑客?扣好安全带,“潘多拉魔盒”已经打开了。


AI 时代的教育,怎样“以人为本”?

麻省理工学院(MIT)8 月份公布了一份关于 AI 应用在教学、学习和研究培训的报告。它分析了 AI 普及对当前校园活动的冲击和长远影响,并试图厘清 AI 应用的基本原则,给全校教职员和学生提供指引和管理框架。

先撇开专业的教学原理不谈,AI 最直接的影响是损害了师生之间的信任关系。老师要提防学生在考试和作业中“AI 作弊”,于是不得不使用 AI 检测软件,但这些软件的识别结果并不可靠,反而令猜疑越发严重。

学生提心吊胆,担心自己亲手制作的成果被错判为 AI 生成。同时,诸多教学环节(例如,布置作业、打分、写反馈评语)正逐渐被 AI 取代 ,学生在师生互动中越来越难感受到“人味”。

AI 公司推销产品时最常用的说辞就是“效率”——更低成本、更高质量、更多产出。不难预料,确实有导师正考虑在研究活动中应用 AI 智能体,取代真人学生助手。面临着研究资源并不充裕的困境,削减人手显得很合理。

然而,报告里其中一条指导原则并不同意这个判断,“以人为本”(Put humanity front and center)不应该向“效率”妥协。研究活动并非单纯为了追求成果,它是践行“学徒制(apprenticeship)”的重要活动——让学生在实践中学习,培养下一代研究者,继承前人的使命,推动研究领域向前发展。

Put humanity front and center

As a community, we need to keep in mind that although research is central to MIT’s mission, it’s more than an end in itself; on our campus, research is also an apprenticeship, a means of training the next generation of researchers to continue our work and drive our fields of inquiry forward. Using research as an opportunity for learning-by-doing may produce seeming “inefficiencies,” but that’s a feature, not a bug.

换成中国传统的讲法是不是叫做“师徒情谊”?哇,除了古装片,我们还能在什么地方听到这个词啊?真新鲜。受过市场经济的洗礼,我们谈合约不谈感情。家长或学生如果有不满,可以理直气壮地摆出“消费者”的架势向学校维权;老师则秉承“拿钱办事”的打工人心态应付教务,学生是“服务对象”,目标是满足“顾客”需求,不必处处较真。

MIT 报告中经常说到“community”,他们认为学校是由教职员和学生共同构成的行动主体。而在我们这里,似乎大多数人只把学校看作“贩卖知识”的场所。行政人员、教师、学生、家长连番博弈,各自盘算。未来只能如此吗?

陶行知《南京安徽公学办学旨趣》(1923年)

要学生做的事,教职员躬亲共做;要学生学的知识,教职员躬亲共学;要学生守的规则,教职员躬亲共守。我们深信这种共学、共事、共修养的方法,是真正的教育。

蔡元培 《北大第二十二年开学式演说词》(1919年)

大学不是贩卖毕业的机关,也不是灌输固定知识的机关,而是研究学理的机关。

不知道两位大师面对现在的难题有何感想?


推荐两张专辑

Dahi 是谁?不认识。帮 Kendrick 做出 Money Tree 的制作人?那我一定要听听看!Dahi 首次以个人名义发布专辑 Black Boy (Alternative) ,feature 名单包括 Kendrick Lamar、Childish Gambino、Vince Staples,有这几个基本保证不会翻车。整张听下来感觉很完整,每首歌丝滑过渡,feature 艺人的个人特质没有破坏专辑的主调。正如标题的“Black”所暗示,全专编曲都围绕“黑人根源音乐”的 vibe 来构筑。好久没听过这么纯的黑人音乐了,很 groovy,soulful,喜欢。如果你还没听,试试专辑的主打歌 👇

Dahi - How To Pray ft. Kendrick Lamar, Amber Mark (Official Music Video)


不久前发了先行单曲 MV之后,专辑《運河》无预警上线,不废话来看蛋堡自己写的介绍。

专辑介绍

這不是我近幾年原本在準備的那張專輯,是一個突然起心動念,卻強烈感覺到自己很想完成的作品。

2023 年,我因故在台南租了個小單位,作為返鄉時的落腳處、閉關期的山洞,和逃避人生用的庇護所。它離我幼年時的住家位置不遠,都屬於南區和安平區交界一帶的生活圈。

雖然人事已非,有了落腳處後,隨著回訪的次數越發頻繁,我也漸漸地跟這塊已然陌生的生活圈建立起新的連結,重新沉浸於這裡的氛圍。有了生活感,才算有在生活,這是自大學離開台南起、2006 來到台北工作甚至成家後,再也沒有過的狀態和感受。

閒適時,我在這裡隨性製作節拍、補捉預期之外的靈感。在回顧過往、整理思緒之餘,也整理了些十多年來因能力不足而停工的舊檔案,用成長後的能力重製它們。

關於這張專輯的成形,起初只是有感而發寫了首懷舊的歌,卻又在 2024 的某個時間點突然發現:我在這段時間、這個空間裡不自覺已有了氣質相近的些許積累。我想這是這片土地的再次滋養,於是認真將它們組織集結、陸續完成,以茲紀念。

前半生最後一段生活在台南的時光,正是我剛愛上 HIPHOP 的那幾年。在這次的作品裡我說了點那時的事、聊了下現在的狀態,加幾聲那時期最愛的音色、打幾招那年代慣用的饒式,再刻意唱幾句饒舌歌手擅長的膨脹……用我已然成熟的完全體,稍稍模仿了那個青澀的自己,唱給我記憶裡的城市角落,也唱給那個世紀末與世紀初的杜振熙。

被現今安平運河圈起的這塊繁華的人工島,在 400 年前還只是內海範圍裡的一片汪洋,它與它的週邊區域在幾百年來見證了這座城市的歷史,更承載了我年幼至年少的記憶,因此我給這張作品起名《運河》。

它是我目前為止最台南的一張作品,儘管如此,它並不是一張刻畫台南、歌頌台南的作品,只是我在這段時間激起的、新感受與舊情懷碰撞而成的,自我對話的記錄。

《運河》內含 6 首歌與 6 首純音樂作品,時長約 40 分鐘,算不上嘔心瀝血的史詩大作,但氣味濃郁、不脹不膩,四季皆宜、保證真誠。

购买数位板专辑还能够获得一个复古像素游戏,超屌的!我还没听完,没玩过游戏,体验过后再详细聊聊。反正蛋堡绝不让人失望。


羊驼牧场

Llama-o-rama v0.5 是一款极度简约的羊驼模拟器。打开页面一片空地,几只羊驼自由活动,时间流逝,地面长草开花。鼠标点击它们会冒心心,这便是唯一的互动操作。不用喂食、清理大便、除草浇花。这个模拟器的价值就是提供一个非静止画面,让你盯着它发呆。