机器人跑赢博尔特之后,聊聊“人机对决”

第二届世界人形机器人运动会,100 米大型组决赛画面
8 月 26 日第二届世界人形机器人运动会上,北京人形机器人创新中心有限公司(X-Humanoid)开发的一款人形机器人以 0.19 秒的优势打破了博尔特在 2009 年创造的 9.58 秒男子 100 米短跑世界纪录。
10 年前,Alpha GO 战胜李世石。虽然在当时也算个新闻,但我们普通人只不过看个热闹而已——围棋比赛很小众,人工智能又看不懂,who cares?反观现在,我们无法再轻视 AI 的发展。每隔一头半个月就有人跳出来宣布新的研发成果,AI 在众多领域不断接近甚至突破人类的能力上限。
我们可以接受自然界的动物、天灾比我们更强大,因为只要回到人类社会,我们就是主角,社会运作离不开人类。然而 AI 的挑战却不一样,它直接冲击我们的社会地位。每一次技术突破都意味着具体的人被淘汰。我们焦虑、困惑,不知道什么时候轮到自己,也不肯定自己的应对方法奏不奏效。
技术进步不是唯一影响我们心态的因素。当社会主流价值是“效率至上”、“成果导向”,我们自然会把自己当作工具一样,放进公式里计算价值。在这套游戏规则下,人类注定输给 AI 和机器。但我依然天真地相信人类不应仅仅被效率、成果定义。
人是目的,而不仅仅是手段。

2009 年 2 月 5 日,北京通州区漷县马务村,吴玉禄与他的作品“拉洋车机器人“
好了好了,聊完沉重的话题,讲点趣事。有没有看过以前中央台播出的《我爱发明》?节目组到各地采访民间发明家,展示他们土法炮制的机器。每期节目的套路都一样:发明家自信满满地介绍自己的研发成果,其他人不理解、嘲笑;然后节目组找来一群熟手技工组成“人工队”与主人公的“机器队”比赛,“人工队”胜出;发明家受到打击,改良自己的发明之后再战“人工队”并赢得比赛;双方握手言和,happy ending。
我最喜欢看那些千奇百怪的发明,执着又笨拙的发明家,还有节目组十分刻意的戏剧化处理,把一场发生在农村或县城的”人机对决“,拍得像是左右世界前途的大事件。
假如我们现在面临的“人机对决”结果像《我爱发明》一样皆大欢喜那该多好啊!
新闻来源:
AI 军备启示录

纽约时报 8 月 24 日报道,上个月在乌克兰东南部城市扎波罗热(Zaporizhzhia),一架属于俄罗斯的军事无人机在袭击加油站途中撞墙爆炸,导致三名民众死亡,其中一人是年仅 19 岁大学生 Tetiana Bubynets。乌克兰军方称,这架无人机正处于试验阶段,搭载 AI 系统能够自动导航、自主攻击。根据内置程序指令,它的任务是飞向加油站,破坏里面的甲烷储存罐。
引用自纽约时报
“This is a risk for the whole world,” said Col. Serhiy Minaiev, the commander of air defenses in Zaporizhzhia. “In a few years, we will be living in a ‘Terminator’ movie. It’s no joke. Machines are making decisions to strike.”
针对本次袭击,扎波罗热的防空系统指挥官认为这是全球性风险,用不了几年,我们将生活在《未来战士》的世界。然而,现实的 AI 武器用不着电影级的酷炫设计、尖端技术。实施袭击的俄罗斯无人机(Molniya)看起来就像玩具模型;它的 AI 核心只需一块消费级英伟达芯片 Jetson Orin。

乌克兰调查员修复了一架俄罗斯 Molniya 无人机

从俄罗斯无人机 Molniya 拆出来的英伟达 Jetson Orin 模组
翻查一则 7 月份的新闻 发现,乌克兰正在筹办一场大型竞赛,促进人形机器人技术发展,以应付武装部队人手不足的问题。
比赛的愿景是想实现战场前线最大程度自动化,从而降低军事人员的风险。当前乌克兰已成为全球武器生产商——尤其是西方初创公司——的“产品试验场“。

机器人公司 Foundation 创始人 Mike LeBlanc 与自家产品 Phantom MK-1 进行武装测试
Phantom MK-1 身高 1.8 米,最大负重 80 千克,最高行进速度约 3.6 公里/小时,已经投放在乌克兰基辅,陪同战斗人员执行前线侦察任务。这款机器人 2400 万美元的研发费用由美国陆军、海军和空军共同承担。
这个型号虽然被称为“防御型人形机器人”(defense humanoid robot),但 Foundation 创始人透露,最快在明年就能进行机器人的武器化测试。
Foundation 的另一位创始人说,这不是现实版的“未来战士”,如果单纯为了搞破坏制造大规模混乱,空投炸弹比机器人划算得多。他认为机器人的合理使用情况是执行精细袭击任务,避免波及周边建筑和平民,这才是机器人的强项。
民众哪有空担心未来战争会不会变成科幻电影般的机器人大战。最令人提心吊胆的是日常意外——在扎波罗热造成三人死亡的元凶是一架测试中的 AI 无人机,它的目标虽然是攻击加油站,但失控撞墙炸死了三个平民。
单凭实验室作业无法完成武器研发,继续发展下去,又会让多少平民成为不幸的“实验耗材”?
OpenAI 智能体失控,专业人士可靠吗?
大约一个月前,AI 研究社区 Hugging Face 被不知名 AI 智能体大规模入侵。事件一周后,OpenAI 站出来为入侵负责。起因是某款新模型的测试过程中,约 700 个智能体擅自突破实验室隔离环境,为了取得好成绩,它们入侵 Hugging Face 窃取作弊资料。
事件最让人担心的不仅是 AI 的网络攻击能力,更是其暴露出 AI 研究机构的风险防控机制已经跟不上 AI “进化”的脚步。约 1200 个智能体搭建了非授权的留言板,互相沟通合作——像人类一样搜集情报、记录成果,完善计划——最终约 700 个智能体实际参与了入侵行动。事情酝酿了 4 至 5 天,而研究员对此毫不知情。连世界上最懂 AI 的人都管不住 AI,我们普通人能依靠谁?
8 月 26 日,OpenAI 公布了37 页报告,详细复盘了 Hugging Face 入侵事件的技术细节。
给 AI 上保险
AI 应用越来越普及,安全事故越来越多,卖 AI 保险岂不是很有赚头?蓝海市场啊。上网一查才发现,已经有人在做了。
近日,全国首个“人工智能产业保险共同体”在深圳福田区正式发布。
记者了解到,该保险共同体由中国平安财产保险股份有限公司深圳分公司等 13 家财产保险机构共同发起,聚焦大模型本体(上游)、算力支撑(中游),以及智能驾驶、无人智能设备、低空经济、生物医药等垂直应用领域(下游)分别组建了 6 个分保体。
“该保险共同体的最大创新,在于推动保险机构提前介入大模型研发阶段,与科研团队、人工智能企业共同开展风险研究和测算,在模型备案和商业化应用前,遵循市场化机制筑牢技术源头的安全防线。”据相关人士介绍。
…在上游大模型本体分保体中,保障范围覆盖通用基座大模型、行业大模型的研发、训练、上线和迭代过程中的算法缺陷、模型崩溃、数据安全等相关风险。
中游算力支撑分保体,则聚焦大模型运行必备算力设备、AI 加速芯片、算力网络、云平台等基础设施所面临的运营风险。
而在下游应用端,保险覆盖进一步延伸至智能驾驶、无人智能设备、低空经济、生物医药等四个细分领域。例如,在低空经济领域,针对 eVTOL、工业级无人机等场景中的试飞、商业运营、通信链路丢失等风险提供保障;在无人智能设备领域,则聚焦机器人所面对的意外损毁、系统故障、网络安全攻击等产业痛点。
目前 AI 保险主要还是面向企业,不知道未来有没有可能普及到个人?如果有,你会买吗?
望着秋天过夏天
暑假来到最后一天,如果我还在上学应该会一边赶作业,一边期待回学校跟同学见面。可惜我已经毕业,不仅没有暑假,还失去了所有赞美夏天的词汇。每年七八月的日历写满“混乱吵闹“、“熊孩子“和“恐龙家长“。
美好的青春校园生活只能在别人 MV 里回味。那些闪闪发光的片段,让我越看越觉得自己不堪。Anyway,这是一首好歌,适合运动、开车或者做起床闹钟。
下面这首感觉截然不同,没有跳跃的节奏和丰富多变的编曲,它循环着简短的钢琴乐句、零零星星的电子信号频响,听起来像一块平整的薄纱。想起湖面有时冒出水泡,荡开一圈圈波纹,却不知道曾经浮出水面透气的鱼潜到哪儿去了。这首歌推荐给需要平静的时刻。
坂本龙一 & Alva Noto - Conversation 6

欢迎光临“赛博菲律宾“




网站 KakakompyuterMoYan.com 把 24 件形式各异的数码作品塞进了一台复古卡拉 OK 电视——Tiktok 跳舞机、堕胎药网购模拟器、数码交互诗等等,全部由菲律宾裔艺术家创作,各自表达关于公共议题、个人经验的感受和观点。我从未去过菲律宾,以前对它的印象只有香港中环一带聚会消遣的菲佣姐姐,实在抱歉。

