当前位置:首页 > 站长资讯 > 正文内容

当 AI,开始设计 AI

a811625532周前 (02-14)站长资讯7

如果有人在 2020 年告诉你,「六年后,AI 会自己设计下一代 ai」,你大概会觉得这是天方夜谭。

但就在上周,OpenAIgpt-5.3-Codex 和 Anthropic 的 Claude Opus 4.6 同日发布,两家公司不约而同地宣布了一个令人震惊的消息:

这些 AI 模型,已经能够有意义地参与改进自己

这只是 2026 年初,中国农历马年春节之前的「AI 春运」大战的开始,但很有可能多年后重新回头看,这可能是一个 AI 进化史上的重要节点——人工智能,已经开始非常熟练地,设计和并建造下一代人工智能了。

更重要的是,这对使用者——人类——来说,到底意味着什么?作者 Matt Shumer 在文章中为大家拆解了,为什么现在,可能正是这样一个节点时刻。

01自我进化的「潘多拉魔盒」已开启

openai ceo Sam Altman 在 Twitter 上兴奋地表示:「我喜欢用这个模型构建;感觉比基准测试所示的进展更大。能以 5.3-Codex 来开发 5.3-Codex 的速度,这是未来的一个信号。」

这句话背后的含义让人细思极恐。

Anthropic CEO Dario Amodei 更是直接承认:「我们基本上已经让 Claude 设计下一版本的 Claude 本身,不是完全地,也不是在所有方式上,但在很多方面,这个循环开始快速闭合。」

或许,我们正在见证 AI 发展史上最重要的一个拐点:从人类设计 AI,到 AI 协助设计 AI,再到 AI 主导设计 AI。这个过程比任何人预想的都要快。

但现实远比宣传复杂。Medium 分析师 Alex Carter 在 48 小时实测后泼了一盆冷水:Codex 5.3「感觉仓促。营销承诺与现实不符。它声称『帮助自己建设』听起来令人印象深刻,直到你意识到它无法可靠地构建登录系统。」

这种巨大的期望差距恰恰暴露了当前 AI 自我改进的真实状态:

概念已经突破,但实际能力仍在爬坡

02知识工作体系的重构

更值得关注的是这背后的连锁反应。如果 AI 真的能自我迭代优化,那么依赖知识积累和经验传承的工作,将面临根本性冲击。

这不是简单的「AI 取代人类」,而是整个知识工作体系的重构

技术分析师 Sebastian Raschka 在《State of LLMs 2025》中指出,2026 年的进展「主要来自推理而非纯粹的训练方面」,进步出现在「架构调整、数据质量改进、推理训练、推理扩展和工具调用」等多个维度。

这意味,AI 不再是单纯的工具,而是开始具备「思考如何更好地思考」的元认知能力

我们可以想象这样的场景:一个法律 AI 不仅能处理案例,还能分析自己在处理过程中的不足,并设计改进方案;一个医疗诊断 AI 不仅能看病,还能反思自己的诊断逻辑,优化决策路径。

当 AI 开始拥有自我反思和改进的能力,人类在知识工作中的独特优势——经验积累、模式识别、创新思维——还能保持多久?

03掌控权还在人类手中... 吗?

但最让人担忧的不是就业问题,而是控制权问题。

AI 安全研究者 Jared Kaplan 一针见血地指出:「当 AI 开始独立设计下一代 AI 时,它使用的优化路径可能完全超出人类认知范围... 我们无法检查是否有『特洛伊木马』或错位的目标函数隐藏其中。」

这就是 AI 自我改进的核心悖论:我们需要足够智能的 AI 来解决复杂问题,但当 AI 智能到可以改进自己时,我们可能就失去了理解和控制它的能力。

HackerNews 和 Reddit 社区的讨论也反映了这种担忧。

用户们质疑基准测试结果,认为 GPT-5.3 和 Claude Opus 4.6 的性能数据,可能存在「不同的基准测试或数据解释」问题。

更重要的是,当 AI 能够自我改进时,传统的评估和监管体系都可能失效

Interconnects AI 分析师 Nathan Lambert 的观察很有启发性:「我们正在走向一个 AI 世界,其中与模型发布相关的基准,不再对用户传达有意义的信号。」

换句话说,我们甚至可能无法准确衡量,这些自我改进的 AI 到底有多强

Fello AI 的分析报告显示,2024 年近 90% 的著名 AI 模型来自工业界,OpenAI不再主要与研究实验室竞争,而是「与超大规模计算公司、芯片制造商和资金充足的 AI 优先公司竞争」

在这场竞赛中,自我改进能力已经成为必争之地。

谁先实现真正的 AI 自我迭代,谁就能在未来五年的知识工作革命中占据主导地位

就像 Matt Shumer 在文章开头提到的 2020 年 2 月——如果你当时足够敏锐,你会注意到「有几个人在谈论海外传播的病毒(新冠)」。现在,我们也处在这样一个历史转折点:

AI 自我改进的种子已经种下,接下来的五年,整个知识工作的生态都将被重新定义。

问题不再是「会不会发生」,而是「我们准备好了吗」

扫描二维码推送至手机访问。

版权声明:本文由2345好导航站长资讯发布,如需转载请注明出处。

本文链接:http://www.2345hao.cn/blog/index.php/post/38447.html

分享给朋友:

“当 AI,开始设计 AI” 的相关文章

威腾电气IPO观察:自夸“头部企业”被打回原形 拿投资者4个亿只为“试试水”?

威腾电气IPO观察:自夸“头部企业”被打回原形 拿投资者4个亿只为“试试水”?

  威腾电气,一家缺乏科创属性、爱夸夸其谈还带着问题供应商的公司,正在冲击科创板市场。   2021年1月14日,以输配电中母线产品研发、制造及销售为主业的威腾电气,正式通过上市委会议,距离科创板上市又近了一步。   但这对投资者而言,可能并不是一件好事。   由于身在传统电力行业,科研步伐又...

市占率不足0.1% 造血能力不足 罗普特科创上市谋续命?

市占率不足0.1% 造血能力不足 罗普特科创上市谋续命?

  钱流不进口袋的企业,真的算是赚钱企业吗?   盈利,是大部分投资者最关心的问题。但企业盈利的有效性,是有前提的,现金流就是这个前提。但这部分,往往会被许多投资者忽略,正如巴菲特的那句著名评论:“现金是氧气,99%的时间你不会注意它,直到它没有了”。   没有现金流入的盈利只是纸面数字,纸面数...

19%市占率换不来业绩体量的和林微纳 新业务0.24%市占率又该如何期待?

19%市占率换不来业绩体量的和林微纳 新业务0.24%市占率又该如何期待?

  以19%市占率位居精微屏蔽罩市场头部玩家的和林微纳,即将亮相科创板。   2021年3月9日,主要产品为微机电(MEMS)精微电子零部件的和林微纳,开启了科创板招股。公司与楼氏电子、瑞声科技、裕元电子和银河机械,一同成为精微屏蔽罩市场的主要玩家,2019年五家企业合计占到全球市场总份额的80%...

新风光:核心材料严重依赖进口 毛利率下滑市场“风光”不再 |

新风光:核心材料严重依赖进口 毛利率下滑市场“风光”不再 |

  作为“光伏、风电”等大热门行业上游关键零部件供应商的新风光,即将登陆科创资本市场。   2021年3月24日,以大功率电力电子节能控制技术为核心技术平台,构筑电气控制装备产品体系的新风光,在科创板开启招股环节。   招股资料显示,新风光本次共计将募资5.9亿元,其中1.5亿元用于变频器和SV...

上声电子:四年净利仅剩30% 研发低产能又“空置” 三角股权难解丨

上声电子:四年净利仅剩30% 研发低产能又“空置” 三角股权难解丨

  历时四年发展,归母净利润反缩水近7成的上声电子,即将登陆科创板,寻求资本助力。   作为国内前装市场汽车声学产品方案供应商的上声电子,于2021年3月29日在科创板启动招股环节。公司计划募集4.47亿元资金,其中2.47亿元用于扩产扬声器项目,1.49亿元用于扩产汽车电子项目,剩余5000万元...

华恒生物:近半市占率的细分龙头 竟然只能“被动挨打”丨

华恒生物:近半市占率的细分龙头 竟然只能“被动挨打”丨

  全球最大的丙氨酸生产商华恒生物,即将亮相科创资本市场。   2021年4月7日,以合成生物技术为核心,主要从事氨基酸及其衍生物产品研发、生产、销售的华恒生物,于科创板开启了路演询价环节,距离正式亮相科创板仅剩一步之遥。      图/Wind   目前,华恒生物拥有接近50%的市场占有率...