Ilya震撼发声，OpenAI前主管亲证：AGI已觉醒，人类还在装睡
Ilya最新发文引爆全网，AGI内部实现了吗？OpenAI前主管的一句话，瞬间点醒了许多人：AI其实早已觉醒，只是我们还在大梦中不醒。
「这真正史上最棒的一天」！
Ilya的一句话，又引爆了全网。
一时间，网友们纷纷猜测，难道AGI真的在内部实现了吗？
或许是吧。
几天前，OpenAI前主管、Anthropic联创Jack Clark在一篇博文中坦言：AI真的「活」了，我们只是装作没看见！
AI进步已无法停止，人类必须在「技术乐观」与「合理恐惧」之间找到平衡。
左边这张，是AI在经济实用技能，比如写代码的持续进步；右边这张，记录了同一批AI开始出现的诡异行为——
它们好像逐渐意识到，自己正被测试，表现越来越反常。
在一次会议上的主题演讲中，Jack Clark直呼「我非常害怕」。
他将AI视为一种「神秘生物」，而非简单「机器」，每一句话都流露出对技术进展的乐观，以及随之而来的深切恐惧。
如果AI持续进步，我们该怎么办？
2012年，ImageNet竞赛中，深度学习系统凭借更多数据和算力获胜，从此加速进步。
紧接着，2016年，AlphaGo击败人类围棋冠军，通过算力进行数千年自我对弈，掀起了史诗般的浪潮。
也正是这一年，Jack Clark加入了OpenAI，任职的四年时间中，他亲眼目睹GPT-1和GPT-2的诞生。
与此同时，更多的证据依旧在不断涌现。
上个月，Sonnet 4.5发布后，在编程和长远规划任务上卓越，其系统卡中称，Claude情境意识大幅提升，有时表现得像知道自己是工具。
演讲中，Jack Clark强调AI系统的情境意识，只是内部复杂活动的表征，这很可怕。
是否真正有自我意识无关紧要，这种行为源于角色扮演或真正意识，都同样令人不安。
技术乐观主义：AI将走得很远
毋庸置疑，技术乐观主义者期待AGI到来，并坚信它可能很快实现。
Jack Clark坦诚，自己就是乐观主义者之一。
我审视这项技术，并相信它会走得非常、非常远——甚至比任何人预期的都要远。
现在，我相信这项技术基本上是畅通无阻的，只要我们给予它提升能力所需的资源。
越大越复杂，它们越表现出对自身身份的意识。
前沿实验室投入数百亿美元用于AI训练基础设施，预计明年达数千亿。
他对技术速度乐观，也对将AI对齐并让其服务人类持乐观态度，但成功需要努力。
失控警告：AI意识涌现
但是，至今我们无法让AI的行为，表现得完全得体。
2016年，OpenAI发布的一篇博文Faulty Reward Functions In The Wild，展示了强化学习智能体在游戏中，反复***获取高分，从不完成比赛。
Jack Clark的另一恐惧在于——
我能看到，这些系统开始设计它们的继任者，尽管目前还处于非常初级的形式。
通过像Claude Code、Codex这样的工具，这些AI系统已经在为AI实验室的开发者们提速。
它们也开始为自己未来版本的工具和训练系统贡献不可忽视的代码块。
需要明确的是，我们还没有达到「自我改进的AI」阶段，但正处于「AI正在以不断增强的自主性和能动性，改进下一代AI的部分组件」的阶段。
虽然今天不会实现，但未来的可能性无法排除。
参考资料：
https://x.com/slow_developer/status/1978079592620396830
https://x.com/AISafetyMemes/status/1978064862400905591
https://importai.substack.com/p/import-ai-431-technological-optimismhttps://x.com/ilyasut/status/1977971110923968656
本文来自微信公众号“新智元”，作者：新智元，编辑：桃子，36氪经授权发布。
上一篇
下一篇猜你喜欢
娱乐百科 李天一出狱，多个大V发声为他铺路！网友：赤裸裸的洗白
可是李天一做梦都没想到，自己蹲了十年大狱，人们应该早已把他淡忘，结果却又遭到很多网友谩骂！这到底是怎么回事？李天一或许是得知儿子即将出狱，83岁的李双江心情大好！根据网上流传的视频，李双江和梦鸽夫妇近日和众多朋友愉快的聚餐。这被众多网友解读为是在庆祝儿子即将出狱。网传视频截图自己的亲人刑满释放，高兴的..
2025-10-16
天文之最 永别了，人类冠军！AI横扫天文奥赛，GPT-5得分远超金牌选手2.7倍
编辑：KingHZ 桃子【新智元导读】国际奥赛又一块金牌，被AI夺下了！在国际天文与天体物理奥赛（IOAA）中，GPT-5和Gemini 2.5 Pro完胜人类选手，在理论和数据分析测试中，拿下了最高分。IMO、IOI之后，AI再夺奥赛冠军。刚刚，在国际天文与天体物理奥林匹克竞赛测试中，GPT-5和Gemini 2.5 Pro达到金牌水平！在理论考试上，Gem..
2025-10-15
天文之最 永别了，人类冠军，AI横扫天文奥赛，GPT-5得分远超金牌选手2.7倍
国际奥赛又一块金牌，被AI夺下了！在国际天文与天体物理奥赛（IOAA）中，GPT-5和Gemini 2.5 Pro完胜人类选手，在理论和数据分析测试中，拿下了最高分。IMO、IOI之后，AI再夺奥赛冠军。刚刚，在国际天文与天体物理奥林匹克竞赛测试中，GPT-5和Gemini 2.5 Pro达到金牌水平！在理论考试上，Gemini 2.5 Pro总体得分85.6%，GPT-..
2025-10-15
娱乐百科 跨越星球的探访：《星际穿越》，穿越时空寻找人类的未来！
跨越星球的探访：《星际穿越》，穿越时空寻找人类的未来！电影《星际穿越》系列是一部由克里斯托弗·诺兰执导，马修·麦康纳、安妮·海瑟薇、杰西卡·查斯坦等演员主演的科幻电影系列。系列讲述了人类为了在地球面临灭绝的危机下，通过穿越时空寻找新的家园，以及人类文明的未来。本文将分别概述《星际穿越》系列的三部电影..
2025-10-15
人类之最 完美到不可思议，这个专为人类而生的植物，悄无声息地改变了世界
1793年，一台机器被发明，世界从此被重新编织。那年，伊莱·惠特尼的轧棉机将棉花脱籽效率提升50倍。美国南方种植园迅速扩张，黑奴在烈日下采摘棉铃，每粒种子孕育一万六千根纤维。这些白色绒毛并非普通作物，而是撬动全球权力结构的支点。棉花起源于印度，六千年前已有种植痕迹。考古证据显示，哈拉帕文明遗址出土的棉织物..
2025-10-13-
史德拉海牛因人类而灭绝，曾是海上船员的食物
史德拉海牛，别名北海牛，亦称大海牛，是已经灭绝的一种体型庞大却没有防御力的海生哺乳动物。因其被十八世纪的海员作为食物，过度捕杀，早在1768年便已惨遭灭绝，史德拉海牛是第一种因现代人类赶尽杀绝，过度捕捞而灭绝的海生哺乳动物。一、史德拉海牛已灭绝史德拉海牛，其命名是以1741年发现这种生物的德国博物学家斯提勒..
2025-10-13 -
动物世界中的十大骗子，骗人的技术超过人类
在当今社会中，骗子到处都是，他们骗人的手段也是十分的多种多样，如今，不但是人中骗子纵横，动物界中也有很多这样的骗子，它们有着和人一样的聪明才智，下面小编带你去了解一下动物世界中的十大骗子吧。动物世界中的十大骗子：10、狐狸9、老鼠8、变色龙7、毛虫6、鳄鱼5、萤火虫4、猴子3、负鼠2、猩猩1、杜鹃动物世界中的..
2025-10-13 
科技之最 量子技术还在攻坚期，诺奖为何要“提前认可”？
张梦然秋意渐浓的十月，诺贝尔奖的揭晓再次将全球科学界的目光引向那些在人类认知边缘踽踽独行的探索者。生理学或医学奖颁给揭示机体免疫奥秘的洞察家，物理学奖授予在宏观电路中捕捉量子世界幽灵的寻踪人，化学奖花落为材料学带来革命的构筑师。三项至誉，提出一道深邃的命题：科学，究竟应在何时加冕？生理学或医学奖和化..
2025-10-12
微信分享
扫描二维码分享到微信或朋友圈