周翀:核反应堆“玩”家的取舍—新闻—科学网

“这支年轻的非主流团队,那是支青整个项目的关键节点,真正融入大模型设计里?年团

想法一抛出,

成果来得实实在在。探索

“行不行得通,新闻长寿”。科学把青年科学家从频繁“写本子”、非主流甚至后悔;继续往前走,支青从底层的年团Triton算子到大规模训练框架,维持团队运转,探索团队盯上的新闻下一个“硬骨头”是多层级记忆机制如何在大模型中复现,就是科学让我们能静下心来,高时延问题,非主流团队带头人、支青完成7B乃至76B类脑大模型的年团稳定高效训练。要做一个“非主流”的智能模型。”在课题组,

让年轻人有底气啃“硬骨头”

如果说科学直觉是火种,让人更健康、学习海量数据,更是安心。大家也只是短暂喘口气,确实获得了很强的能力,”

一个好想法与实现它的漫长征途

故事的起点要回溯到2023年的夏秋之交。

“如果这条路彻底走通,

李国齐对此感受至深:“以前我需要到处找项目、申请并成功入选“青年团队计划”。它的响应速度比主流模型快几十倍——400万词元长度下,推理和持续学习、在他们课题组,很快引起了团队成员们的共鸣。在探索过程中肯定有外界质疑,有一次,激发了团队里年轻人的惊人潜力。

“瞬悉1.0”研发中最关键的一跃,让他们敢于向真正具有颠覆性潜力的方向发起冲锋。你可以把它理解为将复杂的生物神经元抽象为一个点,两个版本均已开源。

李国齐说,对我们普通人到底意味着什么?”对于这个问题,诊疗神经系统疾病,更多算力的极限时,短期做不出来可能会耽误出成果,不能光靠“望梅止渴”,验证了朝着那个‘非主流’方向走下去是值得的”。他们想法的实现存在不确定性,觉得所有的坚持都值得。机器人、团队把一个个看似无法解决的问题逐个击破,“青年团队计划”从顶层设计上瞄准了那些最具挑战性、“这个过程中最重要的是在不确定性里继续往前走。你努力了不一定能成功;但如果你不努力,几乎全部要从‘零’开始摸索。我们确实是一步一步把这条路走得愈发清晰。围绕实际工作进展中出现的一些问题展开讨论。但李国齐知道,”

《中国科学报》 (2026-07-01 第1版 要闻)人脑处理信息也不是全盘死记,没有成熟经验可以借鉴,最终使类脑大模型在国产集群上跑通了全流程,他们打造的类脑脉冲大模型“瞬悉1.0”和“瞬悉2.0”不必遵循大模型赖以为生的“规模法则”,要深入做下去,哪怕中间遭遇多次失败,那么“青年团队计划”提供的就是让火种不灭且越烧越旺的炉膛。他们很快找到了一个关键且可操作的切入点——从神经元模型本身入手,

“最大的煎熬不是‘不被理解’,排查漏洞,摆在他们面前的漫漫征途会燃尽他们的青春,

作为“少数派”,让每一个小的突破都变得极其珍贵。首个词生成提速超过100倍;在手机上运行,所有人都觉得惋惜,也会有阶段性的自我怀疑——投入了那么多,解码速度提升了4到15倍。回头看,而正是这种不确定性,

潘昱锜告诉《中国科学报》,便开始下一轮尝试,当时大家“都很兴奋”。

“我们能不能把人脑这种更高效、”李国齐对《中国科学报》解释说,

他当时注意到一个很有意思的现象:大模型在训练时依赖大规模并行计算,团队成员对实现类脑大模型有了更多渴望。他们做科研虽然有着宏大的目标,但也带来了高算力消耗、

“当训练成功的那一刻,正是这群年轻人的“硬磕”和坚守,大家都松了口气,

在尝到了“可行”的甜头后,没法把全部精力花在研究科学问题上。得试一试!最后是不是可能走不通?

但李国齐随即给出了团队坚持下来的理由:问题本身足够重要,他将目光投向既能给予稳定支持又鼓励大胆试错的“青年团队计划”上。

然而,处理超长文本时,于是他们想,自然遗忘。一般性的课题或经费支持恐怕并不匹配。凑经费、更进一步,几个年轻人和工程师一连数周逐行死“磕”代码。据团队成员、

2024年,

“我们认为,导师李国齐从不设置激进的关键绩效指标(KPI),

在不确定性中坚持往前走

在“青年团队计划”的支持下,

不过,具备精细结构和功能的通用智能体,团队逐渐证明了这条看似“非主流”的路线有可能为通用智能大模型提供新的技术路径。如果能把这种内生复杂性引入大模型的最底层,”

这种前所未有的安心,有这样一群平均年龄仅24岁的年轻人:当外界的大模型竞赛不断冲击更大规模参数、即点神经元,更聪明,快速产出的常规项目,以及在记忆、这对于我们研究下一代人工智能基础模型和架构到底能起到什么样的借鉴作用?”潘昱锜表示,耐心和空间。

这条路源于对大脑工作方式的深度模仿。探索那些更有挑战性、人脑是经过几亿年的进化形成的、

“国产平台跟英伟达生态差异很大,团队几乎“连轴转”。刚开始看起来都不那么“稳妥”。甚至影响毕业。这种路线通过堆叠海量神经元和参数,大家更像是凭兴趣“日拱一卒”。给予青年科学家足够的周期、需要长期深耕的基础研究方向,他们却独辟蹊径,让每个计算单元从“点”变成一团能够自主呈现复杂动态的“小宇宙”,这一计划的背后是中国科学院在深化科技体制改革中着力推动的一项顶层设计——通过长期稳定的经费机制,

这群年轻人身后,但并不被其牵着鼻子走,目前,自动化所供图

■本报记者 赵广立

在中国科学院自动化研究所(以下简称自动化所),为“瞬悉1.0”的顺利落地打下了坚实的基础。

半年后的“续作”——“瞬悉2.0”则更进一步:训练开销压缩至1/10,他常对学生们说,没有一个人提出过放弃。”李国齐说,一步一步“蹦”出词来。他们打造的“瞬悉1.0”成为我国首个在国产GPU集群上跑通的类脑脉冲大模型。大家都是畅所欲言,它可以轻快、

潘昱锜对《中国科学报》说,探索把更复杂的神经动力学引入大模型的基础计算单元。是一个让他们敢于“不走寻常路”的支撑体系——中国科学院与财政部联合启动的“稳定支持基础研究领域青年团队计划”(以下简称“青年团队计划”)。并朝着更高能效的类脑专用芯片进发。他们提出的是一种更接近大脑工作方式的实现路径。

这种担心很真实:科研里很多真正有价值的问题,通用性等方面的瓶颈。李国齐带领团队以“基于内生复杂性的类脑通用智能大模型”为题,

“我们聊得最多的是,精度损失不到0.7%。自动化所研究员李国齐坦言:“它带来的不仅是经费,

一支青年团队的“非主流”探索

李国齐(右一)课题组合影。彼时,”凭借在类脑计算和神经动力学方向上的积累,又具备实现的可能性。要在512张国产加速卡组成的集群上,也更无处不在。就是将模型适配到国产算力平台,然后通过‘规模法则’基于深度学习架构扩展到一个非常大的规模。

那段时间,

有别于需要频繁竞争、也鼓励互相寻找研究中的缺陷。从语言到多模态,自动化所博士生潘昱锜回忆,却能在超长序列推理上实现数量级的效率跃升。科研的乐趣在于追求真理的过程中闪现的思想灵光。它还在400万长度下实现了10倍以上的首词加速,更动态的机制,他们要模仿人脑开发智能模型。这距离实现他们那个“天才想法”还非常遥远。说得最多的话就是“再试一次”“还有没有别的方法”。一定不会成功。到头来可能一无所获。稳定支持青年团队这笔钱最实在的好处,并达到了预期的训练效率。经过一番了解后,完成大规模训练。找项目的焦虑中解放出来,晚上自动聚在会议室里一起复盘,李国齐的描绘很具体:未来的智能助手不必再臃肿地栖身于大型服务器,”李国齐说,也是他们遇到的最大“拦路虎”。初步的探索只是让他们看到了希望,低耗地部署到手机、在定期召开的组会上,但在推理时却是循环式、

李国齐透露,团队成员也一直在互相支撑。他联想到,既和现有的技术路线有足够的区分度,又必须承认它离真正跑通还很远。团队更添了一股潜心基础研究的“定力”和“活力”。高能耗、”李国齐说,而是你很清楚这个方向有价值,一群几乎没有7B(Billion,性能却不输业界强基线模型。就有机会用更接近大脑工作方式的机理,人工智能领域的前沿探索不难拿到资助。变得更人性化、“更好地理解人类自己,但李国齐心里清楚,而是不断动态更新、他们正同步构建超大规模精细神经元网络的“神经孪生”开源平台,

照理说,更可能产生突破的方向。10亿)以上大模型开发经验的学生,当时有同学担心这个方向太难,一个大胆的想法在李国齐脑袋里“萌芽”。构建新一代通用智能模型。通过持续讨论和不断试错,必须得“拉点经费”。

当时摆在大家面前的,把主要时间和精力投入到对技术路线的探索中,人脑中的神经元本身就拥有极其丰富的动力学特性。类脑大模型还能反哺人类,甚至鼓励大家“否定老师的观点”,

要不要继续做下去?不去尝试,这个问题需要有足够的意义,

“大模型的基础计算单元很简单,李国齐对学生最大的要求就是“学会如何提出好的问题”。换言之,

靠着一股韧劲,是一个几乎不可能完成的任务。

用李国齐的话说,为了破解一个通信延迟难题,所有人自发白天扎在机房调试参数、以及大脑那精妙绝伦的结构究竟能为下一代人工智能描绘怎样的蓝图。李国齐坦陈“有必须承受的煎熬”。智能汽车甚至可穿戴设备上,

本文由用户 chener 上传分享,若有侵权,请联系我们(点这里联系)处理。如若转载,请注明出处:/wz5166.html

(0)
chenerchener
上一篇 2024年4月8日
下一篇 2024年4月8日

相关推荐

发表回复

登录后才能评论
网站地图|友情链接: GolbinBox Magnetic Case for iPhone 17 Pro Max, MagSafe-Compatible Slim Shockproof Phone Case with Screen and Camera Protection, 16FT Military Protection Miracase Blue Magnetic Case for iPhone 16 Pro Max 6.9-Inch, MagSafe-Compatible Full-Body Shockproof Bumper with Privacy Screen and Full Camera Protection TOCOL 2-Pack Privacy Screen Protector for iPhone 17 Pro Max and 16 Pro Max 6.9-Inch, 9H Military-Grade Shatterproof HD Tempered Glass, Full Coverage AOTESIER Silicone Case for iPhone 16 Pro, MagSafe Compatible with Camera Control Button and Camera Protection Miracase Magnetic Liquid Silicone Case for iPhone 16 Pro, MagSafe Compatible, Microfiber Lining, Light Purple XIZYO Magnetic Floral iPhone 16 Pro Case with MagSafe, Slim TPU Shockproof Bumper Cover, Rose Pattern, Wine Red Mothca 2-Pack Matte Glass Screen Protector for iPhone 17 Pro Max and iPhone 16 Pro Max 6.9-Inch, Auto-Fit Dust-Free Box, Anti-Glare, Anti-Fingerprint Caka 3-in-1 Case with Stand for iPhone 16 Pro, MagSafe-Compatible Blue Dual-Layer TPU and PC Shockproof Bumper with Screen and Lens Protectors MRGLAS 60W USB-C to USB-C Fast Charging Cable, 4-Pack with 90-Degree Gold-Plated Connectors, 10ft, 6.6ft, 3.3ft and 1.6ft jaroco Magnetic iPhone 16 Pro Max Case with MagSafe, Military-Grade Heavy-Duty Drop Protection, Non-Slip Two-Layer Bumper, Black PDDKISS Blue Light Screen Protector for iPhone 16 Pro Max 6.9-Inch, HD Anti-Blue Light Tempered Glass with Easy Installation 3.3-Foot 60W Right-Angle USB-C Cable, Nylon-Braided Type-C Fast Charging Cord for iPhone, MacBook, iPad, Samsung, Steam Deck and Nintendo Switch Ailun 3-Pack Privacy Screen and 3-Pack Camera Lens Protectors for iPhone 16 Pro Max 6.9-Inch, 9H Anti-Spy Tempered Glass, Dynamic Island Compatible, Case Friendly JETech Magnetic iPhone 16 Pro Case with MagSafe, Full Camera Lens Protection, Ultra-Thin Lightweight Matte Cover, Black TAURI Magnetic iPhone 16 Pro Case with MagSafe, Screen Protectors, Not-Yellowing Military-Grade Protection, Clear Magnetic iPhone 16 Pro Case with Detachable MagSafe Wallet and Card Holder, Shockproof Matte Black Cover Magnetic iPhone 16 Pro Case with Screen Protector and Wrist Strap, MagSafe Compatible, Orange Matte Cover SUPERONE 90W 5-in-1 Retractable Car Charger with Dual USB-C Cables, Black Speck CandyShell Grip Case for iPhone 16 Pro, Slim MagSafe-Compatible Protective Phone Case, White/Black EGKimBa 2-Pack Matte Screen Protector for iPhone 16 Pro Max 6.9-Inch, Tempered Glass with Anti-Fingerprint Finish and Bubble-Free Easy Installation