字节跳动成立大模型安全与对齐部门,聚焦智能体安全与CBRN风险防控

字节跳动成立大模型安全与对齐部门,聚焦智能体安全与CBRN风险防控

  • 2026-10-14
  •  134

关键词: 字节Seed AI安全 智能体安全 CBRN风险

10月13日,字节跳动AI模型部门Seed通过内部通知宣布,将单独成立一个专门负责大模型安全与对齐的新部门。字节跳动对外表示,Seed是国内首家单独成立安全与对齐部门的前沿AI实验室。

新部门名称为“Seed Model - Alignment & Preparedness”,由Seed核心高管严林负责,直接向Seed负责人吴永辉汇报;原有的Responsible AI团队及部分Chat团队成员将转入新部门。严林近年一直负责豆包大模型的对齐(Alignment)方向,所谓“对齐”,即让AI遵守人类真正的意图,在确保安全的前提下行动,落到产品层面,体现在豆包这类聊天机器人的输出合规性、问答质量与价值观层面。

据北京商报记者了解,新部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入,并加强与外部研究机构和第三方评测的公开合作。其两大核心任务也已明确:一是提升Agent Model(智能体模型)的安全能力,让模型在执行任务时遵循人类意图和授权范围;二是防范CBRN(化学、生物、放射、核)等前沿能力风险。

值得注意的是汇报层级的设置。吴永辉2025年2月从谷歌DeepMind跳槽字节跳动,接管模型研发“一号位”,他曾是谷歌最高职级L10的Google Fellow,参与过Gemini大模型研发。安全部门负责人跳过中间层级直连模型“一号位”,意味着安全与对齐在Seed内部不再是依附于合规体系的职能岗位,而是与模型研发平行的核心产线。

    

(字节跳动吴永辉)

设立新部门的动力

2026年以来,字节持续将多个Agent产品并拢到“豆包工作”这一办公智能体统一品牌下:8月底,产品研发和工程架构部孵化的编程智能体TRAE和扣子被整合进AI产品部门。当AI从“回答问题”进化到“代你操作”,安全就不再是上线前的合规审查,而是产品能否成立的前提。Seed内部判断,随着模型能力越来越强、应用场景日益复杂,安全与对齐已不只是风险防范,而是决定模型能否规模化应用的核心能力。

国际同行的动向同样构成推力。9月,Anthropic和OpenAI掀起呼吁“放慢AI速度”的运动,OpenAI发文呼吁全球AI行业重视对齐研究。更具反差感的是两家的组织选择:据英国《金融时报》报道,OpenAI已于7月解散负责评估模型“灾难性风险”的Preparedness团队,职责拆分并入网络安全、生物安全等业务线,而此前超级对齐团队和AGI筹备团队也已先后解散,伦理负责人巴卡勒亦于同期离职。Anthropic则走了相反路线:该公司4月将约150名产品工程师调往安全、可靠性与隐私方向。

(《金融时报》报道标题)

Seed新部门名称中的“Preparedness”显然对标OpenAI的同名机制,但组织形态上,字节选择的是“集中独立建制”而非“拆分并入业务线”。当OpenAI为冲刺IPO而把安全优先级后移时,Anthropic的年化收入却从2025年底的90亿美元冲到2026年5月的470亿美元,安全叙事与商业增长在其身上并未互相拖累,这为中国公司提供了一条可参照的路径。

监管环境的变化则是更深层的背景。在中国,生成式AI服务自2023年起就须履行安全评估与算法备案义务;新修订的网络安全法已于2026年1月1日施行,首次在国家级基础法律中写入AI安全监管条款。前沿模型涉及CBRN等灾难性风险的评估,也开始进入国家标准视野。合规要求正从“上线前审查”向“研发内生化”演进,谁先建立独立的安全对齐能力,谁就能在监管收紧时掌握主动。

对中国AI行业的影响

组织范式上,字节的行动可能引发国内大模型公司的跟随效应。此前国内大模型团队的安全与对齐工作大多挂在公司整体安全合规体系之下,属于“出了事再补漏”的被动模式。字节将其升格为独立一级部门后,阿里、腾讯、DeepSeek等前沿实验室都面临同样的组织拷问:安全团队是否有权叫停一次发布?当头部公司把对齐能力作为模型竞争力的一部分来建设,安全人才的市场价值将被重新定价,预训练与强化学习方向的研究人员向安全岗位流动,或将成为行业常态。

标准与生态上,实验室级别的投入将反哺监管科技体系。Seed新部门明确提出加强与外部研究机构和第三方评测的公开合作。与此同时,全国网络安全标准化技术委员会(TC260)已于2026年3月成立AI安全工作组,其《智能体安全标准化研究报告》识别了11类智能体安全威胁,《智能体应用安全基本要求》拟成为继AI生成内容标识后的第二项强制性AI国家标准。企业侧的一线攻防经验,恰恰是制定可落地标准最稀缺的输入。头部实验室与监管机构形成“研发—评估—标准”的循环,将加速中国智能体安全基线的建立。

全球叙事上,中国AI提供了与硅谷不同的安全路线样本。OpenAI在IPO前夜拆解独立安全建制、前超级对齐负责人扬·莱克“安全让位于光鲜产品”的批评言犹在耳;而字节选择在最激进的智能体扩张期加码安全投入。两条路线的长期绩效——是“安全内嵌”拖累速度,还是“安全后置”透支信任——将深刻影响全球AI治理的话语格局。对中国而言,这亦是争夺AI治理国际话语权的一次实操:当《人工智能法》加快推进、TC260持续输出标准时,拥有独立安全对齐建制的前沿实验室,正是“中国方案”最有说服力的载体。


来源:电子工程专辑