第一财经 · 最新资讯· 第一财经·· 24 天前AI 评分22
字节跳动Seed单独设立大模型安全与对齐部门
内容摘要
字节跳动Seed将成立"Seed Model-Alignment&Preparedness"部门，由严林负责并汇报给Seed负责人吴永辉，原Responsible AI团队及部分Chat团队成员将转入。该部门旨在加强安全与对齐方向投入，提升Agent Model安全能力并防范CBRN等前沿能力风险。
正文
10月13日消息，字节跳动Seed将成立"Seed Model-Alignment&Preparedness"部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升Agent Model（智能体模型）安全能力，以及防范CBRN（化学、生物、放射、核）等前沿能力风险。（第一财经记者 吕倩）
来源：第一财经 · 最新资讯 · yicai.com