极客公园获悉,3 月 18 日上午,字节跳动豆包大模型部门(Seed)召开全员会,由负责模型应用相关工作的朱文佳,与新近加入的负责 AI 基础研究探索工作的吴永辉共同主持。
两人谈到了未来的目标,明确 Seed 部门的最重要目标是探索智能上限;同时强调进一步加强组织文化,提高技术开放程度,并考虑推进开源。
全员会上明确了 Seed 部门最重要的目标是探索智能上限,这是一个长期目标,会围绕此前公布的 AGI 研究计划「Seed Edge」展开,鼓励有能力、有想法的同学,探索更长周期的、具有不确定性和大胆的 AI 研究课题。
吴永辉强调了长期研究的重要性,对 Seed Edge 的投入将进一步加大,会为 Seed Edge 提供充足的算力,并将持续在内外部招募最具潜力和好奇心的研究人才。同时,对 Edge 项目取消季度 OKR 和半年考核,保障长期稳定的研究环境。
朱文佳则提到,模型应用会更多从用户视角出发,把用户最关心的任务,比如问答、创作、解题、代码等做好,真正理解用户需求,符合用户偏好。还要在搜索、Agent 等应用中使用好工具,并充分发挥预训练模型的潜力。
朱文佳觉得,模型不但要答对问题,还要讲的清楚,让人很快能看懂,要有情商。拿创作来说,他认为不管是格式、文采还是深度,每个方面的天花板都很高,需要不断试验分析。
关于模型研究和模型应用的资源投入问题,吴永辉认为长期来看两者并不矛盾,智能不提升无法服务用户,同时应用才能支持持久的投入,且给模型带来更多的反馈,以及带来更大的成就感。朱文佳也表示,最关键的还是智能上限,因为,「模型应用长期要贴着模型能力去做」。
进一步加强组织文化,打造开放、包容、自信的团队研究氛围,则是 Seed 今年工作的另外一个重心。
吴永辉提到他加入字节的原因,是想做第一流的研究,也想打造一个第一流的 AI 研究团队。他表示,希望 Seed 成为一个能培养人才的组织:「我们希望把世界上最好的人才吸引到 Seed 来。但更重要的是我们要把内部人才用好,把我们的潜力股识别出来,给他们足够的机会,培养成顶级的人才。」
朱文佳也提到,过去两年,大模型团队的很多应届生、实习生和年轻同学,或者独立负责重要的方向,或成为技术突破的关键贡献者,成长非常快。
为了更好地培养人才,Seed 正在改进内部反映的一些问题,比如让信息更透明,包括扩大文档、代码和数据的权限,尽可能共享,消除信息孤岛。同时,打破部门壁垒,提升跨团队的沟通与协作,建立跨部门的专项研究小组。
吴永辉还表示,Seed 做了很多很好的工作,但外面不太了解。未来会加强提升 research 的影响力,鼓励员工以 research paper 或者 blog 的形式把这些工作发表出来。
此外,未来 Seed 也会考虑开源,可能会开源中小尺寸的 Dense 模型,这样尺寸的模型对社区也是最友好的,目前细节还在讨论中。