Claude 深度参与模型研发 头部 AI 企业加大研发透明度披露

据瑞士通讯社 ATS 消息,美国人工智能企业 Anthropic 对外发布内部测算数据,旗下 Claude 大模型已经深度参与下一代模型的研发工作,在企业内部相关研发任务中承担 26% 的工作量。

这份基于 8 月统计、通过官方博客对外公开的测算结果显示,在超过九成的研发项目当中,Claude 都和内部科研团队开展协同作业。企业同时作出明确说明,Claude 不会以完全自主运行的状态开展研发工作,全部研究环节依旧保持人类研究人员的主导与管控。

本次对外披露数据,是该企业提升研发环节公开程度的一项实际举措。伴随全球范围内人工智能技术高速迭代,产业界、监管层面对于前沿大模型潜在风险的讨论持续增多,外界希望获取更多头部实验室内部研发流程的相关信息。这份公开报告标题围绕顶尖 AI 实验室研发节奏评估展开,企业希望通过公开内部运行指标,向社会传递前沿 AI 系统真实能力边界,为行业治理相关讨论提供现实参考素材。

同一时期,行业竞争对手也在推进同类透明度建设。OpenAI 对外作出承诺,会更加常态化对外公布模型出现异常行为的相关情况。两家企业的信息公开动作,都意在向外界展示前沿 AI 系统的实际能力,为社会各界研讨人工智能发展路径提供事实依据。

3.png

在行业诉求层面,Anthropic 高管是硅谷首批公开呼吁适度放缓大模型性能迭代节奏的企业管理者,相关倡议也得到 OpenAI 及其他多家 AI 企业负责人的附和。头部厂商一边借助 AI 工具加速自身模型迭代,一边讨论发展节奏的把控,形成当下全球 AI 产业颇具现实张力的行业图景。

当前全球头部 AI 实验室都在尝试将大模型嵌入自身研发全流程,借助模型完成代码编写、方案推演、实验复盘等工作,以此缩短新一代模型的开发周期。行业内普遍认为,AI 辅助研发可以压缩人力成本、加快实验迭代,但也带来新的课题,包括如何做好全流程的人工校验,规避模型幻觉给科研工作带来偏差。

后续,Anthropic 会继续对外披露内部研发的相关统计指标。行业其他机构也会结合自身情况,选择适配的信息公开方式。AI 辅助科研的占比持续走高的背景下,如何平衡技术迭代速度、研发透明度与安全管控,会成为全球 AI 产业需要持续处理的现实议题。