一句话总结
前OpenAI研究人员Jan Leike加入竞争对手Anthropic，领导专注于AI安全的新团队。
核心要点
– Jan Leike从OpenAI辞职后加入Anthropic。 – Leike将领导一个专注于AI安全和监督的新团队。 – 团队将专注于可扩展监督、弱到强泛化和自动化对齐研究。 – Leike将直接向Anthropic首席科学官Jared Kaplan汇报。 – Anthropic试图将自己定位为比OpenAI更注重安全。 – Anthropic的CEO Dario Amodei曾是OpenAI的研究副总裁，因公司方向分歧而离开。 – Amodei带领多名前OpenAI员工创立Anthropic，包括前政策主管Jack Clark。
新闻简报
Jan Leike，一位领先的人工智能研究者，于本月初辞去了在OpenAI的职位，并公开批评了该公司对AI安全的处理方式。此后，他加入了OpenAI的竞争对手Anthropic，领导一个新的“超级对齐”团队。Leike在X上的一篇文章中表示，他在Anthropic的团队将专注于AI安全和安全的各个方面，特别是“可扩展的监督”、“从弱到强的泛化”和自动化对齐研究。据TechCrunch的消息人士透露，Leike将直接向Anthropic的首席科学官Jared Kaplan汇报，而目前致力于可扩展监督研究的Anthropic研究人员将转移到Leike的团队下。Leike的团队在使命上与OpenAI最近解散的超级对齐团队相似。超级对齐团队由Leike共同领导，其雄心勃勃的目标是在接下来的四年内解决控制超级智能AI的核心技术挑战，但经常因OpenAI的领导层而受到限制。Anthropic经常试图将自己定位为比OpenAI更注重安全。Anthropic的CEO Dario Amodei曾是OpenAI的研究副总裁，据报道，他在与OpenAI就公司方向发生分歧后离开，特别是OpenAI日益增长的商业焦点。Amodei带领包括OpenAI前政策主管Jack Clark在内的多名前OpenAI员工创立了Anthropic。
信息来源：techcrunch