我相信，我们能够创造出一个这样的世界：在那里，“满足每个人的基本需求”不再是个需要解决的问题；相反，我们会觉得，把标准定得这么低，反而是一种耻辱。我相信，我们能够完成一个充满和平、前所未有的繁荣以及各种难以想象的社会与科学可能性的世界。无论我接下来做什么，我都会继续与你们携手努力，让这一愿景成为现实。
网友提到的Jan是Jan Leike，他曾共同领导OpenAI的Superalignment（超级对齐）团队，研究如何让先进 AI模型保持在人类控制之下。2024年，他离开OpenAI，加入Anthropic。
同年，人工智能公司OpenAI政策研究负责人Miles Brundage，以及曾负责AI算法模型危险能力研究的Steven Adler，也先后离开，转而创办非营利组织，推动AI实验室遵守更严格的安全和安保标准。
Dario Amodei，如今的Anthropic CEO，以及David Luan，后来成为亚马逊AGI实验室负责人，还专门送给Achiam一个金色奖杯，上面刻着一句话：
据WIRED消息，OpenAI如今还没有宣布谁会接替Joshua的职位。这个职位位于公司人工智能安全和政策团队的交汇处，工作包括研究AI崛起可能带来的危害与收益。
据了解，今年4-5月，在马斯克与OpenAI那场世界庭审中，Joshua曾出庭作证，回忆马斯克2018年，离开OpenAI前的一次告别演讲：
9年前的2017，他以实习生身份加入OpenAI。早期，他是一名专注于AI安全的研究科学家，做过深度强化学习里的安全约束研究。
他写道，自己2017年以25岁实习生（毕业于UC伯克利）身份加入OpenAI。那时，计算机还不能真正和人对话，也谈不上思考。
此前，Joshua也曾与OpenAI全球事务负责人Chris Lehane等高层合作，促进与OpenAI使命一致的政府监管。
Ilya走了，Jan走了，现在Joshua也走了。每次负责对齐的人离开，OpenAI好像都会发生点什么。
更准确地说，他在OpenAI内部做的是另一件事：当模型能力一路往前冲时，给这家公司不断提醒那句老问题。
这个职位夹在AI安全、政策和公司使命之间，负责研究人工智能继续变强之后，可能给世界带来的风险和机会。
今年2月，OpenAI解散Mission Alignment团队，Joshua转任公司首席未来学家。
据他只是公布的信息，自己离开并不是因为某个具体事件，也不是一时兴起，而是已经思考了很长一段时间。
只不过，短短5个月后，Joshua就对外宣布自己将在7月24日正式离开这家待了9年的公司。
当时，他曾打断马斯克，指出如果计划在Tesla开发AGI，可能会以牺牲安全为代价。
在Reddit上，有网友很快把这件事放进了OpenAI的“安全负责人离职名单”里。
而Joshua Achiam，正是OpenAI这条安全与使命线上的核心人物之一。
如今，他34岁，已经是2岁孩子的父亲，而计算机已然开始解决前沿科学问题。
回顾Joshua的OpenAI生涯，最有戏剧性的一幕，发生在2018年。
据称：马斯克当即骂道：“Joshua是个“蠢驴”（jackass）”。
综合来看，Joshua形容，这9年像是“一个发生了几个世纪变化的十年”。
后来，这件事后来反而成了OpenAI内部的一个“都市传说”。
刚刚，OpenAI首席往后学家离职！曾被马斯克骂蠢驴
（使命对齐）团队，负责维护这家公司最初那句使命：
在X长文里，Joshua把这次离开称作“毕业”。
“为了安全，永远不要停止当那个jackass。”
行业观察人士认为，这将成为未来竞争的关键赛道。
业界普遍认为，但过去两年，OpenAI安全线的变化确实不少。
值得关注的是，这句话也很像他过去9年在OpenAI的位置。
换句话说，他不是一个只做预测的“未来学家”。
纵观整个行业，伴随技术不断成熟，商业化落地进程也在加快。
至于离职原因，Joshua并没有透露太多。
伴随技术不断成熟，商业化落地进程也在加快。
Mission Alignment
每逢安全大佬出走，OpenAI就？
量子位 | 公众号 QbitAI
整理编辑：硅基前哨