拆解OpenAI崛起背后的工程逻辑与产业真相

相关研究材料覆盖了四条主线。 第一条是组织演变。 奥特曼入主后，OpenAI从一个学术氛围浓厚、周五晚上有人弹钢琴的研究机构，转向以“第一名”为目标、以微软为核心伙伴、逐步收紧信息公开的商业公司。 第二条是技术路线。 GPT-3以1750亿参数、约一万块GPU的规模，验证了缩放定律；随后代码模型Codex、指令微调模型InstructGPT、GPT-3.5依次登场，最终汇成ChatGPT。 第三条是行业外溢。 GPT-3刺激了谷歌、Meta以及我国科技企业对大模型的关注；谷歌伦理AI团队负责人蒂姆尼特·格布鲁因论文《随机鹦鹉》被迫离职，成为行业透明度下滑的一个标志性事件。 第四条是被隐藏的劳动。 从委内瑞拉的标注平台用户，到肯尼亚为OpenAI内容过滤器做标注的工人，再到为各家聊天机器人写示例答案的RLHF众包者，相关研究材料把这条供应链摊开来看。