GPT-4模型开发报告

我们报道了基于Transformer的GPT-4模型的开发，该模型是一个大规模、多模态模型，可以接受图像和文本输入，并产生文本输出。经过多次专业和学术基准测试，GPT-4在模拟的律师考试中获得了约排名前10%的分数。预训练模型用于预测文档中的下一个令牌，并通过事后训练的对齐过程提高了其准确性和符合所需行为的表现。该项目的核心组件是开发可在广泛的尺度上可预测行为的基础设施和优化方法，使我们能够根据只使用GPT-4计算的1/1000的模型训练来准确预测GPT-4的某些方面的表现。摘要由ChatGPT-3.5 turbo自动生成。