GPT-4：开发、性能及应用研究

我们介绍了GPT-4的最新开发进展，这是一个多模态模型，能够接受文本和图像输入，并生成高质量文本输出。尽管在某些实际场景中与人类相比还有差距，但GPT-4在多个领域的专业和学术基准上展现出与人类相媲美的水平，甚至在模拟法律考试中取得了前10%的成绩。GPT-4是基于Transformer模型开发的，经过预训练，能够准确预测文档中的下一个令牌。我们通过训练和优化方法进一步改进了GPT-4的真实性和对期望行为的遵守程度。在开发过程中，我们专注于构建可预测的基础设施和优化方法，以实现GPT-4在更广泛的规模范围内的应用。我们通过准确预测GPT-4性能的某些方面，使得能够用比原模型计算量低1000倍的模型来估计GPT-4的性能。