GPT-4多模态模型开发情况报告

本文详细介绍了GPT-4多模态模型的开发情况，该模型可接受图像和文本输入并输出文本结果。虽然在某些场景中GPT-4表现不如人类，但在各种学术基准测试中，该模型表现出人类水平的性能。其基于Transformer的预训练模型可以预测文档中的下一个标记，经过训练且调整后其表现在事实性和理想行为方面得到了改善。此外，该项目还包括基础设施和优化方法的开发，使其在广泛的规模下表现出可预测性。最终，我们可以凭借以不超过GPT-4的1/1000的计算量训练的模型来准确预测GPT-4的某些方面的性能。