OpenAI：GPT-4技术报告的功能和限制

本报告详细介绍了OpenAI的GPT-4技术报告中，包括该模型的能力、局限性和安全特性。GPT-4采用了Transformer model风格的模型，通过预测文档中的下一个令牌来进行预训练。同时，借助人类反馈的强化学习（LHF）进行微调。由于竞争格局和大规模模型（如GPT-4）的安全问题，本报告没有包含有关架构、硬件、训练计算、数据集构建或训练方法的详细细节。我们将对技术进行独立审计，并与初步步骤和想法一起共享在系统卡中。同时，我们计划向第三方提供进一步的技术细节，以权衡竞争和安全因素与科学价值的关系。