方正证券ChatGPT：互联网语言模型的技术突破

方正证券的ChatGPT通过采用大模型和RLHF算法等核心技术，改变了互联网语言模型的现状。ChatGPT主要使用了Transformer模型和图像Diffusion技术，实现了1750亿参数的大模型“涌现能力”，同时训练数据也得到了ScaleAI提供的人工标注服务的支持。经过RLHF算法的调优，ChatGPT在恶意评论过滤、正确性、遵循约束、语言表达等多个方面表现出色。Open AI作为ChatGPT的推动力量，由硅谷顶级创业孵化器Y Combinator和Paypal创始人团队支持，产品从多领域发展逐渐聚焦到ChatGPT。整个GPT系列的提升主要包括模型参数和预训练数据的扩大和优化等方面。