微软开源基于Deep Speed的ChatGPT训练工具，15倍提升训练速度

Deep Speed Chat是微软基于Deep Speed深度学习优化库开发的工具，拥有训练和强化推理功能，该工具使用了基于人类反馈的强化学习技术RLHF，能够将训练速度提升15倍以上，且成本大大降低。微软近日宣布开源Deep Speed Chat，使用户得以更轻松地训练ChatGPT等大语言模型。这个130亿参数的类ChatGPT模型，仅需1.25小时的训练时间。使用Deep Speed Chat提供的“傻瓜式”操作，用户可以在最短的时间内，以最高效的方式训练ChatGPT大语言模型。该模型可用于AI社区中的归纳、编程、翻译等任务，效果与人类专家相当甚至更好。