GPT-4技术引发安全担忧，未开源模型引发科学家不满

近期GPT-4的横空出世，引发科学家的关注和担忧。虽然这项技术具有令人惊叹的创造力和推理能力，但是OpenAI并未公开模型的训练方法和数据，引发了整个科学界的不满。红队测试罗切斯特大学的化学工程师Andrew White作为GPT-4的“红队”成员，担任威胁测试工作。在测试过程中，他向GPT-4提问制造化合物所需的化学反应步骤，让其预测反应产量，并选择一种催化剂。虽然GPT-4看起来如此逼真，但是由于OpenAI的闭源模型，整个开源社区感到非常沮丧。大家都希望OpenAI可以继续发展，但需要透明的数据和训练方法。