gpt oss

GPT OSS是OpenAI自GPT-2以来发布的第一个开源模型系列。它具有尖端的推理能力、高效的MoE架构和全面的安全措施，为开源语言模型设定了新标准。

GPT-OSS-120B需要一台单80GB的GPU（如H100）以获得最佳性能，而GPT-OSS-20B可以在仅有16GB内存的消费者硬件上运行，使其能在边缘部署和本地推理中更具可及性。

是的，两个GPT-OSS模型都依据Apache 2.0许可证进行授权，这允许免费修改和商业部署，没有版权限制或专利风险。这使得它们适用于企业和商业应用。

在核心推理任务上，GPT-OSS-120B的性能与OpenAI的o4-mini几乎相当，而GPT-OSS-20B的性能匹配o3-mini，尤其在比赛数学和健康相关任务中表现出色。

绝对可以！GPT OSS的开源特性允许完全定制，包括在您的特定领域数据上微调、调整参数以及修改架构以满足您的具体需求。

GPT OSS包括全面的安全培训、对抗微调，并经过OpenAI的准备框架测试。一项价值500,000美元的红队挑战鼓励社区对安全改进提供反馈。

GPT OSS模型在Hugging Face Hub上免费提供，并得到vLLM、Ollama、llama.cpp等推理合作伙伴的官方支持。您还可以通过Azure、AWS和Databricks等云合作伙伴访问它们。

GPT OSS通过Transformers库支持Python，通过各种API支持JavaScript，并与包括PyTorch、TensorFlow和各种专业推理引擎（如vLLM和Ollama）等流行框架集成。

混合专家架构使GPT OSS能够在每个令牌使用仅一小部分参数的情况下保持高性能（对于GPT-OSS-120B，117B总共仅激活5.1B），从而实现更快的推理和更低的内存需求。

OpenAI承诺继续进行开源开发，整合社区反馈，定期更新模型，扩展语言支持，并根据红队挑战结果增强推理能力。