OpenAI的最新AI模型拥有新的保护措施来预防生物风险

OpenAI的最新AI模型拥有新的保护措施来预防生物风险

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph
OpenAI的最新AI模型拥有新的保护措施来预防生物风险

OpenAI的最新AI模型拥有新的保护措施来预防生物风险OpenAI 表示，O3 和 o4-mini 的性能较之前的模型有了显著提升，因此也给恶意攻击者带来了新的风险。根据 OpenAI 的内部基准测试，o3 在回答特定类型的生物威胁相关问题方面表现得更为熟练。出于这个原因，同时也为了降低其他风险，OpenAI 创建了新的监控系统，该公司将其描述为“以安全为中心的推理监控器”。该监控器基于 o3 和 o4-mini 运行，经过定制训练，能够推理 OpenAI 的内容政策。它旨在识别与生物和化学风险相关的…