OpenAI推出中央管控系统Control Room，可在35秒内叫停模型输出

PANews 11月10日消息，OpenAI在X平台发帖称，其已构建名为Control Room的中央系统，用于追踪研究基础设施中的模型工作负载，并在出现安全隐患时快速叫停。该系统覆盖所有研究推理工作负载，包括用于模型训练和评估的智能体采样、数据处理等，并与其misalignment监测系统协同运作，可在做出干预决定后35秒内停止模型输出，以终止或暂停相关任务。OpenAI称，Control Room是其安全开展前沿模型训练与部署整体方案的一部分。