OpenAI联手专业团队，共同提升AI模型安全性

时悠悠 8个月前 (09-21) AI人工智能 82 0

近日，据科技新闻网披露，美国领先人工智能研究机构OpenAI正式推出“红队网络”（Red Teaming Network）计划，邀请跨领域专家加入，共同努力提升其AI模型的安全性。

OpenAI联手专业团队，共同提升AI模型安全性

OpenAI此举旨在进一步拓展与外部专家的合作范围，以确保其人工智能模型的稳健性和安全性。这些签约专家将参与模型风险评估与缓解工作，为强化OpenAI人工智能系统发挥关键作用。

尽管OpenAI之前已经通过漏洞赏金计划和研究人员访问计划与外部专家展开合作，但新推出的“红队网络”将这一合作模式正式化。

据悉，“红队”在辨识人工智能系统中的偏见以及评估安全过滤器方面扮演着极为重要的角色，已成为人工智能模型开发过程中不可或缺的一环，尤其在生成式技术广泛应用的情况下。

OpenAI广邀各领域专家参与，涵盖语言学、生物识别、金融、医疗保健等多个领域专业背景。公司强调了多样化专业知识对于人工智能评估的重要性，包括但不限于认知科学、法律、网络安全、经济学以及医疗保健等领域。

相关推荐

网友评论

最新评论