这一重要举措遵循了委员会最近首次公开的初步建议。
热门人工智能聊天机器人 ChatGPT 背后的公司 OpenAI宣布，其新成立的安全与保障委员会将独立运作，负责监督其人工智能模型的开发和部署。这一决定遵循了该委员会最近首次公开发布的建议。该委员会成立于 5 月，其目标是在人们对人工智能的道德使用和潜在偏见日益担忧的情况下加强和完善 OpenAI 的安全实践。
该委员会将由卡内基梅隆大学教授、OpenAI 董事会成员 Zico Kolter 领导。在其指导下，OpenAI 计划实施“信息共享和分析中心”，以促进人工智能行业内的网络安全信息交流。此外，该公司还致力于改善内部安全措施，提高其人工智能技术相关能力和风险的透明度。
在相关发展中，OpenAI 还与美国政府合作，进一步研究和评估其 AI 模型。此举凸显了该公司致力于应对 AI 在不断发展过程中带来的机遇和挑战。
评论