OpenAI和Anthropic同意推出新模型前交给美国政府评估安全

tamoadmin 0

  来源:华尔街见闻

  美国AI安全研究院将对OpenAI和Anthropic的新AI模型进行安全评估,以确保技术进步不会带来社会风险。该研究院成立于2023年,是拜登-哈里斯政府行政命令的产物,旨在推动负责任的AI创新。OpenAI和Anthropic的高层均对合作表示支持,并强调了安全在AI发展中的重要性。

  美东时间8月29日周四,据媒体报道,AI领军企业OpenAI和Anthropic已同意在推出新的AI模型之前,先让美国政府下面的AI安全研究所来评估这些模型的能力和可能带来的风险,并共同研究方法以减轻潜在安全隐患,确保这些AI技术不会对社会带来负面影响。

  美国AI安全研究所是2023年在拜登-哈里斯政府的一项关于AI的行政命令下成立的。这个研究所的任务是开发测试、评估和指导方针,以确保AI技术能够负责任地进行创新。此外,根据美国商务部的国家标准与技术研究所(NIST)周四宣布的协议,美国政府将与英国的AI安全研究所密切合作,给这些AI公司提供反馈,帮助他们改进安全措施。

  美国AI安全研究院所长Elizabeth Kelley对此表示:

“安全对于推动突破性技术创新至关重要。这些协议虽然只是一个开始,但它们对于我们负责任地引领人工智能的未来发展具有重大意义。”

  OpenAI首席战略官Jason Kwon对合作表示支持:

“我们非常支持美国AI安全研究所的使命,并期待一起合作,制定AI模型的安全最佳实践和标准。我们相信,该研究所在确保美国在负责任开发AI方面的领导地位上扮演着关键角色。我们期望通过与研究所的合作,能为全球提供一个可以借鉴的框架。”

  Anthropic公司也表示,建立有效测试AI模型的能力非常重要。该公司的联合创始人兼政策负责人Jack Clark说:

“确保AI安全可靠对于让这项技术带来积极影响是至关重要的。通过这样的测试和合作,可以更好地发现和减少AI带来的风险,推动负责任的AI发展。我们为能够参与这项重要工作感到自豪,并希望为AI的安全性和可信度设立新的标准。”

  另外,值得注意的是,得到了微软支持的OpenAI公司正在准备新一轮融资,目标是至少筹集10亿美元,这将使公司的估值超过1000亿美元。微软自2019年以来向OpenAI投入了130亿美元,现在拥有这家公司49%的利润分成。

  关于新一轮融资的消息大约是在OpenAI透露他们正在测试一个叫SearchGPT的新功能后一个月传出来的。这个新功能是将AI技术和实时搜索数据结合起来,ChatGPT未来可能不仅能回答问题,还能帮你在网上找答案。

  风险提示及免责条款

  市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

标签: #安全

上一篇中国海防:中国海防第九届董事会第三十三次会议决议公告

下一篇当前文章已是最新一篇了