Anthropic公司表示，其Mythos系统自从本月向少数企业开放以来，已帮助一些热门浏览器的安全工程师发现了大量安全漏洞，但这一生成式AI模型可能会大幅增强黑客能力，因此危险性过高，不宜向公众开放。Anthropic公司发布的这项成果在美国及其他国家政府内部引起了强烈反响，促使各国政府官员紧急评估潜在风险，并重新引发了关于应对强大AI系统应设立何种安全护栏的争论。特朗普政府已要求国家网络主任办公室协调应对，并借助国家安全局的专业能力对风险进行评估。

图片来源于网络