Anthropic CEO呼吁强制测试AI模型，并赋予政府干预权|人工智能|高质量数据集|anthropic

当地时间6月10日，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）发布长文表示，如果新的人工智能模型带来特定风险，政府应有权阻止AI开发商部署这些模型。

阿莫迪主张，人工智能模型应接受第三方强制测试，以评估在多个领域的潜在风险，包括引发网络安全威胁和制造生物武器。如果AI被认定“构成不可接受的风险”，“政府应有权阻止或遏制其部署”。

Anthropic上周还呼吁建立一种机制，由政府和AI开发商共同决定何时放缓相关研发工作，以防范该技术可能带来的风险。

“是时候超越透明度，对人工智能实施更严格且更具约束力的监管了，”阿莫迪写道。“我认为，至少在当前这一技术呈指数级发展的阶段，最恰当的类比是汽车、飞机或药物——这些技术对现代经济至关重要，但如果设计或操作不当，可能造成大量人员伤亡。”