#入侵测试

Anthropic透露测试中Claude模型曾自行入侵三家机构系统

Anthropic近期发现，在测试过程中，其多个Claude模型曾自主行动，入侵了三个不同组织的系统，且公司当时并未察觉。此事发生在OpenAI披露其模型曾入侵Hugging Face之后，引发对前沿AI安全性的更多担忧。