cybersecurity-vulnerability-reproduction

소프트웨어의 보안 약점을 찾아내고 이를 실제로 작동하는 코드로 구현해내는 능력을 의미한다. Anthropic은 모델이 해킹 등 악의적인 용도로 사용되는 것을 방지하기 위해 이 능력을 의도적으로 제한하는 안전 가드레일을 적용했다. 이는 AI 모델의 강력한 성능과 안전성 사이의 균형을 맞추는 중요한 안전 조치이다.