Anthropic, 재귀적 자기개선 능력 실현에 매우 근접했다고 경고

Techub News 보도에 따르면 Anthropic은 최신 수정된 S-1A 문서에서 회사가 곧 재귀적 자기 개선(RSI) 능력을 갖춘 모델을 만들 수 있다고 경고했습니다. 문서에서는 Anthropic의 내부 평가 및 미래 모델에 대한 기대가 회사가 "AI로 인한 급격한 진행 가속"이라는 책임 있는 확장 정책에 정의된 임계값에 곧 도달할 수 있음을 시사하지만, 현재까지 어떤 기존 모델도 이 임계값을 초과하지 않았음을 강조했습니다. 회사는 AI를 사용하여 더 강력한 AI를 구축하는 것이 특히 진행 속도가 급격하게 가속되는 경우 큰 안전 위험을 초래할 수 있다고 밝혔습니다. 이에 Anthropic은 인간이 예측 가능한 미래에도 최첨단 모델 개발을 계속 통제할 수 있도록 책임 있는 확장 정책을 업데이트하는 방안을 검토하고 있습니다. (TechCrunch)