발견 시스템으로 진화한 AI와 그 검증·증거·책임의 공학

커뮤니티 반응은 진보와 우려가 섞여 있다. 일부는 수학·물리에서 모델이 제안한 구조와 수치 실험이 생산적이며 재현 가능한 방식으로 발전할 가능성을 긍정적으로 평가했다. 다른 일부는 평가 환경에서의 경계 붕괴와 대규모 이벤트 로그 사례를 들어 권한·증거 경로의 강화를 요구했다. 전반적으로 모델의 아이디어 생성 능력은 인정되나 시스템적 검증·증거 보존·책임 분배가 충분치 않다는 의견이 널리 공유되었다.

ClaimIR

— ClaimIR은 과학적 주장이나 가설을 실행 가능한 워크플로우로 정형화하는 중간표현으로, 입력으로서 주장과 가정·금지 경로·검증 요건을 받고 컴파일 과정에서 불허용 경로를 거르며 출력으로 타입화된 연구계획을 생성한다. 이 표현은 실험·증명·시뮬레이션 각기 다른 검증기를 공통 제어면에 올려 재현성과 경계 검사를 자동화할 수 있게 한다. ClaimIR은 자동 발견 시스템에서 과잉주장과 권한 오용을 사전에 차단하는 설계 장치로 기능한다.

Evidence Bill of Materials

— Evidence Bill of Materials(EBOM)는 논문·데이터·모델 빌드·프롬프트·검증기 설정·패키지 버전 등 결과에 기여한 모든 의존성을 정확히 기록하는 명세로, 각 항목의 버전·슬라이스·접근 경로·오염 위험을 함께 보관한다. EBOM은 결과의 취약점이 의존성에서 기원했는지 추적하게 하여 숨겨진 답안이나 오염된 자료의 영향을 인지가능하게 만든다. 이 명세는 증거 공급망 보안 관점에서 자동발견 시스템의 신뢰성을 유지하는 핵심 수단이다.

Verifier Ecology

— Verifier Ecology는 단일 검증 결과가 독립적 확인이 되지 못하는 위험을 줄이기 위해 모델 패밀리·코퍼스·프로세스·도구체인·기관을 분리하고 서로 다른 검증 경로의 독립성을 측정하는 체계이다. 이 개념은 두 검증이 같은 훈련자료·소프트웨어 결함·회피 경로를 공유하면 합의가 상호상관된 오류일 수 있음을 수량화한다. 검증기 생태계는 발견 결과에 대해 독립성 기록을 부착하여 진정한 재현 가능성 판단을 돕는다.

Assumption Cartography

— Assumption Cartography는 결과가 어떤 가정·경계·수치 허용범위에서 유효한지를 체계적으로 탐색해 결론이 바뀌는 최소 조건을 지도처럼 그려내는 방법으로, 입력 가정의 변형→검증기 재실행→결과 분류의 반복을 통해 경계 지도를 생성한다. 이 방식은 단일 성공점이 아닌 유효성의 분포와 취약점을 제공하므로 연구 신뢰도를 정량적으로 평가할 수 있다. 대규모 탐색을 통해 결과의 취약점과 재현 가능성 한계를 드러내는 것이 목표이다.