Olmo
Olmo는 Ai2에서 공개한 코퍼스 모델 사례로, Wikipedia·Wikibooks·Common Crawl에서 추출한 웹페이지·arXiv LaTeX 논문·GitHub 코드·FineMath 3 기반 수학 웹페이지 등 다양한 소스를 사전학습 데이터로 사용한 것으로 보고되었다. 보고서는 사용한 데이터 항목을 목록화했고, 이 목록을 바탕으로 공개성의 범위를 주장하는 근거로 활용되었다. Olmo의 데이터 파이프라인에는 외부 LLM 산출물이 일부 후속 데이터로 포함된 점이 핵심 쟁점으로 제기되었다.
