챕터별 상세
00:17
대규모 시스템의 스케줄링 도전 과제
사용자가 ChatGPT에 프롬프트를 입력하면 전 세계의 수많은 요청이 데이터 센터로 집중된다. 데이터 센터는 수만 대의 머신에 이 요청들을 효율적으로 배분해야 하는 스케줄링 문제에 직면한다. 수백만 개의 요청을 수만 대의 기기에 할당하는 경우의 수는 천문학적이며, 이를 실시간으로 처리하는 것은 매우 복잡한 최적화 과제이다.
데이터 센터 스케줄링은 한정된 컴퓨팅 자원을 여러 작업에 효율적으로 할당하여 처리량은 높이고 지연 시간은 줄이는 기술이다.
01:01
휴리스틱 알고리즘의 필요성과 한계
이론적으로 완벽한 최적해를 찾으려면 알고리즘 실행에만 200시간 이상이 소요될 수 있다. 사용자는 즉각적인 답변을 원하므로 수백 시간을 기다릴 수 없으며, 따라서 실제 환경에서는 완벽한 해 대신 '충분히 좋은' 해를 빠르게 찾는 휴리스틱 알고리즘을 사용한다. 하지만 이러한 휴리스틱은 특정 상황에서 성능이 저하되거나 예측 불가능한 위험을 초래할 수 있다.
휴리스틱(Heuristic)은 엄밀한 논리적 근거보다는 경험적인 규칙을 사용하여 빠르게 답을 구하는 방법론이다.
01:51
LLM을 활용한 알고리즘 설계 자동화
추론 능력과 코드 작성 능력을 갖춘 LLM을 활용해 휴리스틱 알고리즘의 설계 과정을 자동화하는 시스템을 구축했다. 이 시스템은 기존 알고리즘의 구성 요소를 분석하고 개선이 필요한 부분을 찾아내어 더 견고하고 비용 효율적인 형태로 재설계한다. 사람이 직접 모델을 수정하고 관찰하던 기존의 반복적인 연구 방식을 AI가 스스로 수행하도록 전환했다.
LLM의 Reasoning 능력을 활용해 소프트웨어 로직이나 알고리즘 자체를 개선하는 'Self-improving' 개념이 적용되었다.
02:29
연구 패러다임의 변화와 CSAIL의 연구 환경
LLM의 능력이 예상보다 뛰어나다는 점을 확인했으며, 이를 제대로 활용하기 위한 적절한 인프라 구축이 핵심이다. MIT CSAIL은 AI, 시스템, 검증 등 다양한 분야의 전문가들이 한곳에 모여 있어 복잡한 융합 프로젝트를 수행하기에 최적의 환경을 제공한다. 연구자의 야망과 동기부여가 유일한 한계일 정도로 강력한 협업 생태계가 구축되어 있다.
CSAIL(Computer Science and Artificial Intelligence Laboratory)은 MIT의 최대 연구소 중 하나로 다양한 컴퓨터 과학 분야를 다룬다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 02. 18.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.