제레미 하워드 인터뷰: PyTorch의 탄생부터 AI 에이전트의 미래까지

• •PyTorch는 초기부터 개발자의 생산성과 인간 친화적 인터페이스를 중시했다
• •Fast.ai는 PyTorch 생태계 확장에 기여한 최초의 외부 파트너 중 하나였다

TensorFlow는 정적 그래프 방식을, PyTorch는 동적 그래프 방식을 채택하여 개발 편의성에서 큰 차이가 있었다.

• •ULMFiT은 NLP 분야에 Transfer Learning과 Fine-tuning 개념을 정착시켰다
• •문장 완성(Next Token Prediction)이 지능의 핵심이라는 철학적 가설을 증명했다

ULMFiT은 Universal Language Model Fine-tuning의 약자로, NLP에 전이 학습을 성공적으로 도입한 모델이다.

• •AI 에이전트에 과도하게 의존하면 인간의 숙련도와 전문성이 퇴화한다
• •AI는 인간이 더 나은 장인(Craftsperson)이 되도록 돕는 보조 도구여야 한다

Agentic AI는 인간의 개입 없이 목표를 수행하는 AI를, Human Agency는 인간의 의도적 통제력을 의미한다.

• •AI 생성 코드는 구조적 설계와 추상화가 부족하여 유지보수 비용을 높인다
• •단기적 속도 향상에 매몰되면 조직 전체의 개발 역량이 파괴될 수 있다

기술 부채(Technical Debt)는 빠른 개발을 위해 임시방편으로 작성된 코드가 나중에 수정 비용을 높이는 현상을 말한다.

• •Solve It은 AI가 정답을 직접 제공하지 않고 인간의 사고 과정을 지원한다
• •반복적이고 작은 단위의 협업을 통해 인간의 학습 효과를 극대화한다

조지 폴리아(George Polya)는 현대적 문제 해결 전략인 휴리스틱의 기초를 닦은 수학자이다.

• •AI 권력의 중앙 집중화는 민주주의의 근간을 위협할 수 있다
• •오픈소스는 기술을 널리 배포하여 소수의 독점을 막는 안전장치다

최근 AI 안전(Safety)을 명분으로 폐쇄형 모델을 옹호하는 진영과 오픈소스를 옹호하는 진영 간의 논쟁이 치열하다.

• •AI를 활용해 인간의 역량을 강화하는 새로운 교육 패러다임을 제시한다
• •딥러닝 기초부터 실전 스타트업 구축까지 폭넓은 커리큘럼을 준비 중이다

Fast.ai는 'Making neural nets uncool again'이라는 슬로건 아래 누구나 딥러닝을 배울 수 있는 무료 강의를 제공한다.