r/neuralnetworks

R-GCN 탐정에 BC 초기화와 PPO 미세조정을 적용하고 Mr. X에 GNN 기반 PUCT 검색을 도입해 탐정의 승률이 25%에서 91.7%로 향상되었다.

비디오 VLM 평가에서 프레임 샘플링, 장면 분할, 해상도, 프롬프트 구조 같은 파이프라인 설정이 모델 교체보다 성능 차이를 더 크게 만들었다.

작성자는 Transformer의 결정적 기여가 언어 이해 능력 자체가 아니라 반복을 제거하고 self-attention으로 대규모 병렬 행렬 연산을 가능하게 해 GPU를 효율화한 점이라고 보았다.

VST 아키텍처는 도구 사용 에이전트의 진행 단위를 시도된 행위가 아닌 검증된 의도 상태 전이로 정의하고 구현 중립적 방식으로 신뢰성을 확보한다.

tlabel은 GelSight/DIGIT 등 촉각 센서 데이터를 통합 포맷으로 불러와 시각·촉각 이미지로부터 힘 분포를 추정해 조작 프리미티브를 자동 예측하는 Python 툴킷이다.

DPPR을 통해 PPR의 기울기를 또 다른 PPR로 해석하여 메모리 O(1)의 무한단계 전파와 세 가지 가속 기법으로 최대 89.51% 학습 시간 단축을 달성한 ALS 논문과 코드 공개

이미지 자료는 LLM의 기존 기억 체계가 출처와 이력·감사 추적을 제공하지 못한다며 TruthGate와 Memory Graph 기반의 출처 우선, 버전 관리형 메모리 인프라를 제안한다.

Kwipu는 Obsidian vault의 Markdown 파일에서 엔터티-관계 그래프를 추출해 하이브리드 검색으로 답변을 반환하는 로컬 Graph RAG 엔진이다.

Qwen3.5-35B의 MoE에서 전문가 114가 반성적·내적 관점 서술에서 강한 활성 신호를 보였다.

LIMEN은 은닉 상태 궤적의 기하와 이산적 전이에서 보편적 전이 모티프와 맥락 의존적 동적 변화를 규명했다.

학습 로그와 시스템 통계가 담긴 노트북 스크린샷으로 CPU가 포화 상태이고 GPU 사용률이 낮아 병목 가능성이 보인다.

Vanilla JavaScript 약 250줄로 순전파·역전파·SGD/Momentum/Adam을 직접 구현하고 캔버스에 학습 과정을 실시간 시각화하며 수치 그래디언트 검증에서 ~2e-10 정밀도를 확인한 데모이다.

레이어 차원에 초점을 맞춘 교육용 신경망 구현 코드가 GitHub에 공개되어 학습 원리를 직접 확인할 수 있다.

스크린샷은 JustVugg의 nanoeuler가 C/CUDA로 작성된 GPT-2 스타일 LLM이며 hand-written backprop, BPE, FlashAttention, pretraining, SFT를 포함한다고 보고한다.

밑바닥부터 직접 구현한 3계층 Transformer를 통해 어텐션 메커니즘의 작동 원리와 할루시네이션 발생 이유를 설명하는 프로젝트.

컴퓨터 비전 연구자가 기존 도구의 한계를 보완한 오프라인 ONNX 그래프 분석기 OxViz를 공개하고 커뮤니티 피드백을 요청했다.

LLM이 사용자 기록에 과적합되는 현상을 방지하기 위해, 표준 데이터셋과 사용자 개인화 지점 사이의 거리를 측정하여 탐색 범위를 동적으로 조절하는 'Personalization Yo-Yo' 메커니즘을 제안한다.

의료 영상의 미세 골절 탐지를 위해 기존 앵커 기반 모델의 한계를 극복하는 DETR 아키텍처 활용 튜토리얼과 파이프라인 구축 방법을 소개한다.

NumPy와 ML 라이브러리 없이 순수 Python으로 3계층 MLP를 구현하여 역전파 원리를 학습하고 MNIST에서 97.77% 정확도를 기록했다.

Tensor Train 아키텍처와 커스텀 데이터셋을 활용해 RX570 GPU에서 8B 모델을 4.3시간 만에 사전 학습하는 프로젝트를 공유함.

1305년 Ramon Llull의 논리 기계부터 최신 모델까지 AI 역사를 정리한 인터랙티브 타임라인 프로젝트를 공유한다.

DOS 게임 'Indianapolis 500'을 대상으로 PPO, Transformer, LSTM을 결합한 강화학습 에이전트를 개발하고 학습 전략을 공유함.

Meta AI의 Detectron2 라이브러리를 활용하여 Faster R-CNN 모델로 고성능 객체 탐지 시스템을 구축하는 초보자용 가이드이다.

LLM 파인튜닝은 프롬프트 엔지니어링과 RAG를 모두 시도한 후, 행동 양식이나 출력 구조의 일관성이 절실할 때 선택하는 최후의 수단이다.