sparse-connectivity
희소 연결성
희소 연결성은 모든 뉴런이 모든 다른 뉴런과 연결되지 않고 일부 고정된 시냅스만 존재하는 구조를 뜻한다. Leo는 약 1,572,864개의 고정 희소 시냅스를 사용하여 계산과 메모리 패턴을 제한하고 뇌의 희소 활동을 모사하려 했다. 희소성은 계산 비용과 활성화 밀도를 낮추며 다른 일반화·표현 특성을 유발할 수 있다.
희소 연결성
희소 연결성은 모든 뉴런이 모든 다른 뉴런과 연결되지 않고 일부 고정된 시냅스만 존재하는 구조를 뜻한다. Leo는 약 1,572,864개의 고정 희소 시냅스를 사용하여 계산과 메모리 패턴을 제한하고 뇌의 희소 활동을 모사하려 했다. 희소성은 계산 비용과 활성화 밀도를 낮추며 다른 일반화·표현 특성을 유발할 수 있다.
