본 개시의 일 실시예는 타겟 신경망에서 복수의 컨볼루션 계층을 프루닝하는 방법을 제공한다. 상기 방법은 상기 복수의 컨볼루션 계층(convolutional layer)들을 포함하는 상기 타겟 신경망을 획득하는 과정; 상기 복수의 컨볼루션 계층들 각각에 적용되는 프루닝 비율들의 조합을 기반으로 목적 함수의 조건을 설정하는 과정, 여기서, 상기 조건은 상기 목적 함수의 값을 최소로 하는 프루닝 비율들의 조합이 상기 복수의 컨볼루션 계층들의 필터들과 상기 목적 함수의 값을 최소로 하는 프루닝 비율들의 조합에 의해 프루닝된 상기 복수의 컨볼루션 계층들의 필터들 간의 차이를 최소로 하는 것이고; 및 베이시안 최적화(Bayesian optimization)를 기반으로 상기 목적 함수로부터 상기 목적 함수의 값을 최소로 하는 프루닝 비율들의 조합을 최적의 프루닝 비율들의 조합으로서 결정하는 과정을 포함한다.