본 연구에서는 볼텍스 세퍼레이터 내부의 밀폐된 영역 내에서 발생하는 회전에 의한 입자상 물질과 유체의 분리 특성 파악을 위하여 전산유체역학을 이용한 수치해석을 수행하였다. 볼텍스 세퍼레이터는 접선방향 운동량으로 인해 회전유동이 발생하여 원심력과 중력으로 인한 입자상 물질과 유체의 분리가 이루어지므로 비정상 상태의 복잡한 흐름을 갖는다. 본 연구에서는 유한체적법 기반의 3차원 점성 유동장의 비정상 해석을 수행하였으며 이상유동의 해석을 위하여 오일러-오일러 모델을 이용하였다. 효율적인 설계를 위하여 세 가지 형태의 볼텍스 세퍼레이터 내부 구조에 대한 분석을 수행하였으며, 입자상 체적비, 입자 직경의 변화에 따른 분리 효율을 비교하였다. 또한 전산해석을 통하여 얻어진 분리성능을 확인하였으며 실험을 통한 검증을 수행하였다.