본 논문에서는 H.264/AVC 비디오 코덱에 다차원 변환을 적용하여 높은 압축 성능을 갖는 비디오 부호화 방법을 제안한다. 다차원 변환은 4×4 변환의 장점과 높은 공간적 압축도를 갖는 변환 방법이다. 본 논문에서는 효율적인 변환을 위해 블록모드에 따라 동일한 방향성을 가진 영역을 설정하는 방법을 소개한다. 또한 다차원 변환에 맞는 변환계수 비용 함수를 제안하여 개선된 결과를 얻을 수 있다. 실험을 통해 제안하는 비디오 부호화기는 H.264/AVC에 비하여 BD-RATE 측면에서 약 6.14% 개선된 성능을 보였다.