본 연구에서는 정서를 두 양상(청각, 시각)으로 제시할 시, 두 양상의 정서가 일치 혹은 불일치 할 경우 각성과 재인 기억, 회상 기억에 영향을 미친다는 것을 알아보고자 하였다. 본 연구의 첫 번째 가설은 교차 양상에서의 정서 불일치는 일치 할 때 보다 각성 뿐만 아니라 재인, 회상 기억 모두 높을 것이라는 것이다. 두 번째 가설은 각성이 회상 기억과 재인 기억을 modulate한다는 것이다. 가설을 증명하기 위해 시각과 청각의 정서를 긍정 정서와 부정 정서로 조작하여 일치 조건과 불일치 조건으로 조작하였다. 각 조건에서는 재인 기억과제와 회상 기 억 과제의 정확도를 종속 변인으로 측정하였으며, PAD(Pleasure-arousal-dominance) 척도를 이용하여 참가자의 각성 수준을 측정하였다. 또한 8일이 지난 후, 참가자 모두에게 실험 자극으로 쓰인 영상에 대해 재인 기억 과제를 통해 다시 검사하였다. 연구 결과, 각성의 경우 영상을 본 후의 각성 차이는 통계적으로 유의미하게 나타 났지만(p<.001), 일치와 불일치 조건 간의 각성 차이는 나타나지 않았다. 또한 정서가 일치하는 조건과 불일치하 는 조건에서 재인 기억이 통계적으로 유의미하지는 않았지만, 영상 정서의 주 효과가 통계적으로 유의미하게 나타났다. 이로 인해 두 가지 정서로 나누어 분석한 결과, 부정 정서 영상에 노출된 조건에서만 일치 조건과 불일 치 조건에서의 재인 기억이 통계적으로 유의미한 차이를 보였다(p= .044). 사후 분석 결과, 불일치 조건에서 일치 조건보다 높은 점수를 보였다. 회상 기억의 경우, 영상 정서조건과 일치, 불일치 조건 간의 상호작용이 나타났다 (p=.039). 따라서 본 연구에서는 부정 정서에서의 불일치 효과는 증명하였지만, 각성으로 인한 효과는 증명하지 못하였다.
In the current study, it is suggested that when two emotions are presented through cross-modality, such as auditory and visual, incongruence will influence arousal, recognition, and recall of subjects. The first hypothesis is that incongruent cross-modality does not only increase arousal more than the congruent, but it also increases recall and recognition more than congruent. The second hypothesis is that arousal modulates recall and recognition of subjects. To demonstrate the two hypotheses, our experiment’s conditions were manipulated to be congruent and incongruent by presenting positive or negative emotions, visually and acoustically. For dependent variables, we measured recall rate and recognition rates. and arousal was measured by PAD (pleasure-arousal-dominance) scales. After eight days, only recognition was measured repeatedly online. As a result, our behavioral experiment showed that there was a significant difference between arousal before watching a movie clip and after (p<.001), but no difference between the congruent condition and incongruent condition. Also, there was no significant difference between recognition performance in the congruent condition and incongruent condition, but there was a main effect of the clips’ emotions. Interestingly after analyzing recognition rates separately depending on clips’ emotions, there was a significant difference between congruent and incongruent conditions in the only negative clip (p= .044), not in the positive clip. In a detailed result, recognition in the incongruent condition is more than in the congruent condition. Furthermore, in the case of recall performance, there was a significant interaction between the clips’ emotions shown in the clips and congruent conditions (p=.039). Through these results, the effect of incongruence with negative emotion was demonstrated, but an incongruent effect by arousal could not be demonstrated. In conclusion, in our study, we tried to determine the impact of one method to convey a story dramatically and have an effect on memory. These effects are influenced by the subjects' perceived emotions (valence and arousal).