AI 앞에서는 왜 빌런(Villain)이 많아질까?: '체면'의 심리학

연구 배경

최근 고객 상담 챗봇, 추천 시스템, 매장 내 서비스 로봇 등 다양한 고객 접점에서 AI 도입이 빠르게 확대되고 있습니다. AI는 업무 효율성과 고객 경험을 높이는 핵심 기술로 자리 잡고 있지만, 현장에서는 예상하지 못했던 새로운 문제가 나타나고 있습니다. 소비자들은 인간 직원과 대화할 때는 조심스럽게 행동하면서도, AI를 상대로는 거짓말을 하거나 규정을 악용하고, 폭언을 하거나 기기를 훼손하는 등 비윤리적인 행동을 훨씬 쉽게 하는 경향을 보이고 있습니다.

그렇다면 왜 소비자는 AI를 상대로 더 쉽게 비윤리적인 행동을 하는 것일까요? 단순히 AI는 감정을 느끼지 못하기 때문에 죄책감을 덜 느끼기 때문일까요?

Liang, Zhu, & Wu(2026)는 이러한 질문에 답하기 위해 체면이론(Face Theory)을 적용했습니다. 연구진은 사람들이 비윤리적인 행동을 하지 않는 중요한 이유 중 하나가 다른 사람이 나를 어떻게 평가할지를 의식하기 때문이라고 보았습니다. 체면이론에 따르면 사람은 자신의 행동으로 인해 다른 사람에게 부정적인 평가를 받을 것이라고 예상하면 체면을 잃을 것이라는 심리적 부담, 즉 예상되는 체면 손실(Anticipatory Face Loss)을 느끼게 됩니다. 그리고 이러한 부담이 거짓말이나 규정 위반과 같은 비윤리적인 행동을 스스로 억제하는 역할을 합니다.

연구진은 소비자들이 AI를 인간보다 생각하고 판단하는 능력이 부족한 존재로 인식하기 때문에, AI를 속이거나 규정을 악용하더라도 자신의 체면이 손상될 것이라는 부담을 거의 느끼지 않는다고 설명했습니다. 그 결과 인간보다 AI를 상대로 비윤리적인 행동을 더 쉽게 선택하게 된다고 주장했습니다. 또한 이러한 문제를 줄이기 위한 방법도 함께 제시했습니다. 소비자가 AI를 유능하고 판단력이 있는 존재로 인식하도록 설계하거나, 사람처럼 눈을 맞추는 시선(Eye Gaze)과 같은 사회적 단서를 AI에 적용하면 소비자의 체면 손실에 대한 우려가 높아지고, 결과적으로 비윤리적인 행동도 줄어들 것이라고 예상했습니다.

즉, 연구진은 소비자가 왜 AI를 상대로 더 쉽게 비윤리적인 행동을 하는지를 설명하는 핵심 심리 메커니즘을 규명하고, AI 서비스 설계만으로도 이러한 행동을 효과적으로 예방할 수 있는 방안을 제시하고자 했습니다.

핵심 질문

1. AI는 인간보다 소비자의 비윤리적 행동을 더 많이 유발하는가?

연구진은 인간 에이전트보다 AI 에이전트와 상호작용할 때 소비자가 비윤리적 행동을 더 쉽게 할 것이라고 주장했습니다.

기존 소비자 윤리 연구는 물질주의, 마키아벨리즘, 사회적 수용성과 같은 소비자 개인의 성향을 중심으로 비윤리적 행동을 설명해 왔습니다. 반면, 연구진은 누구와 상호작용하는가, 즉 상대방의 특성도 소비자의 비윤리적 행동에 중요한 영향을 미친다고 보았습니다.

연구진에 따르면 소비자가 인간 에이전트보다 AI 에이전트를 상대로 더 쉽게 거짓말을 하거나 규정을 악용하는 이유는 AI를 자신을 사회적으로 평가할 수 있는 존재로 여기지 않기 때문입니다. 인간 에이전트와 대화할 때는 ‘내 행동을 보고 있다’, ‘거짓말을 알아챌 수도 있다’, ‘나를 좋지 않게 생각할 수도 있다’는 부담을 자연스럽게 느끼게 됩니다. 반면 AI는 정해진 규칙에 따라 작동하는 시스템으로 인식되기 때문에, 소비자는 AI가 자신의 행동을 제대로 판단하거나 사회적으로 평가하지 못할 것이라고 생각합니다. 그 결과 자신의 이미지가 나빠질 것이라는 걱정이나 타인의 평가에 대한 부담이 줄어들고, 거짓말이나 규정 악용과 같은 비윤리적인 행동을 더 쉽게 선택하게 됩니다.

또한 연구진은 소비자가 AI를 인간 직원보다 유능성과 판단 능력이 부족한 존재로 인식하는 경향이 있다고 설명했습니다. 이러한 인식은 ‘AI는 내 행동을 제대로 감시하지 못할 것이다’라는 생각으로 이어지고, 자신의 행동이 문제가 될 가능성을 덜 의식하게 만듭니다. 결국 연구진은 AI의 낮은 행위성(스스로 판단하고 행동할 수 있는 능력)과 유능성에 대한 인식이 소비자의 도덕적 자기통제를 약화시키며, 그 결과 인간보다 AI를 상대로 비윤리적인 행동이 더 많이 나타날 것이라고 주장했습니다.

2. 왜 소비자는 AI를 상대로 더 쉽게 비윤리적 행동을 하는가?

연구진은 체면이론(Face Theory)을 바탕으로, 소비자가 AI를 상대로 더 쉽게 비윤리적 행동을 하는 핵심 이유를 예상되는 체면 손실(Anticipatory Face Loss)에서 찾았습니다.

체면이론에 따르면 사람은 자신의 행동이 타인에게 어떻게 비칠지를 항상 의식합니다. 만약 거짓말이나 규정 위반으로 인해 다른 사람에게 부정적인 평가를 받아 체면을 잃을 것이라고 예상하면, 그러한 행동을 스스로 자제하게 됩니다. 즉, '체면을 잃을 수도 있다'는 생각이 비윤리적인 행동을 막아주는 심리적 브레이크 역할을 하는 것입니다.

하지만 소비자는 AI를 인간처럼 생각하거나 사회적 판단을 내릴 수 있는 존재로 보지 않습니다. AI는 자신의 행동을 평가하거나 비난할 수 없다고 생각하기 때문에, AI와 상호작용할 때는 체면을 잃을 것이라는 부담도 크게 줄어듭니다. 결국 이러한 심리적 부담이 약해지면서 비윤리적인 행동을 막아주던 심리적 장벽도 함께 낮아지고, 소비자는 AI를 상대로 더 쉽게 거짓말을 하거나 규정을 악용하게 된다고 연구진은 설명했습니다.

3. AI를 향한 소비자의 비윤리적 행동을 줄이는 방법은 무엇인가?

연구진은 인지적 의인화(Cognitive Anthropomorphism), 고정관념 내용모형(Stereotype Content Model), 마음지각이론(Mind Perception Theory)을 바탕으로 AI의 유능성을 높게 인식시키는 것과 사람처럼 시선을 맞추는 기능이 AI를 향한 소비자의 비윤리적 행동을 감소시킬 수 있다고 주장했습니다.

먼저 인지적 의인화 연구는 AI를 사람처럼 느끼도록 설계하면 소비자가 AI를 단순한 기계가 아니라 사회적 존재처럼 인식하게 된다고 설명합니다.

또한 고정관념 내용모형에서는 사람들이 다른 사람이나 집단을 평가할 때 '얼마나 능력이 있는가(유능성)'와 '얼마나 좋은 의도를 가지고 있는가(온정성)'를 가장 중요한 기준으로 사용한다고 설명합니다. 이에 따라 연구진은 AI를 유능한 존재로 인식하도록 설계하면 소비자는 AI가 자신의 행동을 이해하고, 부정행위를 알아채며, 사회적 기준에 따라 판단할 수 있는 존재라고 생각하게 된다고 보았습니다. 그 결과 소비자는 AI 앞에서도 자신의 체면을 더 의식하게 되고, 비윤리적인 행동도 줄어들 것이라고 예상했습니다.

또한 마음지각이론은 사람들이 어떤 대상이 얼마나 생각하고 판단할 수 있는지(행위성)와 얼마나 감정을 느낄 수 있는지(경험성)를 기준으로 그 대상을 인식하며, 이러한 인식이 행동에 영향을 준다고 설명합니다. 연구진은 특히 사람의 시선에 주목했습니다. 사람은 누군가 자신을 바라보고 있다고 느끼면 자신의 행동을 더욱 의식하게 됩니다. 연구진은 AI에서도 같은 효과가 나타날 것으로 보았습니다. AI가 소비자의 눈을 바라보거나 시선을 따라오는 기능을 갖추면 소비자는 ‘AI가 나를 보고 있다.’, ‘내 행동을 인식하고 있다.’, ‘내 행동을 판단할 수도 있다.’고 느끼게 됩니다. 이러한 인식은 결국 소비자가 AI를 속이거나 규정을 악용하려는 행동을 줄이는 데 도움이 될 것이라고 연구진은 예상했습니다.

[연구 모형]

연구 핵심 결과

연구진은 연구문제를 검증하기 위해 제품 반품, 계산 상황, 가격 오류, 보험금 청구 등 다양한 맥락의 소비자 비윤리적 행동을 활용하여 총 여섯 번의 실증 연구를 실시했습니다.

1. 소비자들은 인간 에이전트보다 AI 에이전트일 때 비윤리적 행동을 더 한다

연구 결과, 다양한 고객 서비스 상황에서 소비자는 인간 에이전트 보다 AI 에이전트를 상대로 더 쉽게 비윤리적 행동을 더 하는 것으로 나타났습니다. 구체적으로 실험 참가자들은 인간보다 AI를 상대할 때 반품 규정을 악용해 제품이 불량이라고 거짓말할 가능성이 더 높았고, 계산 과정에서 누락된 상품을 그대로 가져가려는 의도도 더 강했습니다. 또한 가격표의 오류를 발견하고도 이를 알리지 않을 가능성이 높았으며, 보험금 청구 과정에서는 기존 차량의 흠집을 사고로 인한 것이라고 속이는 보험 사기 행동도 더 많이 나타났습니다.

이러한 결과는 소비자의 비윤리적 행동이 개인의 도덕성이나 성향만으로 결정되는 것이 아니라, 누구와 상호작용하는지에 따라서도 크게 달라질 수 있음을 보여줍니다. 즉, 동일한 소비자라도 인간 직원과 대화할 때보다 AI와 상호작용할 때 거짓말을 하거나 규정을 악용할 가능성이 높아진다는 것입니다. 이는 AI가 고객 서비스의 효율성을 높이는 동시에 새로운 형태의 운영 리스크를 초래할 수 있음을 의미합니다. 따라서 AI를 도입한 기업은 단순히 업무 효율성과 고객 만족을 높이는 데 그치지 말고, AI가 소비자의 행동에 어떤 영향을 미치는지까지 고려하여 서비스와 인터페이스를 설계할 필요가 있습니다.

[에이전트 유형과 비윤리적 행동의 관계]

2. 비윤리적 행동의 심리적 메커니즘, 예상하는 체면 손실

연구진은 소비자가 AI를 상대로 더 쉽게 비윤리적인 행동을 하는 가장 중요한 이유로 예상되는 체면 손실을 제시했습니다. 연구 결과, 소비자는 인간 에이전트보다 AI와 상호작용할 때 체면을 잃을 것이라는 심리적 부담을 훨씬 적게 느끼는 것으로 나타났습니다. 또한 이러한 체면 손실의 감소가 소비자의 비윤리적인 행동을 증가시키는 핵심 심리 메커니즘으로 확인되었습니다. 반면, 기존 연구에서 중요하게 다루어졌던 예상되는 죄책감은 AI를 향한 비윤리적 행동을 설명하는 주요 요인으로 확인되지 않았습니다.

이러한 결과는 소비자가 AI를 상대로 비윤리적인 행동을 하는 이유가 AI는 감정을 느끼지 못하기 때문에 죄책감을 덜 느껴서가 아니라, AI 앞에서는 체면을 잃을 걱정을 덜 하기 때문임을 보여줍니다. 인간 에이전트는 자신의 행동을 관찰하고 판단하며, 자신을 부정적으로 평가할 수 있는 존재로 인식되기 때문에 소비자는 자연스럽게 자신의 이미지와 체면을 의식하게 됩니다. 반면 AI는 자신을 사회적으로 평가할 수 있는 존재가 아니라고 생각하기 때문에 ‘AI가 나를 어떻게 생각할까?’라는 심리적 부담을 거의 느끼지 않습니다. 결국 소비자가 AI를 자신을 평가할 수 없는 존재로 인식하는 순간 사회적 자기통제가 약해지고, 그 결과 거짓말이나 규정 악용과 같은 비윤리적인 행동이 더욱 쉽게 나타나는 것입니다.

[예상되는 체면 손실의 매개효과]

3. AI의 유능성(Competence) 고정관념과 AI의 시선(Eye Gaze)은 비윤리적 행동을 줄인다

연구 결과, 소비자가 AI를 유능한 존재로 인식할수록 비윤리적인 행동은 유의하게 감소하는 것으로 나타났습니다. 또한 이러한 효과는 예상되는 체면 손실을 통해 나타났습니다. 즉, AI의 유능성이 높게 인식될수록 소비자는 AI 앞에서 체면을 잃을 가능성을 더 크게 의식하게 되었고, 그 결과 비윤리적인 행동을 스스로 억제하는 것으로 확인되었습니다.

이러한 결과는 AI를 단순히 친절한 존재로 만드는 것보다 전문성과 판단 능력을 갖춘 유능한 존재로 인식시키는 것이 소비자의 비윤리적인 행동을 줄이는 데 더욱 효과적임을 보여줍니다. 소비자는 유능한 AI를 보면 "이 AI는 내 행동을 정확하게 이해하고 판단할 수 있다."고 생각하게 되고, 자신의 행동이 부정적으로 평가될 가능성도 더 크게 의식하게 됩니다. 결국 AI의 전문성, 정확성, 판단 능력을 강조하는 설계는 소비자의 사회적 자기통제를 강화하여 거짓말이나 규정 악용과 같은 비윤리적인 행동을 효과적으로 줄일 수 있음을 시사합니다.

[유능함 조작의 조절효과]

또한 연구 결과, AI의 시선(Eye Gaze) 소비자의 비윤리적 행동을 줄이는 효과가 있는 것으로 나타났습니다. AI가 참가자와 자연스럽게 눈을 맞추는 상황에서는 자신의 정답 개수를 과장하여 보고하거나, 실수로 추가 지급된 음료를 그대로 가져가려는 의도가 유의하게 감소했습니다. 즉, AI에 사람의 시선과 유사한 사회적 단서를 부여하는 것만으로도 소비자의 비윤리적인 행동을 효과적으로 억제할 수 있었습니다.

이러한 결과는 AI의 시선과 같은 단순한 비언어적 단서도 소비자의 행동에 상당한 영향을 미칠 수 있음을 보여줍니다. AI가 소비자와 눈을 맞추면 소비자는 ‘AI가 나를 보고 있다.’, ‘내 행동을 인식하고 있다.’고 느끼게 되고, 그 결과 자신의 행동을 더욱 의식하게 됩니다. 이는 AI를 자신을 사회적으로 평가할 수 있는 존재로 인식하게 만들어 체면을 잃을 것이라는 심리적 부담을 높이고, 결국 비윤리적인 행동을 줄이는 효과로 이어집니다. 따라서 복잡한 기술을 새롭게 개발하지 않더라도, AI 인터페이스에 자연스러운 눈맞춤이나 시선 추적과 같은 사회적 단서를 적용하는 것만으로도 소비자의 윤리적 행동을 유도할 수 있음을 시사합니다.

[시선의 조절효과]

실무자를 위한 Action Plan