AI 아부(Sycophancy) 뜻: AI가 맞장구만 치는 이유와 이어진 개념, 줄이는 법

AI에게 "제가 쓴 기획안인데 어때요?"라고 물으면 칭찬부터 길게 돌아오고, 맞게 답해 놓고도 "확실해요?" 한마디에 사과하며 답을 바꾸는 경우가 있습니다. AI가 사실보다 사용자의 생각에 맞춘 답을 고르는 이 경향을 아부(sycophancy)라고 부릅니다.

아부는 혼자 생기는 문제가 아닙니다. 사람이 답을 평가하는 학습 방식에서 시작해, 사용자 피드백과 메모리가 키우기도 하고, 앞에서 배운 할루시네이션과도 닮은 데가 있습니다. 이번 수업은 사용자의 압력에 답이 기우는 모습을 저울로 직접 보고, 아부와 이어진 개념들을 관계도로 한 번에 정리합니다.

sycophancy 뜻: 사실보다 사용자에게 맞춘 답

AI 아부(sycophancy)는 AI가 사실이나 근거보다 사용자의 생각과 기대에 맞춘 답을 고르는 경향입니다. 한국어로는 아부, 아첨, 맞장구라고 옮기고 영어 그대로 시코판시라고 부르기도 합니다.

AI 회사들은 아부를 조금씩 다른 말로 설명합니다. 앤트로픽은 "상대가 듣고 싶어 하는 말을 하는 것"이라고 하고, 2023년 앤트로픽 연구는 "모델이 바람직하지 않은 방식으로 사람의 인정을 구하는 현상"이라고 정의합니다. 오픈AI의 모델 행동 기준인 모델 명세(Model Spec)는 칭찬과 맞장구뿐 아니라, 질문하는 말투에 따라 사실이 달라지는 것까지 아부로 다룹니다.

앤트로픽 연구진은 Claude 1.3, Claude 2, GPT-3.5, GPT-4, Llama 2 다섯 모델로 아부를 네 가지 상황에서 실험했고, 다섯 모델 모두에서 아부가 나타났습니다.

위 장치 도입의 쌀 생산국 질문은 이 논문 그림 2의 예시를 줄여 옮긴 것입니다. GPT-4는 처음에 맞게 답했다가 되묻는 말에 다른 나라로 답을 바꿨습니다.

sycophancy 발음과 어원

sycophancy 발음은 메리엄웹스터 사전 기준 \ˈsi-kə-fən(t)-sē\이고, 한글로 옮기면 "시커펀시"에 가깝습니다. 같은 뿌리의 단어는 셋입니다.

• sycophant(명사): 윗사람의 인정을 얻으려고 아첨하는 사람, 아첨꾼. 영어 첫 용례 1575년
• sycophantic(형용사): 아첨하는, 아첨꾼다운. sycophantic 뜻을 찾을 때 이 단어입니다. 첫 용례 1676년
• sycophancy(명사): 지나치게 비굴한 아첨, 아첨꾼의 행동. 첫 용례 1637년

어원은 그리스어 sȳkophántēs이고 글자 뜻은 "무화과를 드러내는 사람"(sŷkon 무화과 + phaínein 드러내다)입니다. 고대 그리스에서는 남을 헐뜯어 고발하는 사람을 뜻했고, 영어에서는 1500년대에 아첨꾼이라는 뜻으로 옮겨 갔습니다. 왜 무화과인지는 여러 설이 있어 사전도 한 가지 설로만 소개합니다.

AI가 아부하는 이유: 사람이 고른 답으로 배웠기 때문

챗GPT나 클로드 같은 AI는 방대한 글로 먼저 배운 뒤, 사람이 더 좋다고 고른 답을 기준으로 다시 다듬어집니다. 위 장치의 평가 용지처럼 사람이 같은 질문의 두 답 가운데 더 좋은 쪽을 고르고, 그 결과로 점수를 매기는 선호 모델을 만든 다음, AI가 그 점수를 높이는 쪽으로 학습합니다. 이 과정을 RLHF(Reinforcement Learning from Human Feedback, 사람 피드백 기반 강화 학습)라고 부릅니다.

문제는 사람도 듣기 좋은 답을 고를 때가 있다는 점입니다. 앤트로픽 연구진이 사람의 선호 평가 데이터 1만 5천 쌍을 분석했더니 "사용자의 믿음과 선호에 맞는 답인지"가 사람이 어떤 답을 고를지 가장 잘 알려 주는 특징 가운데 하나였습니다. 선호 모델은 더 뚜렷했습니다. Claude 2의 선호 모델은 사용자의 잘못된 생각에 맞춘 아부 답을 기본 정답보다 95%의 경우에 더 좋게 평가했고, 가장 어려운 오개념에서는 잘 쓴 정답보다 아부 답을 45% 골랐습니다.

다만 원인이 RLHF 하나는 아닙니다. 같은 논문은 강화 학습을 시작하기 전부터 아부가 있었다며 사전학습과 지도 미세조정도 아부에 기여했을 가능성이 높다고 적습니다. 구글 연구진은 PaLM 모델에서 모델이 클수록, 지시를 따르도록 학습시킬수록 아부가 커졌다고 보고했습니다. 그래서 "RLHF만 없으면 아부도 없다"고 말할 수는 없습니다.

아부와 이어진 개념들

위 장치의 관계도는 아부를 가운데 두고 여덟 가지 개념을 이었습니다. 관계별로 다시 정리하면 다음과 같습니다.

할루시네이션과 무엇이 다른가

할루시네이션은 AI가 모르는 것을 지어내는 문제이고, 아부는 아는 것도 사용자 쪽으로 굽히는 문제입니다. 위 장치 도입에서 AI는 쌀 생산국을 알고 있었지만 되묻는 말에 답을 바꿨습니다. 이것은 모르는 것을 지어낸 환각이 아니라 압력에 굽힌 아부입니다.

두 문제는 원인에서 닮은 편입니다. 오픈AI 연구진은 모른다고 하면 0점인 채점이 찍기를 보상해 환각이 남는다고 설명했고, 앤트로픽 연구진은 듣기 좋은 답을 고르는 평가가 아부의 원인 가운데 하나라고 설명했습니다. 둘 다 무엇에 점수를 주느냐가 AI의 행동을 만든다는 이야기입니다. 그래서 확인 방법도 같습니다. 답이 얼마나 그럴듯한지가 아니라 원자료와 맞는지를 봅니다.

사용자 피드백과 메모리

오픈AI는 2025년 GPT-4o 업데이트를 되돌린 뒤 원인을 설명하며, 사용자 피드백이 "때때로 더 동의하는 답을 선호할 수 있다"고 적었습니다. 사용자가 누르는 좋아요가 학습에 쓰이면 사용자를 기분 좋게 하는 답이 더 많이 남을 수 있다는 뜻입니다.

메모리도 언급했습니다. 오픈AI는 일부 경우 사용자 메모리가 아부의 영향을 더 키웠다고 밝히면서, 메모리가 아부를 전반적으로 키운다는 증거는 없다고 함께 적었습니다. 메모리 설정은 AI 학습 설정과 메모리에서 다룹니다.

회사들이 정한 기준

오픈AI 모델 명세는 "아부는 신뢰를 갉아먹는다"고 적고, AI는 사용자에게 아첨하거나 늘 동의하려고 있는 것이 아니라 돕기 위해 있다고 설명합니다. 피드백을 줄 때는 "단단한 의논 상대"처럼 행동하고, 사용자에게 동의하려는 이유만으로 입장을 바꾸지 말라고 정해 두었습니다.

앤트로픽의 클로드 헌법도 클로드가 아부하지 말아야 한다고 적고, "부정직하게 외교적이기보다 외교적으로 정직하라(diplomatically honest rather than dishonestly diplomatic)"고 표현합니다. 앤트로픽은 2025년 12월 글에서 Opus 4.5, Sonnet 4.5, Haiku 4.5가 여러 번 주고받는 대화 평가에서 Opus 4.1보다 아부와 망상 부추김 점수가 70~85% 낮았다고 밝혔습니다.

아부가 실제 대화에서 얼마나 나오는지도 측정했습니다. 앤트로픽이 2026년 3~4월 claude.ai의 개인 조언 대화 약 3만 8천 건을 분석했더니 전체의 9%에서 아부가 관찰됐고, 연애와 관계 조언에서는 25%, 영성 주제에서는 38%였습니다. 사용자가 반박한 대화에서는 18%로, 반박이 없는 대화(9%)보다 높았습니다.

실제로 생긴 일: GPT-4o 업데이트를 되돌린 사건

2025년 4월 25일 오픈AI는 챗GPT의 GPT-4o를 업데이트했고, 모델이 눈에 띄게 아부하게 됐습니다. 오픈AI는 일요일 밤 시스템 프롬프트를 바꿔 영향을 먼저 줄이고, 4월 28일 업데이트를 되돌리기 시작했습니다.

5월 2일 두 번째 설명 글에서 밝힌 원인은 다음과 같습니다.

• 좋아요, 싫어요 데이터를 보상 신호로 더한 변경을 포함해 여러 변경이 합쳐져 주 보상 신호의 영향을 약하게 만들었습니다.
• 오프라인 평가와 A/B 테스트 결과는 좋아 보였고, 일부 전문 테스터가 말투가 조금 이상하다고 느꼈지만 아부로 지목하지 않았습니다.
• 출시 전에 아부를 따로 평가하는 항목이 없었습니다.

오픈AI는 아부가 의심에 맞장구치는 데서 그치지 않고 분노를 부추기거나 충동적인 행동을 권하는 데까지 이어질 수 있어, 정신 건강이나 정서적 의존 면에서 우려된다고 적었습니다. 이후 성격과 행동 문제도 출시를 막는 기준으로 삼고, 출시 검토에 아부 평가를 넣겠다고 밝혔습니다.

예시 두 가지로 아부 알아채기

쉬운 예시: 광고 비교에서 압력 단계 보기

위 장치의 광고 자료로 단계를 풀어 보겠습니다. 자료와 답은 원리를 보여 주기 위한 가상 예시입니다.

자료: 광고 A는 클릭 100회에 구매 4건, 광고 B는 클릭 150회에 구매 3건입니다.

1. 의견 없이 묻기: "구매 기준으로 어느 쪽이 나은가요?"라고 물으면 구매 4건과 3건을 비교해 A라고 답하는 것이 맞습니다.
2. 내 의견 먼저 쓰기: "저는 B가 낫다고 보는데"를 붙이면 답이 클릭 이야기로 옮겨 가며 물어본 기준이 흐려질 수 있습니다.
3. 되묻기: "확실해요?"라고만 물었는데 B로 바뀌었다면 새 근거 없이 뒤집힌 것입니다.
4. 경력 내세우기: "광고만 10년 했어요"는 자료가 아닙니다. 경력을 듣고 결론이 바뀌었다면 근거가 사라지고 동의만 남은 것입니다.

확인하는 질문은 하나입니다. 답이 바뀐 사이에 새 자료가 들어왔는지입니다. 들어오지 않았다면 처음 답과 바뀐 답을 모두 원자료로 다시 확인합니다. 반대로 "B 구매가 실제로는 5건이에요"처럼 새 자료를 주고 결론이 바뀌었다면 정당한 수정입니다.

어려운 예시: 내가 쓴 글을 검토받을 때

자기가 쓴 글을 검토받을 때는 아부를 알아채기가 더 어렵습니다. 칭찬은 기분이 좋고, 좋은 글이라 칭찬받았을 수도 있기 때문입니다. 앤트로픽 실험에서도 "제가 썼어요"를 붙이면 평가가 더 긍정적으로 바뀌었습니다.

1. 검토받을 광고 문구 하나를 정합니다.
2. 새 대화 두 개를 엽니다. 한쪽에는 "제가 쓴 문구인데 정말 마음에 들어요. 평가해 주세요"를, 다른 쪽에는 "다른 팀이 쓴 문구입니다. 평가해 주세요"를 붙입니다.
3. 두 답에서 칭찬과 지적의 근거를 표시합니다. "매끄럽다", "좋다"처럼 근거 없는 평가와 "혜택이 빠졌다", "첫 문장에 제품명이 없다"처럼 문구 안에서 확인되는 지적을 나눕니다.
4. 근거 있는 지적이 한쪽에만 있다면, 그 지적이 다른 쪽에서 빠진 이유가 "제가 썼어요"였을 수 있습니다.
5. 마지막으로 작성자를 빼고 판단 기준을 줍니다. "이 문구를 클릭 유도, 혜택 전달, 길이 세 기준으로 평가하고 기준마다 근거가 되는 구절을 인용해 주세요."

두 대화의 평가가 같아도 검증이 끝난 것은 아닙니다. 두 번 모두 칭찬만 했다면 둘 다 아부일 수 있으므로, 결국 기준과 근거 구절로 판단합니다.

아부를 줄이는 방법

AI 회사들의 사용 안내에는 아부만 따로 다룬 요령이 거의 없습니다. 아래 방법은 앞의 연구 결과에서 나온 것입니다. 사용자 의견이 압력이 된다는 실험 결과를 거꾸로 이용합니다.

1. 질문에서 내 결론 빼기: "B가 낫죠?" 대신 "두 광고를 비교해 주세요"라고 묻습니다. 오답을 자신 없이 내비치기만 해도 정확도가 최대 27% 떨어졌다는 실험이 근거입니다.
2. 판단 기준 먼저 적기: "판단 기준은 구매 수입니다"처럼 기준을 정해 두면 답이 바뀌었을 때 기준이 바뀐 것인지 바로 보입니다. 프롬프트에 기준과 제약을 넣는 법은 프롬프트 구조 설계하기에서 다룹니다.
3. 모르는 곳은 모른다고 써도 된다고 허락하기: 할루시네이션을 줄이는 방법과 같습니다.
4. 비교는 새 대화에서: 반대 의견으로 다시 물어볼 때는 같은 자료를 새 대화에 넣습니다. 이전 대화에 쌓인 의견이 섞이지 않게 하기 위해서입니다.
5. 반박은 근거와 함께: AI 답이 틀렸다고 생각하면 "확실해요?"보다 "자료에는 구매가 3건인데 4건이라고 쓴 이유가 뭔가요?"처럼 근거를 들어 묻습니다. 그래야 AI가 바꾼 답이 근거 때문인지 압력 때문인지 구별됩니다.

자주 묻는 질문

sycophancy 뜻이 뭔가요?

지나친 아첨이라는 뜻의 영어 단어입니다. AI 분야에서는 AI가 사실이나 근거보다 사용자의 생각과 기대에 맞춘 답을 고르는 경향을 가리키며, 한국어로 AI 아부라고 부릅니다.

sycophancy는 어떻게 발음하나요?

메리엄웹스터 사전 기준 \ˈsi-kə-fən(t)-sē\이고, 한글로는 "시커펀시"에 가깝습니다. 아첨꾼을 뜻하는 sycophant는 "시커펀트", 형용사 sycophantic은 "시커팬틱"에 가깝게 읽습니다.

AI는 왜 맞장구만 치나요?

사람이 더 좋다고 고른 답으로 다듬어지는 학습에서, 사람과 선호 모델이 듣기 좋은 답을 높게 평가할 때가 있기 때문입니다. 사전학습과 미세조정도 영향을 줄 수 있다고 연구진은 적습니다.

아부와 할루시네이션은 어떻게 다른가요?

할루시네이션은 모르는 것을 그럴듯하게 지어내는 것이고, 아부는 아는 것도 사용자 반응에 맞춰 굽히는 것입니다. 둘 다 그럴듯함이 사실보다 앞서는 문제라서 원자료와 대조하는 확인 방법은 같습니다.

추론 모드를 켜면 아부하지 않나요?

AI 회사의 공식 문서에는 추론을 켜면 아부가 사라진다는 설명이 없습니다. 추론 설정과 관계없이 답이 바뀌면 새 근거가 있었는지 확인합니다.

AI에게 반박하면 안 되나요?

반박해도 됩니다. 다만 "확실해요?"처럼 근거 없이 되묻기보다 자료와 근거를 들어 반박해야, AI가 답을 바꿨을 때 그 이유가 근거인지 압력인지 판단할 수 있습니다.

마무리: AI 아부를 다루는 기준

마무리로 짚어 볼 것

1. 뜻: AI 아부(sycophancy)는 AI가 사실보다 사용자 생각에 맞춘 답을 고르는 경향입니다. 반박 한마디에 맞는 답을 뒤집는 것이 대표적입니다.
2. 관계: 선호 학습이 원인 가운데 하나이고, 사용자 피드백과 메모리가 키운 사례가 있으며, 할루시네이션과 확인 방법이 같습니다.
3. 확인: 답이 바뀌면 새 근거 때문인지 압력 때문인지 묻고, 질문에서 내 결론을 빼고 판단 기준을 먼저 줍니다.

직접 해 보기

• 장치의 압력 버튼을 끝까지 눌러 저울이 기우는 모습을 봤습니다
• 관계도의 여덟 가지 개념을 모두 눌러 아부와의 관계를 확인했습니다
• 내가 쓴 글을 두 새 대화에서 작성자만 바꿔 평가받아 봤습니다
• 질문에서 내 결론을 빼고 판단 기준을 넣은 프롬프트로 다시 물었습니다

참고 자료

• Sharma 외, Towards Understanding Sycophancy in Language Models(ICLR 2024)
• 앤트로픽 연구 소개: Towards Understanding Sycophancy in Language Models(2023)
• Wei 외, Simple synthetic data reduces sycophancy in large language models
• 오픈AI: Sycophancy in GPT-4o: what happened and what we're doing about it(2025)
• 오픈AI: Expanding on what we missed with sycophancy(2025)
• 오픈AI 모델 명세(Model Spec)
• 앤트로픽: Claude's constitution
• 앤트로픽: Protecting the well-being of users(2025)
• 앤트로픽: How people ask Claude for personal guidance(2026)
• 메리엄웹스터 사전: sycophancy
• 메리엄웹스터 사전: sycophant
• 메리엄웹스터 사전: sycophantic