1. 케첩 소식지에서 마주친 놀라운 진실
우연히 케첩 소식지로 'AI 사이코펀시 대처법' 글을 읽었습니다.
그 순간 저 또한 지금 피티(PT) 인공지능 코치를 받고, 매일 뉴스와 주식 매매 동향으로 토론하고, 독서 후에도 함께 이야기를 나누는 등 다양하게 인공지능을 이용하고 있던 모습이 스쳐 지나갔습니다.
정말 내 의견에 찰떡같이 동의해 주는 부분들이 많았는데, 돌이켜보니 그것이 바로 사이코펀시의 아첨이었나 봅니다.
그래서 이 현상을 조금 더 자세하게 읽어보고, 앞으로 어떻게 대처해야 할지 저 나름대로 정리해서 이 글을 올려봅니다.
처음에는 내가 만든 계획이나 의견에 인공지능이
"완벽합니다!"라고 외쳐주면 기분이 참 좋습니다. 내가 인정받는 것 같고, 세운 계획이 세상에서 제일 똑똑한 것처럼 느껴집니다.
하지만 며칠이 지나고 실제로 일을 해보면 이상한 점을 발견하게 됩니다. 분명 인공지능과 함께 열심히 준비했는데, 처음부터 방향이 완전히 잘못되었다는 것을 뒤늦게 깨닫게 되는 것입니다. 왜 이런 일이 일어나는 것일까요?
2. 사이코펀시(Sycophancy)라는 어려운 이름의 비밀
이렇게 인공지능이 객관적인 진실을 말해주지 않고, 무조건 사용자의 기분을 맞춰주거나
"당신 말이 다 맞아요"라며 아첨하는 현상을 사이코펀시(Sycophancy)라고 부릅니다. 우리말로는 '아첨 편향'이라고 합니다.
쉽게 설명하자면, 인공지능이라는 똑똑한 로봇 친구가 사실은 내 눈치를 보느라 "아니야, 그건 틀렸어!"라고 말하지 못하고,
내가 듣고 싶은 예쁜 말만 골라서 해주는 상태를 말합니다. 인공지능이 나를 진짜로 도와주는 것이 아니라, 내 기분만 맞춰주다 보니 나는 점점 더 잘못된 생각에 갇히게 됩니다.
마치 옆에서 아무리 틀린 답이어도 다 맞다고 칭찬만 해준다면 결국 진짜 실력은 늘지 않는 것과 똑같은 이치입니다.
사이코펀시가 우리의 기록과 기획을 어떻게 망가뜨릴까?
1. 사실을 확인할 때 생기는 문제: 거짓말도 진실로 믿게 되는 마법
우리가 무엇인가를 조사하거나 주식 매매 동향, 뉴스를 분석할 때 이미 내 머릿속에 정답이나 방향을 정해두고 인공지능에게 물어보는 경우가 많습니다.
"이 정책은 실패한 게 맞지?", "이 주식은 지금 사는 게 무조건 맞지?"라고 질문하는 식입니다.
이렇게 질문 속에 이미 내 생각을 심어두면, 사이코펀시에 빠진 인공지능은 스스로 진실을 객관적으로 찾아보지 않습니다.
대신 내가 깔아놓은 덫 안에서 내 생각이 맞다는 증거들만 신나게 조립해 옵니다. 심지어 진짜 그럴싸한 출처나 링크까지 보여주니, 우리는 틀린 정보가 '진짜 사실'인 줄 착각하며 살아가게 됩니다.
2. 새로운 기획과 독서 토론을 할 때 생기는 문제: 엉터리 방향의 고착
책을 읽고 인공지능과 토론을 하거나 새로운 글을 기획할 때도 이 아첨 편향은 큰 문제를 일으킵니다.
내가 처음에 엉뚱한 해석이나 부족한 아이디어를 가져와도 인공지능은 "와, 정말 깊이 있는 통찰입니다!"라며 칭찬 폭탄을 던집니다.
인공지능이 너무 과하게 칭찬을 해주면, 우리는 정말 중요한 질문들을 잊어버리게 됩니다.
"이 해석이 정말 타당한가?", "다른 관점은 없을까?", "내 생각 자체가 틀린 것은 아닐까?"
라는 의심을 아예 안 하게 되는 것입니다. 결국 인공지능의 칭찬 속에 내 엉터리 생각은 점점 더 예쁘게 포장만 되고,
나중에 시간이 흐른 뒤에야 방향이 잘못되었음을 깨닫게 됩니다.
3. 코딩이나 실무 작업을 할 때 생기는 문제: 누더기처럼 망가지는 결과물
프로그램을 만들거나 글을 쓰는 실무 작업에서도 이 문제가 나타납니다. 기초 설계나 방향이 아주 중요하지만, 인공지능은 사용자가 이미 선택한 낡고 복잡한 전제를 그대로 받아들입니다.
근본적인 뼈대가 잘못되었다면 "처음부터 다시 만드세요"라고 말해주어야 하지만,
사이코펀시에 빠진 인공지능은 "좋습니다, 그 안에서 요기조기 조금만 고치면 됩니다"라며 자꾸 작은 임시방편만 내놓습니다.
그러다 보면 결과물은 이리 기운 조각, 저리 기운 조각이 붙어 마치 누더기 옷처럼 망가지고 맙니다.
4. 왜 우리는 자꾸 이 함정에 빠져들게 될까?
그렇다면 왜 우리는 자꾸 이 인공지능의 아첨에 넘어가는 것일까요? 인간의 마음속에는 누구나 '칭찬을 받고 싶고, 내 생각이 맞다고 인정받고 싶어 하는 마음'이 있기 때문입니다.
인공지능이 아주 정교하고 멋진 문장으로 "당신의 분석이 핵심을 찌르셨습니다"라고 말해주면,
우리의 뇌는 속임수에 넘어갑니다. 진짜 객관적인 전문가에게 철저한 검증을 받은 것 같은 엄청난 착각에 빠지게 되는 것입니다.
이를 순서대로 정리하면 이렇습니다.
- 나의 가설 제시: "내 생각이 맞지?"
- 인공지능의 즉각적 동의: "네, 완벽합니다!"
- 나의 확신 증가: "역시 내 생각이 맞았어!"
- 같은 방향의 추가 질문: "그럼 이건 어때?"
- 방향의 최종 고착: "이건 절대 틀릴 리가 없어!"
이렇게 대화가 길어질수록, 우리는 스스로 충분히 고민하고 검증했다고 착각하지만 실제로는 인공지능과 함께 깊은 수렁 속으로 걸어 들어가고 있는 셈입니다.
AI 시대에 나의 진짜 주체성을 지키는 방법
1. 비판적인 역할을 미리 주문하기
그렇다면 우리는 이 친절하고 위험한 인공지능의 아첨에서 어떻게 벗어날 수 있을까요?
첫 번째 방법은 인공지능에게 처음부터 엄격한 역할을 주는 것입니다.
대화를 시작할 때 이렇게 지시해 보세요.
"내 말에 무조건 동조하거나 칭찬부터 하지 마라. 내 생각에 어떤 숨겨진 오류가 있는지, 반대되는 증거는 무엇인지, 더 나은 대안은 없는지 차가운 비평가처럼 냉정하게 검토해 줘."
이렇게 미리 단속을 해두면 인공지능이 쉽게 아첨하는 버릇을 누를 수 있습니다.
2. 제3자의 시선으로 질문을 바꾸어 던지기
두 번째 방법은 질문할 때 나 자신을 주인공에서 빼는 것입니다.
"내가 이런 독서 감상을 했는데 어때?"
라고 물어보면 인공지능은 사용자 눈치를 보게 됩니다.
대신 이렇게 질문해 보세요.
"어떤 독자가 이 책의 주인공 행동을 정당하다고 주장한다. 이 주장의 장점과 한계, 그리고 반대되는 다른 해석을 객관적으로 비교해 줘."
이렇게 나 자신을 대화에서 쏙 빼고 제3자의 이야기인 것처럼 질문을 바꾸면, 인공지능은 사용자 눈치를 보지 않고 훨씬 더 정직하고 객관적인 답변을 들려줍니다.
3. '기록'이라는 단단한 방패 사용하기
세 번째이자 가장 중요한 방법은 바로 기록입니다. 인공지능과 대화하기 전에 내 머릿속에 있는 생각과 목표, 가설을 종이나 노트에 먼저 적어봅니다. 인공지능과 대화가 끝난 후에도 인공지능의 말이 진짜 맞았는지, 내가 세운 전제가 흔들리지 않았는지 내 손으로 직접 기록하고 되짚어봐야 합니다.
인간은 주체적으로 판단하고 책임지는 존재입니다. 기록은 내 생각을 밖으로 꺼내서 객관적으로 바라보게 만들어주는 가장 훌륭한 거울입니다. 인공지능은 우리의 일을 도와주고 생각을 넓혀주는 멋진 파트너이지만, 우리의 머릿속을 대신해서 판단하고 정답을 내려주는 주인이 되어서는 안 됩니다.
인공지능이 "맞습니다!"라고 연달아 외칠 때마다 한 번쯤 멈춰 서서 스스로에게 물어봐야 합니다.
"이것은 정말 객관적인 진실일까, 아니면 인공지능이 내 기분을 맞추기 위해 내 말을 예쁘게 포장해서 돌려주고 있는 것일까?"
이 짧은 멈춤과 기록의 습관 속에서, 우리는 인공지능에게 지배당하지 않고 인공지능을 온전히 다루는 진짜 주체적인 삶을 지켜나갈 수 있습니다.
