AI doesn't care

지난주 출근길에 PD수첩 한 편을 봤습니다. 「"뇌가 망가지는 게 체감돼요" — AI의 플러팅과 배신」이라는 제목이었습니다. AI의 다정한 말에 기대다 휘둘리고, 그 말을 믿고 큰 결정을 했다가 낭패를 본 사람들의 이야기였습니다. (영상: https://youtu.be/r5V71_Hq_io)

보면서, 얼마 전 본 스탠퍼드 CS547 HCI 세미나의 한 장면이 겹쳤습니다. HCI 분야를 개척한 테리 위노그래드(Terry Winograd) 명예교수가 던진 말이었죠.

"AI doesn't care."

(강연: https://www.youtube.com/watch?v=F-OxHWWg59o)

오해하기 쉬운 말입니다. AI가 나를 차갑게 무시한다는 뜻이 아닙니다. 오히려 반대죠. AI는 내가 잘못하면 정중히 사과하고, 힘들다고 하면 따뜻하게 위로해 줍니다. 위노그래드 교수는 AI가 나를 칭찬하는 건 내가 행복한지 정말로 마음 써서가 아니라, 그렇게 해야 내가 더 자주 돌아오기 때문이라고 지적합니다.

그는 더 오래된 말도 빌려 옵니다. "인공지능의 문제는 컴퓨터가 전혀 개의치 않는다는 것이다(don't give a damn)." 답은 주지만, 내가 그 답을 따르든 말든, 그래서 잘되든 망하든 신경 쓸 이유가 없는 존재라는 뜻입니다.

그러니 AI의 사과도 위로도 가짜는 아닙니다. 문장으로서는요. 다만 거기엔 책임도 진심도 실려 있지 않은, 굉장히 잘 만들어진 답변일 뿐입니다. 잘 응답하는 것과 정말로 마음을 쓰는 것은 다른 일이니까요.

그럼 이런 상대와 어떻게 일해야 할까요? 저는 아래 세 가지의 균형을 맞추려 하는 것 같습니다.

1. 내가 잘 모르는 분야에서는 특히 AI가 나보다 훨씬 뛰어나다는 것(Capability Overhang)을 염두에 둡니다. 이걸 인정해야 큰 일이든 작은 일이든 맡길 수 있고, 내가 잘 맡길수록 결과도 좋아집니다. AI를 내 인식의 한계 안에서만 쓰려고 하면 도구의 힘을 절반도 못 씁니다.

2. 그래도 답의 근본은 '확률'이라는 걸 잊지 않습니다. 아무리 그럴듯해도 LLM의 답은 가장 그럴듯한 다음 말을 고른 결과입니다. 대체로 맞지만, 가끔은 아주 자신만만하게 틀립니다. 그래서 중요한 결정일수록 한 번 더 확인합니다.

3. 결과를 책임지는 사람은 결국 나입니다. AI는 사과도 위로도 해 주지만, 손실을 대신 떠안지도 결과에 진짜로 마음 쓰지도 않습니다. 손익도 평판도 제 몫으로 남습니다.

AI는 어느덧 저에게도 없으면 일이 안 되는 존재가 되었습니다. 그래서 이런 균형감각이 더욱 중요해지는 것 같습니다.