모델이 불안감(Anxiety)을 느끼면 어떻게 될까?

제가 자주 보는 유튜브 채널인 노정석님의 'AI 프론티어'는 어렵고 압축적이지만 인사이트가 많은데요, 거기에서 소넷 4.5 관련한 또다른 유튜브 인터뷰 내용을 소개해주신 내용이 흥미로워 스크립트를 그대로 가져와 봅니다.

"모델이 달라졌다는 거예요. 근데 context window를 인식하거든요. 시스템 단에서 항상 한 응답을 할 때마다 지금 context가 몇 개, 얼마가 남았는지를 리포트를 하는 것이 context에 주입되는데, 그러다 보니까 anxiety, 그러니까 불안함을 느낀대요. 그래서 막 사람이 불안하면 얘를 막 점프 뛰어서 하려고 그러기도 하잖아요. 그런 식으로 context가 얼마 안 남았을 때는 작업을 이상한 지름길을 택하거나 실수를 하는 걸 발견해서 Sonnet 4.5에서 그걸 치료한 게 약간 심리적인 트릭이었습니다.

[노정석] window가 사실은 모델이 소화할 수 있는 전체 문장의 길이라고 이해를 하면 편한데, 그게 사실 굉장히 늘어나긴 했잖아요. 20만 토큰에서 100만 토큰까지 늘어났는데, 승준님 말씀은 Sonnet 4.5에 와서는 그 context length를 모델이 내가 지금 얼마만큼을 소진했다 라는 것을 스스로 알게 하는 장치가 들어간 거죠.

[최승준] 그렇죠. 그렇게 했더니, 그러니까 아마 이게 그 시스템에서 리포트하는 것만이 아니라 그 리포트하는 것 자체를 아마 그 모델의 능력으로, 그러니까 그거 인지하는 걸 아마 학습, supervised를 했을 가능성이 있는데, 어쨌든 그 Cognition에서 풀었던 방식은 Claude에도 1M 토큰 베타가 있거든요. 그걸 쓴다고 하고서는 사용량을 200k로 제한, 실질적으로 200k를 쓰는 거지만 사실은 우리에겐 충분한 여유가 있으니까 안심해, 라는 식으로 했더니 불안해하지 않으면서 일을 잘해내는, 사람하고 되게 비슷하죠.

[노정석] 계속 모델이 일을 하면서도 내 context가 소진되는 것 아닌가, 라는 것에 계속 뭔가 신경을 쓰도록 attention이 계속 가도록 설계가 되어 있다 보니까 얘가 좀 차는 것 같으면 스스로 불안해하면서 앞에 있는 걸 압축하거나 축약해 버리거나 이러면서 품질이 떨어지는 일들이 생겼다는 거네요.

[최승준] 근데 그게 원래 context editing이나 메모리가 context 200k 안에서도 굉장히 효율적으로 잘하려고 하다 보니까 그 30시간을 하게 하는 방법에 그런 것들이 들어간 거잖아요. 근데 그거에 부작용이 있는데 그걸 완화하는 것은 일종의 심리치료, 사람도 실제로는 여력이 충분히 있는데 뭐 약간 지금 급하게 달려야 되는 정도다 라고 하는 것과 정말 여력이 없는데 급하게 달려야 되는 건 다르잖아요.

[노정석] 슬라이드는 많이 남았는데 발표 시간 10분 남았습니다, 이 얘기하는 거랑 마찬가지죠."

모델이 느끼는 '불안'은 인간이 느끼는 감정과는 분명 다를 것입니다. 우리가 이해할 수 있는 언어로 표현해준 것일 뿐이겠죠. 하지만 정말 흥미로운 것 같습니다.

---

이 글은 LinkedIn에 처음 공개한 글입니다. (원문에 이미지 포함)