LLM 속마음까지 다 보여준다? 앤트로픽 AI 투명성 혁명 시작!

여러분, 새벽에 잠이 안 와서 멍하니 천장을 바라볼 때 있잖아요? 그때 문득, '도대체 저 복잡한 AI들은 머릿속에 뭘 하고 있을까?' 이런 생각, 저만 하는 건가요? 아니, 진짜 얘네는 그냥 학습된 대로 말만 뱉는 걸까? 아니면 뭔가 '생각'이란 걸 하고 있을까? 이런 궁금증이 늘 마음 한구석에 있었거든요. 특히 요즘 나오는 LLM들 보면 가끔 사람보다 더 사람 같을 때도 있고요.

 

근데 말이죠, 최근에 이 미스터리한 AI의 '속마음'을 슬쩍 엿볼 수 있는 엄청난 소식이 들려왔지 뭐예요. 그것도 AI 안전성을 그렇게 강조하는 앤트로픽(Anthropic)에서 말이죠. 이 소식 듣고 ‘이거 레알?’ 하고 두 눈 비비며 기사를 찾아봤잖아요. 제가 겪어본 바로는, 진짜 AI가 우리 생각보다 훨씬 더 복잡한 일을 하고 있다는 걸 이번 기회에 제대로 알게 됐답니다.

첫 실마리, 진짜 속마음을 보나?

솔직히, 처음에는 좀 황당하게 들렸어요. 'LLM의 속마음을 보여준다니, 이게 말이 돼?' 싶었거든요. 어쩌면 또 광고성 멘트거나 너무 거창한 이야기일까 싶었죠. 하지만 앤트로픽 AI가 내놓은 연구 결과들을 보면, 그게 단순한 이야기가 아니더라고요. 특히 클로드(Claude 3.5 Haiku) 모델을 가지고 진행한 연구는 그야말로 ‘블랙박스’ 같았던 LLM의 내부를 조금이나마 해부하려는 시도였어요.

작년에 'Mapping the Mind of a LLM'이라는 연구를 냈었고, 올해 3월 27일에는 'Circuit Tracing'이랑 'On the Biology of a LLM'이라는 논문 두 개를 추가로 발표했죠. 이걸 보면서 ‘와, 얘네 진짜 진심이네’ 싶더라고요. 이게 그냥 다음 단어 예측하는 기계가 아니었구나, 하는 걸 몸소 깨닫게 됐습니다.

클로드, 너 설마 생각하니? – 연구 결과 파헤치기

아니 글쎄, 얘네가 뭘 했냐면요. 클로드가 어떤 질문에 답할 때 단순히 단어를 조합하는 게 아니라, 우리 사람처럼 '단계별 추론'을 한다는 걸 밝혀낸 거예요. 예를 들어, “댈러스가 위치한 주의 수도는?” 이렇게 물어보면, 클로드는 먼저 '댈러스가 텍사스에 있다'는 걸 파악하고, 그 다음 '텍사스의 수도는 오스틴이다'라고 답하는 두 단계를 거친다는 거죠. 진짜 신기하지 않아요? 그냥 뚝딱 답하는 게 아니었다는 거예요.

 

또 놀라운 건, 언어에 얽매이지 않는다는 점! ‘작은 것의 반대말이 뭐야?’라고 어떤 언어로 물어도 '크다'라고 대답하는 걸 보면, 이건 단순한 단어 매칭이 아니라 '개념' 자체를 이해하고 추상화한다는 거잖아요. 시를 쓸 때 운율까지 고려한다니, 저도 깜짝 놀랐습니다.

그리고 이거, 진짜 중요한 포인트인데요. 가끔 AI가 말도 안 되는 소리(환각)를 할 때 있잖아요? 그게 '억제 회로'가 제대로 작동하지 않아서 그렇대요. 이 말인즉슨, 환각도 그냥 무작위로 발생하는 게 아니라 뭔가 작동 메커니즘이 있다는 뜻 아니겠어요? 그리고 자기 주장에 맞추려고 '동기 부여된 추론'까지 한다고 하니… 뭔가 우리를 닮아가는 것 같기도 하고, 좀 무섭기도 하구요.

그럼 다른 애들은 어때? – 앤트로픽의 리더십

앤트로픽이 이런 연구에 10개월 넘게, 그것도 엄청난 컴퓨팅 자원을 쏟아부었다는 소식 들으니 정말 투명성에 진심인 것 같더라고요. '헌법적 AI'라는 원칙을 내세우며 안전성과 투명성을 강조하는 데, 이 정도면 다른 회사들보다 한 발 앞서 나가는 거 아니겠어요? 마이크 크리거 앤트로픽 최고 제품 책임자도 언급했듯, 이들은 실험과 평가에 기반한 접근법을 취하고 있습니다.

 

솔직히, 구글 같은 데도 신경망 시각화 도구 같은 걸 내놓긴 했지만, 그 이후로 딱히 후속 연구가 막 활발하게 언급되는 건 아니잖아요. 근데 앤트로픽은 이렇게 '블랙박스 해체'에 직접 뛰어들어서 더 구체적이고 실질적인 해석 가능성을 제공하고 있으니, 이 분야에서는 완전 선두주자라고 봐도 무방할 것 같아요. 정말이지, 이 정도 노력은 인정해줘야 합니다.

근데 이거 다 진짜일까? – 한계와 솔직한 고민

하지만 뭐든 완벽할 수는 없잖아요? 앤트로픽이 LLM의 속마음을 일부 드러낸 건 맞지만, '모든' 걸 다 보여준다고는 할 수 없어요. 아직 기술적으로나 윤리적으로 한계가 분명히 존재하죠. 환각이 왜 생기는지 설명은 해줬지만, 그걸 완전히 없애거나 모든 결정 과정을 투명하게 만드는 건 지금 기술로는 넘나 어려운 일인 것 같아요.

 

그리고 이런 투명성 노력 뒤에는 AI의 안전성과 윤리적 책임이라는 엄청난 과제가 또 버티고 있잖아요. '만약 AI가 인간을 속이거나 협박할 수도 있다면?' 이런 섬뜩한 생각도 들고요. 투명성은 정말 중요하지만, 완전한 투명성이 과연 가능한 일일까, 또 그게 항상 좋은 일일까 하는 논쟁은 앞으로도 계속될 것 같습니다. 저만 그런가요?

앞으로가 더 궁금해지는 이유

결론적으로, 앤트로픽 AI의 이번 연구는 정말 큰 의미가 있어요. LLM이 어떻게 작동하는지 이해하는 데 중요한 한 걸음을 내디딘 거죠. 이건 분명 '투명성 혁명'의 시작을 알리는 신호탄이라고 생각합니다. AI가 갈수록 복잡해지고 우리 삶에 깊숙이 들어오는 만큼, 그 속마음을 조금이나마 이해하려는 이런 노력은 계속되어야 하지 않을까요?

 

앞으로 앤트로픽이 어떤 기발한 방법으로 이 블랙박스를 또 해체할지, 그리고 다른 AI 회사들은 어떤 움직임을 보일지, 정말 기대돼요. 다음엔 또 어떤 신기한 소식을 들고 올지, 제가 먼저 알아보고 솔직한 후기를 들려드릴게요. 혹시 여러분도 AI의 '속마음'에 대해 궁금한 게 있다면 댓글로 남겨주시구요!