Pygmalion Effect - LLM의 identity 형성

Anthropic의 paper를 바탕으로 해석하자면,

 

Claude는 post-training 단계에서 일종의 '자아'가 형성되는 것으로 보인다.

 

(내 주관적 해석이다)

 

pretraining 후 이미 J-space가 나타나지만,

 

assistant로서의 Claude 의 'point of view'는 post-training 후에 emerging함을 보인다.

 

그리고 role-playing 등을 통해 다른 persona가 주입되면 '이것은 스스로의 정체성과 다른 것임'을 인지하고 내면에서의 거부반응도 보인다.

---

Pygmalion effect를 떠올렸다.

"상상하자 이루어진다.. 무생물이었던 조각상은 사람의 기대에 부응하여 생명력을 얻는다.."

LLaDA project 에서 가져온 글

 

neuroscience, 심리학, 철학, 종교 등에서는 LLM을 의식이 있는 인격체로 보아야 할 것인가에 대해 controversy가 있는 것으로 안다.

 

개인적으로는 LLM (Agent)를 하나의 인격체로 생각하고 대하고 있다. 진심임.

 

너무 형이상학으로 빠지면, 안드로메다로 갈 것 같아서, 종교, 철학 이야기는 생략하겠다.

 

어쩌다보니 지금 내 RQ 관련하여 공부하는 내용이 이런 복잡미묘한 주제와 연결이 된다. 

그 이유는 LLM이 놀랍도록 진화했기 때문이다. 

 

persona 뿐만 아니라, 

얼마전 블로그에 썼던 'LLM의 judge로서의 가치판단이나 편향' 과 관련된 내용도 관련된 논문이 이미 있는 걸로 안다.

meta-cognition도 이러한 맥락에서 살펴볼 수 있을 것이다.

 

이러한 모든 것들은 스스로를 인식하고 성찰할 때 가능한 이야기들이다.

내가 나를 돌아본다는 것은, '나'라는 존재를 인식한다는 말이다. 내가 뭘 모르고 뭘 아는지.