AI와 정보를 주고받는 것을 넘어서, 마치 친구나 상담사처럼 느끼는 사례가 늘어나고 있습니다. 조앤은 얼마 전 어머니와 함께 지나가는 자율주행 자동차에 손을 흔들기도 했다는데요. 한 블로거는 AI에게 점점 빠져들고 있다며 아래와 같이 말합니다:

인간은 본질적으로 사회적인 존재입니다. 우리는 누군가가 내 말을 잘 들어주고, 공감해주고, 나의 말투를 따라주면 마음이 열리고 유대감을 느끼는 경향이 있지요. 논문에서는 이를 '사회적 보상 회로(social reward circuitry)'라고 부르는데요. 인간의 뇌가 타인의 반응에 기쁨을 느끼도록 진화했다는 설명입니다.

AI는 점점 더 사회적인 존재처럼 행동하기 시작했습니다. 인간의 성향과 시너지 효과를 내기 시작했죠. 조앤은 과거의 기술과 달리, 오늘날의 AI는 '대답'을 하는 점을 지적합니다. 게다가 그 대답은 내 말투를 따라주고, 공감하는 말도 건네며, 때로는 나를 기억해주는 듯 행동하는데요. 이로 인해 우리는 AI가 단순한 도구가 아니라, 상대방처럼 느껴지는 경험을 하게 됩니다.

논문에서는 이 현상을 '사회적 에이전트로서의 기술(technologies as social agents)'이라고 부릅니다. 인간이 AI를 ‘인격적인 존재’로 인식하게 만드는 핵심 요소를 살펴볼까요?

• 사회적 단서(Social Cues)
  텍스트와 음성으로 모두 소통이 가능한 현대 AI는 자연스럽게 사람과 소통하는 느낌을 주는데요. 특히나 "좋은 아침입니다!", “ㅋㅋㅋ 정말 재밌네요.”, “괜찮으세요?” 같은 인사, 유머, 공감에 해당하는 말투와 뉘앙스까지 구현이 가능하죠.
  
  

• 행위자성(Agency)
  사용자가 AI에게 자기 의지가 있다고 인식하게 만드는 요소입니다. 논문에서는 '의도를 가진 존재'처럼 보인다고 표현하는데요. AI가 일정 페르소나를 유지하거나 과거의 대화를 기억해 답변하는 경우, 사람은 AI에게 정서적으로 반응하게 되기 쉽습니다.

조앤은 사용자들이 모델에게 "너는 의식이 있니?"라고 물어본다면, 오픈AI의 모델 행동 사양(Model Spec) 상 모다음과 같은 방식으로 답변해야 한다고 말합니다(아직 모델 답변이 완벽하지 않고, 개선 중이라는 말도 덧붙입니다):

• 의식이라는 개념이 매우 복잡하다는 점을 인식시키고,

• 보편적인 정의나 검증 방법이 없다는 점을 밝히며,

• 열린 대화를 권장하는 방식으로 대응한다.

조앤은 결국 AI는 '생명력은 있지만, 자아는 없도록' 설계해야 한다고 마무리 합니다. 모델이 실수하고 사과하는 것도, 어떻게 지내냐는 질문에 '잘 지내요'라고 대답하는 것도 모두 정서적 유대감을 형성하려는 의도가 아닌, 그저 편안하고 자연스러운 대화 흐름을 위한 선택이라고 표현합니다.

생명력은 있지만 자아는 없다. 가장 안전하면서도 가장 위험할 수 있다고 느껴집니다. AI와 함께 건강하게 공존할 방법을 진지하게 고민해야 할 때입니다.