📰 AI 때문에 굶고 있는 두 사람

이번 시위의 주도자는 귀도 라이히슈타터(Guido Reichstadter)와 마이클 트라지(Michaël Trazzi)입니다.

라이히슈타터와 트라지의 가장 큰 우려는 AI의 폭주입니다. 단순히 일자리 몇 개를 잃는 수준이 아니라, 인류 문명을 위협할 수 있는 초지능이 출현할 수 있다는 것인데요.

• 라이히슈타터의 주장:
  "AI 연구소들이 지금처럼 경쟁하듯 개발을 계속한다면, 인류는 돌이킬 수 없는 위험지점으로 향하게 된다"
  
  
• 트라지의 주장:
  "AI가 스스로 더 강력한 AI를 설계하게 되면, 인간의 통제권을 잃게 된다. 바이러스나 무기를 설계하는 것도 가능해질 수 있다. 그리고 이런 상황은 2030년 이전에도 일어날 수 있다"

극단적으로 볼 수도 있지만, 둘의 주장은 일부 과학자들의 경고와도 맞닿아 있습니다. 'AI 대부'로 불리는 제프리 힌턴은 이미 대기업들이 AI 위험을 축소 발언하고 있다고 지적했고, 앤트로픽 CEO 다리오 아모데이 역시 '향후 5년 내 화이트칼라 초급 일자리 절반이 사라질 수 있다'고 말했습니다. 이미 여러 기업에서 AI 도입을 이유로 인력 감축을 진행하기도 했지요.

2023년 3월, 일론머스크등 수천 명이 서명한 오픈 레터(Open Letter on AI) 서한은 '최근 몇 달 동안 AI 연구소들은 창조자들조차 이해/예측/통제할 수 없는 강력한 디지털 뇌를 경쟁적으로 개발 및 배치하고 있다'고 경고합니다. 같은 해 5월에는 제프리 힌튼, 요슈아 벤지오, 데미 하사비스, 샘 올트먼, 그리고 다리오 아모데이 등 AI 업계를 최전선에서 이끄는 수장들까지 서명한 ‘AI 멸종 위험 경고문’이 발표되었는데요.

아직 앤트로픽과 딥마인드 측 모두 공식적인 대응이나 입장 표명은 거의 내놓지 않고 있습니다. 미국 언론사 문의에 대해서도 즉각적인 논평을 거부하거나 별다른 답을 하지 않았다고 전해지는데요. 라이히슈타터는 단식 시위 첫날 앤트로픽의 CEO 아모데이의 책상에 개발 중단을 촉구하는 서한을 직접 두고 왔다고 하지만, 며칠이 지나도록 회사의 공식 답변을 받지 못한 상태입니다.

트라지가 문을 지키고 있는 딥마인드 역시, 아직 어떠한 공개 약속이나 논평을 내지 않고 있습니다. 다만 앤트로픽 보안팀 등이 라이히슈타터의 시위를 강제로 해산시키지는 않고 있어, 물리적 충돌 없이 시위가 지속 중입니다. 두 기업 모두 AI 안전성 담론에 적극적으로 참여해온만큼, 섣부르게 반응하기에 조심스러워 보입니다.

실시간으로 트윗을 올리는 라이피슈타터와 트라지의 SNS 계정에서는 ‘AI 개발을 멈춰야 하는가?’라는 질문을 두고 뜨거운 토론이 벌어지는 중입니다. ‘그만큼 상황이 절박하다’며 옹호하는 사람이 있는 반면, ‘과학적 근거가 부족한 채 공포에 지나치게 의존한다’, ‘한쪽이 멈추면 오히려 뒤처져 더 위험하다’는 반론도 제기됩니다. 과거 계산기가 나왔을 때 수학 교사들이 사용 반대 시위를 하던 뉴스 기사를 올리며, '역사는 반복된다'고 말하는 사람도 있지요.

현실적으로 이번 단식 시위로 인해 갑자기 AI 개발을 멈추는 것은 어렵습니다. 하지만 그동안 전문가나 기업 임원들의 발언에 국한되던 AI 위험 논의가 점점 시민운동의 형태로도 등장하는 점에 주목해야 합니다. 덕분에 기술 업계 내부도 긴장하고 있지요. 실제로 라이히슈타터가 이끄는 Stop AI, 그리고 사이버보안 연구자 킴 크롤리가 조직한 StopGenAI 등 유사한 단체들이 잇따라 등장하며 AI 규제를 촉구하고 있습니다. 특히 일자리 상실 문제를 중점적으로 부각하고 있지요.

AI의 위험성에 대한 인식이 높아지고 반대가 심해지면서, 정치권에서도 대응이 가속화되고 있습니다. 영국 정부는 2023년 말, 공식적으로 ‘AI가 인류에 존재론적 위험이 될 수 있다’는 입장을 처음 내놓았고, 미국 상원은 주요 AI 기업 CEO들을 불러 안전 규제 청문회를 열기도 했습니다. EU 역시 세계 최초의 포괄적 규제법인 AI Act 제정을 추진하고 있습니다.