NeurIPS 조직위원 3인의 Hot Recap

'AI 리더스 포럼:NeurIPS 2022 Recap’에서 발표하는 셀렉트스타 김세엽 대표

Q1 김세엽 셀렉트스타 대표: 인간과 인공지능의 접점이 많아지면서, 사회적 가치와 윤리적 관점에서 AI Fairness와 governance의 중요성이 부각되는 거 같습니다. 관련해서 갖고 계신 생각이나 솔루션에 대해 자유롭게 말씀해 주세요.

하정우 NAVER AI랩 소장: 기업 관점에서 보면 리스크 포인트라고 할 수 있죠. Fairness와 Governance에 대해 충분히 고민하지 않은 채 서비스를 제공하면 많은 사회적 문제와 비판에 직면하게 됩니다. 여러 기업이 해결책을 고민하고 있지만 아직 근본적인 솔루션에 접근하고 있는 단계는 아니라고 봅니다. 지금 수준에서는 발생하는 이슈 각각에 대해 대응하는 정도입니다.

관련해 ML(기계학습) 커뮤니티에서 조금 더 체계적인 방법론과 관점을 제시할 수 있게 된다면 굉장히 의미가 있을 것 같아요. 다행스럽게도 이전까지는 관련 연구들이 대부분 수학적인 관점 위주로 진행되어 왔다면, 요즘은 많이 실용적이고(Practical) 현실적인(Real-world) 문제에 접근하는 퀘스트들이 늘어나고 있는 흐름을 목격하고 있습니다. 기업 입장에서 봤을 때는 앞으로 점점 더 사용 가능하고, 더 맛있는, 더 필요한 것들이 많이 만들어지는 것 같다는 생각이 들기도 하네요.

안성진 KAIST 교수: 예를 들어 인공지능의 Fairness를 정확하게 하기 위해 ‘이 모델을 수정해서 페어(fair)하게 보이도록 만들어 보자’라는 것이 근본적인 솔루션은 아니거든요. 실제 인공지능이 공정히 학습할 수 있는 어떤 근본적인 메커니즘이라든가, 이론적인 접근을 고민해 볼 때 이제는 Correlation(상관관계)이 아니라 Causality(인과 관계)를 찾아야 한다고 봅니다. 실제 결과를 보고, 그것이 어떤 원인에 의해서 도출된 결과인지 설명 가능해지면 Fairness 문제가 기술적으로는 많이 해결될 수 있지 않겠느냐는 생각을 합니다.

그런 Causality에 대한 연구가 이전부터 있긴 했지만 주목받기 시작한 건 최근 2~3년 동안인데요, 이에 대해 많이 말씀하시는 분 중에 한 분이죠. UCLA의 주디어 펄(Judea Pearl) 교수. 그분은 딥러닝이 여전히 그냥 커브 피팅(Curve fitting)한다고 강력하게 얘기하시거든요. 저 또한 GPT, ChatGPT 등이 ‘여전히 커브 피팅하고 있냐 아니냐’를 따져보라고 하면, 명확하게 아니라고는 얘기를 못 할 거 같거든요. 그래서 앞으로 커브 피팅이 아니라 Casuality한 관계를 잘 모델링할 수 있다면, 그 이면에서 학습하는 것으로부터 Fairness 문제를 해결할 수 있는 실마리도 찾을 수 있지 않을까 생각해 봅니다.

오혜연 KAIST 교수: 저는 Fairness라는 문제 자체가 사실은 AI 전체 분야에서 우리가 항상 궁금해 오던 물음들을 다 포괄하고 있다고 생각해요. Model-Centric, Data-Centric, Interaction-Centric 이 세 가지를 종합해 봤을 때 과연 지금 우리가 활용하고 있는 모델로 Fairness 문제들을 풀 수 있을까? 저는 아니라고 봐요. 왜냐하면 지금껏 AI 모델은 굉장히 General preference를 만들어 오는 방향으로 발전해왔는데 사실 그런 속성의, 어떤 범용적인 Fairness라는 것은 존재하지 않거든요.

인터랙션(interaction)도 너무나 중요하죠. 사실 사람은, 모든 사람이 bias(편향, 편견)을 가지고 있잖아요. 하지만 우리는 대화할 때 어느 정도 bias를 가지고 있어도 상대에 따라 자체 필터링을 한단 말이에요. 이전까지의 언어 모델들은 그런 부분에서 부족했어요. 그래서 Fairness의 문제와 그것이 던지는 질문들은 모델·데이터·인터랙션 모든 관점에서 상당히 밀접하게 얽혀 있는(relevant) 듯합니다.

Q2 김세엽 셀렉트스타 대표: 글로벌 경제 위기에 대한 우려가 커지면서, 기술이 창출하는 경제적 가치에 대한 기대 또한 높아지고 있습니다. AI 산업이 시대·경제적 임팩트를 더 크게 내기 위해 어떤 부분을 더 고민해야 할지 말씀 부탁드립니다.

오혜연 KAIST 교수: 경제와 AI에 관해 이야기하자면 가장 먼저 ‘일자리가 어떻게 바뀌고 또 사라질 것인가’에 대한 이야기, 그다음으로는 생산성 혁신과 국가 경쟁력에 대한 이야기를 할 수 있을 것 같아요. 먼저 일자리 관련해서 AI는, 사람을 대체한다기보다는 사람이 활용하는 도구(Tool)로써 인간 생산성을 혁신할 수 있게끔 기획되어야 할 듯합니다. 그러한 과정에서 특정 포지션과 특정 업무는 없어질 수 있겠죠.

ChatGPT를를 보면서 우리가 딱 느끼는 게 그거잖아요, 처음에는 ‘AI가 정말 우리의, 나의 직업을 어떻게 바꿀 것인가’ 하며 위기감을 느끼다가, 부족한 점을 점점 발견하면서 ‘아직은 우리 사람을 완벽히 대체하지는 못하겠구나’라고 여기게 되는 거 같아요. 그렇기 때문에 이후로는 자연스럽게 ‘AI를 활용해 어떻게 내가 하는 일을 더 잘할 수 있을까’라는 고민이 이어지는 거 같고요.

안성진 KAIST 교수: 저는 크게 보면 타임 스케일(Time scale)의 문제와 리소스를 어떻게 배분할 것이냐의 문제인 것 같습니다. 예를 들면 지금 경제가 안 좋아서 우리가 너무 단기적인(Short-term) 경제 이익에 집중하다 보면 장기적(Long-term) 관점에서 어떤 원동력을 잃을 수도 있으니까요.

우리나라가 패스트 팔로어(Fast follower)라고 할까요? 선두 기업과 기술을 쫓아가는 일은 세계에서 제일 잘하는 것 같아요. 그렇게 다양한 기업이 만드는 좋은 서비스로 파이를 키우고, 그 파이를 잘 분배해서 숏텀 측면에서 소비하지 말고 보다 펀더멘탈한 투자와 교육이 이루어진다면, 10년 후에는 우리나라에서도 오픈 AI의 ChatGPT와 같이 혁신적인 서비스가 나올 거 같습니다.

하정우 NAVER AI랩 소장: 인터넷과 모바일이 처음 나왔을 때, 사람들이 새로운 기술을 보고 신기해하는 거로 그치지 않았어요. 인터넷 네트워크를 통해서 이커머스 산업이 발달하고, 온라인 광고 시장이 활성화되고, 그다음 온라인 콘텐츠 시장이 굉장히 커지게 됩니다. 아이폰이 나온 이후 앱스토어와 구글플레이 등 모바일 생태계가 만들어졌듯이, ChatGPT와 같은 초거대 AI를 중심으로 이전까지와 완전히 다른, 새로운 생태계가 생기고 있는 것 같습니다. 좀 뜯어보면 아직 갈 길이 멀지만요.

다행스러운 점은 지금 미국의 OPEN AI나 마이크로소프트, 구글 중심으로 이런 변화와 혁신이 시작한 지 오래되지 않은 상황에서, 우리나라도 저희 회사(네이버)뿐 아니라 KT, LG와 같은 기업들이 AI를 만들어서 API를 제공하고, 그 API를 통해서 많은 스타트업들이 새로운 비즈니스를 만들고 있다는 점입니다.

사실 정부에서도 AI 생태계 활성화를 위해 제도적으로나 예산적으로나 지원할 수 있는 부분들을 찾고 있는 상황입니다. 이렇듯 민관이 협력해서 새로운 기회를 창출하려 한다는 점은 어쩌면 (우리나라가) 글로벌 관점에서 봐도 굉장히 파이오니어(pioneer) 수준에 가까운 거 같아요.

안성진 교수님 말씀하셨다시피 우리가 패스트 팔로우는 정말 잘하는데, 결국 퍼스트 무버(First mover)가 되려면 계속 시행착오를 해야 해요. 먼저 이 시행을 해야 착오가 생기잖아요? 그 ‘시행’에 두려움이 생기지 않도록 하는 게 중요한 것 같습니다. 정부도 그렇고 사회도 그렇고 계속된 시도를 장려(encourage)하는 환경을 만들어 나가는 게 중요하지 않을까 하는 생각을 하고 있습니다.

Q3 김세엽 셀렉트스타 대표: 마지막 질문입니다. 뉴립스 키노트에서 알 수 있다시피 지각(Sentient) 있는 인공지능, 의식(Consciousness) 있는 인공지능에 대한 관심도 상당히 큽니다. 사람처럼 자아를 가진 인공지능이 구현 가능하다고 보시는지 궁금합니다.

하정우 NAVER AI랩 소장: 저는 약간 실리주의자이기도 하고, 철학이나 인지과학 분야는 상대적으로 알못이다 보니까 약간 비관론에 가깝습니다. 하지만 먼저 단순히 ‘된다 아니다’를 떠나서 조금 더 체계적으로 분석 혹은 연구하기 위한 사전 작업이 필요하다고 생각을 해요.

AI는 상당히 명확하지 않습니까? 평가 프로토콜과 평가 데이터셋을 만든 다음 수치에 기반해 검증하는 방식인데, 일단 Consciousness도 그렇게 할 수 있는지가 첫 번째. 만약 그렇게 할 수 있다면 해당 프로토콜과 평가 방법이 적절한지, 그것도 또한 검증하는 게 두 번째. 그런데 현시점에서 이에 대한 연구 및 이론이 잘 정리되어 있냐고 물으면 제가 볼 때 아닌 것 같거든요.

그런 맥락에서 AI가 Consciousness를 가지고 있다 아니다를 논하는 게 과연 어느 정도의, 어떤 타당성 갖는가는 약간 물음표입니다. 하지만 연구 관점에서 보면 당연히 지향해야 할 방향인 건 맞는 것 같습니다. 특히 OPEN AI, 딥마인드 같은 회사는 그렇게 좀 나가려고 하는 것 같아요. 요즘에 일리야 서츠케버 (Ilya Sutskever)가 그런 떡밥을 던지고 있는데 이런 부분들이 먼저 조금 정리가 됐으면 좋겠다는 생각입니다.

안성진 KAIST 교수: 먼저 ‘Consciousness가 무엇인지’에 대한 정리가 제대로 돼야 될 것 같은데요, 제가 알기로는 여러 이론이 나오고 있지만 아직 신경과학(Neuroscience)적으로 합의된 중론은 없습니다. 두 번째는 우리가 ‘과연 AI에게 Consciousness를 요구하는가’에 대한 지점 같아요. 자의식이 있는 인공지능과 대화를 한다는 게 재밌을 것 같긴 하지만, 여러 가지 리스크가 있기도 하고요. AI를 활용해 인류를 이롭게 하는 과정에서 Consciousness가 꼭 필요한 요소(Factor)인지도 고려해볼 점이라는 맥락입니다.

그런 관점에서는 오히려 저는 Consciousness를 추구하는 것보다 예방하는 쪽으로의 연구가 더 중요할 수도 있겠다는 생각도 해 봅니다. 아직은 우리의 친구 같은 AI보다는, AI를 인류의 도움이 되는 툴로써 바라보는 게 중요한 시점 같아요.

오혜연 KAIST 교수: 먼저 ‘Consciousness를 가진 AI가 가능할까?’에 대해 답하자면, 그와 관련해 데이빗 샬머스(david chalmers)는 ‘Yes or No의 문제는 아니다’라고 하셨어요. 너무 당연한 답이지만(Consciousness의 정의 및 수준에 따라) 스펙트럼이 있고, 그 스펙트럼 또한 여러 가지 디멘션에서 볼 수 있겠죠. 디멘션 중 하나는 바이올로지(biology)에요. AI가 몸이라는 게 없는데, 혹은 몸이 있더라고 해도 동물의 피부와는 다소 다를 테니까.

이렇듯 여러 가지 관점에서 봤을 때 정말 의식을 가진 AI가 어느 정도 10년, 20년 뒤에는 어느 정도 발전을 하지 않았겠느냐는 생각이 들어요. 2032년 뉴립스 워크샵에는 ‘어떻게 나의 AI 프렌드와 잘 지낼 것인가’ ‘AI 친구(Companion)를 가족으로 받아들일 것인가’ 그런 얘기들이 나올 것 같아요(웃음).

AI가 의식을 가짐으로써 생기는 리스크도 굉장히 크죠. 영화 터미네이터로 연상되는 그런 위험들이 있을 수도 있어요. 다만 우리가 AI를 활용해 생산성 혁신이나 어떤 초지능을 구현하는 것도 중요하지만, 사람의 지능(Intelligence)을 이해하는 것도 주목적 중 하나잖아요, 그래서 저는 언젠가 그런 날이 올 거로 생각합니다. 그때 우리의 사회 정책이나 인문학적인 고민이 충분히 마련되어 있어야겠죠.

김세엽 셀렉트스타 대표: 오늘 귀한 시간과 혜안을 내어주신 세분 위원님들께 감사드립니다.

* 세분 연사님들의 강연 영상은 온라인 사전 신청해주신 여러분께만 전달 되었습니다.

** 세분 연사님들의 발표자료는 DATUMO FST 알파테스트에 최종 선정되신 분에 한해 공개범위를 조율한 ver.으로 전달드릴 예정입니다.

세계 최고 AI NeurIPS를 이끈 국내 연구진

"세계최고 AI학회 '뉴립스'서 한국 위상 높아져"

세계 최고 AI 학회 중 하나인 NeurIPS가 12월 초 미국 뉴올리언스에서 개최됐습니다. 세계 최고 학회에 국내 교수진과 기업 임원들이 위원장으로 초대되어 AI 분야에서 한국의 위상이 높아진 것을 확인할 수 있습니다. 

ChatGPT 개발한 OpenAI, 매출 1조 원이 목표

향후 구글 검색엔진의 경쟁상대가 될 수 있다는 기대도

ChatGPT 열풍에 힘입어 OpenAI가 2024년까지 매출 10억 달러, 한화 기준 약 1.3조 원 매출을 목표로 세웠습니다. GPT-3와 DALL-E 등을 개발하며 기술력을 인정 받은 한편, 일각에서는 사업성이 고평가 되어 있다는 비판도 있습니다.

신한은행, AI 이상행동탐지 ATM 도입

이상금융거래 연계 피해 예방 시스템 강화

신한은행은 보이스피싱 등 ATM에서 이상행동을 보일 경우 탐지하여 주의 문구를 안내하는 서비스를 도입하였습니다. 모자나 선글라스를 끼고, 이용 중 계속 통화하는 등의 행동이 이상행동에 포함됩니다. 실제로 시범 도입 시 사고 접수 수가 줄어든 효과가 나타났습니다.

행안부, AI 분석을 통해 사고 예방한다?

CCTV·드론 영상 AI로 분석해 압사사고 막는다

 행정안전부는 앞으로 5년간 해결해야 할 재난안전 문제와 함께 이를 방지하기 위한 연구 개발 계획을 발표했습니다. 압사사고 재발 방지를 위해 실시간 AI 인파사고 위험분석 기술 개발과 도심 침수 문제와 관련하여 침수 예방 관리 기술 개발 등이 포함되어 있습니다. 그런데 도심, 특히 서울의 경우 대부분의 지역이 드론 금지 구역이라 뻔한 탁상공론이라는 지적도 있습니다.