📰 새로운 AI 디바이스와 챗봇의 미래

온-디바이스 AI / 오픈AI / 애플 / 삼성 / 챗봇

2023. 10. 10.

2023년 10월 2주차 셀렉트스타 뉴스레터

글: 권혁주 ㅣ 검수: 정인영

📰 새로운 AI 디바이스와 챗봇의 미래

6월 방한 대담 행사에 참여한 샘 올트먼. 출처. 소프트뱅크 벤처스 유튜브.

안녕하세요! 이어지는 연휴 동안 AI 업계에 많은 소식이 나왔습니다. 그중 제게는 ‘오픈AI에서 새로운 AI 하드웨어 개발에 나선다’는 소식이 가장 눈에 들어왔습니다.

9월 마지막 주 외신 보도를 종합해 보면 오픈AI CEO 샘 올트먼은 前 애플 최고 디자인 책임자 ‘조니 아이브’와 소프트뱅크 CEO ‘손정의’와 함께 'AI 시대 아이폰'을 발명하기 위한 10억 달러 규모의 프로젝트를 논의했습니다.

'CPND'라는 단어를 들어보셨나요? CPND는 콘텐츠(Contents)-플랫폼(Platform)-네트워크(Network)- 디바이스(Device)로 연결되는 산업 생태계를 뜻하는 IT 용어입니다. 각종 서비스와 콘텐츠, 클라우드 인프라가 활성화된 인공지능 시장에 이제는 디바이스 개발이 시작된 듯합니다.

가까운 미래 등장할 AI 전용 디바이스에는 현재 테크 기업들이 추구하고 있는 다양한 비전이 집약될 것으로 기대됩니다. 이번 레터에서는 AI 디바이스와 관련된 '온-디바이스 AI'와 '인터페이스'에 대해 간략히 다뤄보겠습니다.

애플 삼성 메타까지 '온-디바이스 AI'

5일(현지시간) 미국 샌프란시스코에서 개최된 ‘삼성 개발자 콘퍼런스 2023’에서 삼성전자 DX부문장 한종희 부회장이 기조연설을 하고 있다. 자료. 삼성전자 뉴스룸.

온-디바이스(On-device) AI는 이름 그대로 클라우드 서버를 거치지 않고 디바이스 내에서 자체 구현되는 인공지능입니다. 단말 기기 내부에서 정보를 처리하기 때문에 저지연 환경에서 빠른 작업이 가능하고, 중앙 서버를 통하지 않기에 대부분의 보안 문제도 해결할 수 있습니다. 새로운 AI 디바이스 또한 온-디바이스 서비스를 지원할 것으로 예상됩니다.

온-디바이스 AI 구현에 핵심 요소는 자체 AI 칩입니다. 지금도 많은 테크 기업들이 △실시간 AI 서비스를 위한 빠른 하드웨어 △제품 양산을 위한 안정적인 GPU 공급 확보 △디바이스 설계 최적화 등을 위해 자체 AI 칩을 개발하고 있습니다. 최근 1달 사이에도 주요 기업들은 자체 설계 칩과 온-디바이스 AI를 더불어 강조해 왔습니다.

먼저 애플은 9월 iOS 17을 공개하며 자체 칩 ‘애플 실리콘’에 기반한 온-디바이스 AI 기능(자동 수정 및 받아쓰기)을 소개했습니다. 마찬가지로 구글이 4일 공개한 최신 스마트폰 픽셀 8(Pixel 8)에는 맞춤형 실리콘 칩인 ‘텐서 G3’이 탑재됐으며, 삼성전자 또한 5일 연례 개발자 콘퍼런스(SDC)에서 AI 전략 키워드로 ‘온-디바이스 AI’를 꼽았습니다.

메타는 퀄컴과 함께 2024년 적용을 목표로 '라마2'를 온디바이스 AI로 제공할 예정입니다. 퀄컴 스냅드래곤 플랫폼에서 라마2를 지원해 스마트폰, PC, 태블릿, 자동차 등에서 인터넷 연결 없이도 AI 기반 서비스를 제공한다는 계획입니다.

그렇기에 최근 ‘오픈AI가 칩 제작을 위한 반도체 기업 인수를 준비하고 있다’는 추측성 기사에 힘이 실리기도 합니다. 로이터 통신은 5일(현지 시간) 해당 내용을 보도하며, 복수의 관계자가 “오픈AI는 적어도 지난해부터 고가의 AI 칩 부족 문제를 해결하기 위해 다양한 옵션을 논의했다”고 전했습니다.

'OpenAI가 자체 AI 칩 제작을 계획하고 있다'는 외신 보도. 자료. 로이터.

*테크 기업이 자체 AI 칩을 개발하는 이유

GPU가 AI 분야에 활용되기 시작한 이유는 인공 신경망(뉴럴 네트워크)의 행렬 연산을 여러 개의 단순한 곱셈으로 나누어 처리할 수 있기 때문입니다.

엔비디아는 쿠다(CUDA) 플랫폼을 통해 병렬 컴퓨팅과 프로그래밍을 지원하는 범용 AI 가속기 시장을 개척했는데, AI 알고리즘에 따라 병목 요소가 달라지기 때문에 목적에 맞는 전용 칩을 개발하면 더 높은 성능을 낼 수 있습니다. (구글 TPU, 테슬라 D1 등)

채팅 인터페이스를 넘어, AI 디바이스로

Apple Vision Pro. 자료. 애플 뉴스룸.

새로운 AI 디바이스가 갖출 신규 인터페이스에도 관심이 모입니다. 샘 올트먼은 “보다 자연스럽고 직관적인 사용자 경험을 위해 기기 개발에 나섰다”고 했는데, 이는 현재 채팅 인터페이스가 인공지능을 활용하기 위한 최적의 인터페이스가 아니라는 의미로 해석됩니다.

채팅 인터페이스의 단점으로는 △사용자가 질문을 명확하게 표현하지 않으면 인공지능을 제대로 활용하기 어렵다는 점 △시각 및 청각 정보를 활용하는 멀티 모달 입력 △단일 턴 대화(우리는 대화는 동안 여러 문장을 한 번에 보내기도 합니다) 등이 꼽히며, 이를 개선하기 위해 챗봇 서비스는 지속적으로 업데이트되고 있습니다.

ChatGPT 등 최근 챗봇은 사용자 편의를 위해 적절한 후속 질문을 미리 작성해 주고, 여러 답변 중 사용자가 적절한 하나를 선택하게 하고, 첨부 문서와 음성-이미지를 입출력으로 하는 멀티 모달 기능을 지원합니다.

이렇듯 누적된 개선과 함께 온-디바이스 환경에서 오롯이 개인을 위한 AI 서비스가 제공된다면 기술적으로는 보다 높은 수준의 개인화, 장기 기억, 실시간 피드백 기능이 지원될 것으로 예상됩니다.

애플은 아이 트래킹과 핸드 트래킹, 그리고 ‘꼬집기’를 통해 증강현실(AR) 디바이스를 구현했습니다. 언젠가 출시될 AI 디바이스도 실세계와 상호작용하기 위 혁신적인 인터페이스를 갖출 것으로 기대됩니다 :)

10월 2주 AI 뉴스 클리핑

함께 읽고 싶은 기사 모음

'한국형 LLM 순위' 만들기에 네이버·통신 3사 등 AI 대기업 동참ㅣAI 타임스

네이버, SK텔레콤, KT, LG AI 연구원 등 국내 대형언어모델(LLM) 기업이 셀렉트스타, 스캐터랩 등 인공지능(AI) 전문 스타트업과 컨소시엄을 꾸려 LLM 벤치마크 사업에 참가한다. 이들이 구축할 데이터셋은 한국형 LLM 리더보드에도 활용, 국내 LLM 붐에 일조할 전망이다.