💾 앤트로픽과 가장 안전한 챗봇 '클로드'

AI 헌법 / 앤트로픽 / 클로드 / SK텔레콤

2023. 8. 23.

2023년 8월 4주차 셀렉트스타 뉴스레터

글: 권혁주 ㅣ 검수: 정인영

앤트로픽과 안전한 챗봇 '클로드'

'신뢰할 수 있는 AI 시스템'을 강조하는 앤트로픽. 사진. 공식 홈페이지.

오늘은 화제 기업 앤트로픽 소식입니다. 앤트로픽은 2021년 다리오 아모데이와 다니엘라 아모데이 남매가 창업한 스타트업으로, 구글과 강력한 파트너십을 맺고 있습니다. 지난주에는 SK텔레콤으로부터 1억 달러 규모 투자를 유치했습니다.

앤트로픽은 대형언어모델(LLM) ‘클로드(Claude)’와 동명의 AI 챗봇 서비스를 제공하고 있습니다. 지난 7월에는 더욱 강화된 모델 '클로드 2'를 선보였습니다.

이번 레터에서는 앤트로픽 공동 창업자들과 챗봇 클로드, 파트너십에 대해 간략히 살펴보겠습니다 :)

공익 기업(Public Benefit Corporation) 앤트로픽

GPT 3 논문 ‘Language Models are Few-Shot Learners’ 저자 목록.
앤트로픽 공동 창업자 다리오 아모데이, 잭 클라크, 자레드 카플란 등이 포함돼 있다.

위키피디아에 따르면 앤트로픽 공동 창업자는 다리오 아모데이, 다니엘라 아모데이, 잭 클라크, 자레드 카플란 총 4명으로 이들 모두 오픈AI 출신입니다. CEO인 다리오 아모데이는 바이두, 구글을 거쳐 오픈AI 연구팀 부사장(Vice president of Research)을 역임했고, 여동생 다니엘라 아모데이는 오픈AI 안전 정책팀 부사장을 지냈습니다.

파이낸셜타임즈 보도에 따르면 아모데이 남매는 2019년에 오픈AI가 마이크로소프트로부터 10억 달러 투자를 받아 영리화되는 과정에서 의견 충돌로 퇴사하고 앤트로픽을 설립했습니다.

*오픈 AI는 2015년 비영리 인공지능 연구 회사로 출발했습니다. 하지만 2019년 컴퓨팅 자원 확보와 인력 유치를 위한 자금 조달 목적으로 자회사 OpenAI LP를 설립하고, 원래 법인을 OpenAI Nonprofit으로 명명했습니다.

현재 여러 기사와 블로그에서 언급되는 OpenAI는 대부분 ‘OpenAI LP’를 의미합니다. 단, OpenAI LP는 이윤 상한선이 정해져 있으며 그 금액을 초과하는 모든 수익은 비영리 단체인 OpenAI Nonprofit의 소유입니다

"But any returns beyond that amount are owned by the original OpenAI Nonprofit entity, 'OpenAI LP', 2019.03.11”

'Claude’s Constitution'

사진. 앤트로픽 공식 블로그.

이와 달리 현재 앤트로픽은 캘리포니아 소재 공익 기업(Public Benefit Corporation, PBC)으로 등록돼 있습니다. 미국 주(州)마다 관련 법은 다르지만, PBC는 기업 활동 목적을 주주가치 극대화로만 정의하지 않습니다. 공익 기업 제도는 기업이 수익 외에 다른 공익도 고려해야 함을 보장함으로써, 주주들이 주식 가치 하락을 해고나 회사에 대한 소송 증거로 사용하는 일을 방지합니다.

지난 5월에는 자사 AI 모델이 반드시 따라야 할 원칙 ‘클로드 헌법’을 공개했습니다. 원칙은 보다 높은 수준에서 AI 모델이 규범적인 행동을 취하도록 안내하기에 ‘헌법적(Constitutional)’이라는 용어가 사용됐습니다.

앤트로픽은 "클로드 헌법이 UN인권 선언과 Apple의 서비스 약관과 같은 글로벌 플랫폼 지침의 영향을 받아 만들어졌다"고 밝혔습니다.

AI 모델 '클로드 2'와 파트너십

앤트로픽 파트너 사 로고.

앤트로픽이 7월 공개한 ‘클로드 2’ 모델은 입출력 프롬프트 최대 토큰 수가 10만 개로 GPT-4-32K 모델(32,768개)의 약 3배입니다. 영어 기준으로 10만 토큰은 약 7만 5천 단어입니다. 이는 수백 페이지에 달하는 기술 문서나 심지어 책까지 한 번에 작업할 수 있다는 의미입니다. 현재 대부분 AI 기반 문서 번역 및 요약 서비스에서 문서 크기 제한을 강하게 두고 있다는 점을 고려하면, 사용자 입장에서 체감할 수 있는 분명한 장점이라고 생각됩니다.

토큰 수가 높다는 점은 보다 전문적인 작업을 수행하는 데도 유용합니다. AI 코드 플랫폼 Sourcegraph의 CEO이자 공동 창업자인 Quinn Slack은 “AI 코딩과 관련하여 개발자들은 자신의 고유한 코드베이스에 대한 컨텍스트에 빠르고 신뢰할 수 있는 접근이 필요하며, 큰 컨텍스트 윈도우와 강력한 일반 추론 능력을 갖춘 튼튼한 LLM이 필요합니다”라고 말했습니다

이미지. 앤트로픽 블로그.

앤트로픽은 '신뢰할 수 있는 AI'를 표방하며 기업과의 파트너십을 확장하고 있습니다. 주요 파트너는 슬랙(Slack), 노션(Notion), 줌(Zoom) 등 협업 솔루션 기업 입니다. 지난 2월에는 구글 클라우드 사업부가 앤트로픽에 3억 달러를 투자해, 지분 10% 확보하고 컴퓨팅 리소스를 공급했습니다.

이번 SK텔레콤과의 파트너십 내용에도 투자뿐 아니라 업무 협력이 포함되어 있습니다. 양 사는 통신 사업자를 위한 맞춤형 LLM 개발을 목적으로, 고객 서비스, 마케팅, 판매 및 대화식 소비자 응용 프로그램에 적용될 수 있는 다국어 모델을 개발할 예정입니다.

전체 사업 로드맵은 GPT-3 개발자이자 앤트로픽 공동 창업자인 자레드 카플란이 담당합니다. 두 회사가 공동 개발한 LLM은 앤트로픽의 클로드 모델과 함께 SK텔레콤을 통해 국내 기업에 제공될 계획입니다.

“We are pleased to announce that SK Telecom has become a commercial partner with Anthropic as well as a strategic investor, Antrophic”