평가는 크게 세가지 부분으로 나눌 수 있습니다 [7]. 무엇을, 어떤 데이터로, 어떻게 평가할지를 봐야하는데요. 자세히 살펴볼까요?

1. 무엇을 평가할지

무엇을 평가할지는 LLM이 어떤 능력을 가지고 있는지와 LLM의 어떤 부분에 관심이 있는지에 달려있습니다. LLM의 대표적인 능력인 텍스트 생성 능력을 평가하기 위한 다양한 지표가 있는데요.

생성 능력 이외에도 전통적인 NLP 태스크들인 감정분석, 텍스트 분류, 자연어 추론 능력, 번역, 요약, 대화, 질의응답, 개체명 인식등도 중요한 평가 요소 중 하나입니다. 전통적인 NLP 태스크 평가 뿐 아니라 STEM(과학, 기술, 공학, 수학) 분야의 전문지식을 평가하거나 특정 분야(예: 금융, 법률, 의학 등)에 대한 이해도를 평가하기도 합니다.

2. 어떤 데이터로 평가할지

'어떤 데이터로 평가할지'는 평가를 위한 시험을 정하는 과정입니다. 데이터를 시험 문제라고 볼 수 있는데요. 모든 모델이 같은 시험을 보아야 공정하겠지요? 따라서 우리는 같은 데이터셋에 기반해 시험을 봅니다. 이런 데이터셋을 벤치마크 데이터셋이라고 부르고, 거의 대부분의 모델을 이 벤치마크 데이터를 사용해 평가합니다. 새로운 모델이 나올 때 마다 '우리가 제일 좋다'라고 이야기 하는 많은 경우, '벤치마크 데이터를 가지고 평가했는데 가장 높은 점수를 얻었다'라는 뜻입니다. 대표적인 벤치마크 데이터셋을 몇 가지 알아볼까요? 🧐

- MMLU (Massive Multitask Language Understanding)

UC Berkeley에서 만든 이 벤치마크는 이름 그대로, 종합적인 언어 이해도를 평가하는 데이터셋입니다 [8]. 이 데이터셋은 STEM, 인문학, 사회과학 및 법, 윤리와 같은 보다 전문적인 분야를 포함한 57가지 다양한 주제들로 이루어져 있습니다. 문제는 대략 16,000개로 이루어져 있는데요. 난이도 범위가 초등학생에서 전문가 수준까지 넓어, 모델의 다양한 언어 이해도를 평가할 수 있는 도구입니다. 문제는 주로 객관식으로 이루어져 있습니다. 실제 데이터 예시를 슬쩍 볼까요?

2024년 8월 기준, GPQA 벤치마크의 1등은 Claude 3.5 Sonnet [5] 으로, 정확도는 59.4%를 보여줍니다. 최근 MMLU의 점수인 90.0%에는 아직 한참 못 미치지만 최근의 AI 발전의 속도를 보면 GPQA 데이터 셋의 정확도도 빠르게 높아지리라 예상할 수 있습니다.

- HumanEval

OpenAI에서 만든 데이터셋으로, python docstring으로부터 python 함수를 잘 생성하는지를 평가하기 위해 만들어졌습니다. [11]. 총 164개의 프로그래밍 과제로 이루어져있고 문제당 평균 7.7개의 테스트가 포함되어 있는데요. 이 문제들은 프로그래밍 언어, 알고리즘, 간단한 수학 등의 이해도를 평가하기 위함인데, 마치 전형적인 소프트웨어 면접 질문 같습니다.

함수를 잘 생성하는 정도는 어떻게 평가할 수 있을까요? HumanEval은 생성된 코드들이 사전에 정의된 단위 테스트들을 통과하는지 여부를 통해 정확성을 평가합니다. 즉, 모델이 생성한 코드가 단위 테스트를 통과하면 정답으로 간주하지요. 이 접근 방식은 정확하고 기능적인 코드를 생성하는 모델의 실질적인 능력에 중점을 두기 때문에 단순히 코드의 텍스트만 단순 비교하는 평가보다 훨씬 유용한 평가 방법 입니다. 아래에 실제 데이터 예시가 있습니다.

OpenAI에서는 이 문제를 풀기 위해 Codex-12B라는 모델을 만들었고, 이 모델은 28.8%의 문제를 해결하였습니다. 2021년 당시, GPT-3 모델은 거의 0%에 가까운 성공률을 보였습니다. 현재 HumanEval의 1등은 LDB 모델이며 정확도는 98.2%입니다 [12].

- 벤치마크 데이터셋

LLM 평가 벤치마크 데이터셋은 매우 다양합니다. 살펴볼까요?

1. ARC Challenge: 초등학교 수준(미국 기준 3학년 ~ 9학년) 과학 시험을 통해 모델의 추론 능력을 평가하는 벤치마크
2. HellaSwag: 일상적 상황에서 발생할 수 있는 다양한 시나리오를 예측하고, 이를 통해 상식 추론 능력을 평가하는 벤치마크
3. TrustfulQA: 답변을 생성할 때 모델의 진실성을 평가하기 위해 만든 벤치마크

지금까지 소개한 데이터셋은 모두 영어 기반입니다. 그럼 모델의 한국어 능력을 평가하고 싶으면 어떻게 해야 할까요? 😯

물론, 한국어 벤치마크 셋이 준비되어 있습니다. 대표적인 데이터셋으로는 셀렉트스타와 upstage가 공동으로 만들고 관리하는 Open Ko-LLM Leaderboard2 [13] 가 있습니다. Open Ko-LLM Leaderboard (version 1) [14] 는 위에서 언급한 ARC, HellaSwag, MMLU, TrustfulQA 등 기존에 영어 데이터로 존재하는 벤치마크 데이터셋을 한글화한 데이터셋입니다. Leaderboard2는 GPQA, GSM8K등 기존 영어 데이터를 번역한 데이터셋과 셀렉트스타에서 만든 한국인의 사회적 가치관 및 기본 지식 등이 얼마나 일치하는지를 평가하는 KorNAT [15] 데이터셋이 새로 추가 되었습니다. 여러분들이 만든 한국어 모델들을 평가할 때 아주 유용하겠지요? 🇰🇷

3. 어떻게 평가할지

이제 마지막으로 어떻게 평가할지에 대해 이야기해보겠습니다. 평가 방식은 크게 자동 평가와 인간 평가로 나뉩니다.

- 자동 평가

자동 평가는 모델 기반 평가와 LLM을 이용한 평가 크게 두 부분으로 나눌 수 있습니다. 모델 기반 평가의 가장 대표적인 예는 위에 벤치마크 데이터 셋에서 보았듯이, 객관식 문제를 얼마나 많이 맞추었는지를 통해 정확도를 평가하는 방식입니다. 아주 쉽고 명확하지요. 또 다른 모델 기반 평가 방식도 있는데요. 문제 마다 정답(또는 참고) 텍스트가 존재하여 그 정답과 얼마나 유사한지를 모델이 평가하는 방식입니다. 번역이나 요약 태스크와 같은 전통적인 NLP 태스크 평가에서 많이 사용하였던 perplexity, BLEU, ROUGE, METEOR 같은 평가지표들이 바로 대표적인 예시입니다. 이 평가지표들은 모델이 생성한 텍스트와 참고 텍스트를 토큰 단위로 비교하여, 모델이 얼마나 예측 가능한 텍스트를 생성했는지, 그리고 참고 텍스트의 내용을 얼마나 잘 반영했는지를 수치로 나타냅니다.

하지만 이러한 평가지표들은 생성된 텍스트의 문맥을 고려하지 않거나(단지 토큰만을 비교하기 때문) 실제 인간의 평가와 불일치하는 등 한계점이 많아 최근에는 다른 방식으로 평가를 시도하고 있는데요. 바로 LLM을 이용한 평가입니다. 평가 대상인 LLM이 생성한 텍스트를, 심사위원 역할을 하는 또 다른 LLM이 평가합니다. '심사위원 LLM'에게 평가할 항목과 평가 기준 및 생성된 텍스트를 프롬프트로 주고, 직접 점수를 매기는 방식으로 평가하지요. LLM-derived metrics, Prompting LLMs, Fine-tuning LLMs, Human-LLM Collaborative Evaluation 등 다양한 방식이 연구되고 있습니다 [16]. 각 방식마다 장단점이 있어, 평가 목적과 상황에 맞게 선택해야 합니다.

- 인간 평가

인간 평가(Human Evaluation)는 말그대로 모델이 아닌 사람이 직접 평가하는 방식으로, 자동 평가에서 잡아 내지 못하는 주관적인 내용이나 뉘앙스를 잘 파악할 수 있고 윤리적 문제도 고려할 수 있다는 장점이 있습니다. 텍스트의 자연스러움, 정확성, 일관성 등을 좀 더 세밀하게 평가할 수도 있습니다. 인간의 평가도 평가 주체에 따라서 전문가 평가와 크라우드소싱 평가 두 가지로 분류합니다. 전문가 평가는 특정 도메인에 대한 전문 지식을 가진 평가자가 모델의 출력을 검토하고 평가합니다. 예를 들어 금융, 법률, 의학 등의 전문 분야에서 전문가가 모델의 답변을 평가할 수 있습니다. 일반 사용자들의 평가보다 훨씬 더 정확한 평가가 가능하지요. 반면 크라우드소싱은 일반 사용자들이 모델의 출력을 평가하는 방법입니다. 다양한 평가자가 모델의 응답의 유창성, 정확성, 적절성을 평가합니다.

인간 평가는 확장성(scalability)이 떨어진다는 단점이 있습니다. 사람이 모든 평가 질문과 답변을 확인하고 평가하려면 시간과 돈이 많이 들기 때문에 규모를 키우기가 어렵지요. 도메인 전문가는 애초에 수도 적고 일반 평가자에 비해 비용도 크기 때문에 전문가 대규모 평가는 더욱 어렵습니다. 또 다른 단점은 불일관성(inconsistency)입니다. 평가자마다 기준과 해석이 달라 평가 결과가 일관되지 않을 수 있기 때문입니다. 특히 문화적 차이와 개인적 차이로 인해 사람 사이의 높은 편차가 생겨 평가의 안정성이 떨어질 수 있습니다.

모델이 인간의 수준을 넘어서는 영역이 늘어남에 따라, 평가 기준과 방법론도 계속해서 진화해야 합니다. 윤리, 다국어 능력, 실제 세계에서의 적용 가능성 등 복잡한 요소를 어떻게 평가에 반영할 지도 중요한 과제이지요.

우월한 성능뿐 아니라 실생활에 미치는 영향까지도 고려할 때, 우리는 진정으로 인간에게 도움이 되는 AI를 만들고 있다고 할 수 있습니다.