생성형 AI는 초고속으로 발전하고 있습니다. 최근 한 주만 해도 엄청난 소식들이 쏟아져 나왔지요. 매일 생성형 AI에 기반한 새로운 서비스가 출시되고 있습니다. 하지만 서비스와 상관없이, LLM을 활용하는 모든 기업이 해결해야 하는 중요한 문제가 있습니다.

AI가 생성하는 결과물의 신뢰성과 안전성을 어떻게 보장할 것인가?

LLM은 하루가 다르게 성능과 정확도가 좋아지고 있지만, 여전히 치명적인 위험을 수반합니다.

• 환각(Hallucination)과 사실 오류

• 편향되거나 윤리적으로 문제가 될 수 있는 응답

• 저작권 침해

• 의도치 않은 법적, 평판적, 사회적 파장
  
  

체계적이고 자동화된 평가 프로세스가 없다면, 이러한 위험은 사용자 신뢰를 훼손하고 브랜드 신뢰도를 떨어뜨리며, AI 도입 속도를 늦출 수 있지요. 게다가 한 번 손상된 브랜드 이미지는 다시 끌어올리기 무척 어려운데요. 이 문제를 해결하기 위해 등장한 솔루션이 바로 데이터셋 스토어와 Datumo Eval(다투모 이밸)입니다.

🛒 데이터셋 스토어

셀렉트스타의 데이터셋 스토어는 저작권이 해결된 고품질 데이터셋을 대규모로 판매하고 있습니다. 게다가 종류도 다양합니다!

위 카탈로그 외에도, 필요한 데이터셋에 대한 추가적인 수집이나 가공도 지원하고 있습니다. 명확한 규제나 판례가 생기기 시작하면서 데이터의 저작권을 해결하기가 점점 까다로워지고 있는데요. 셀렉트스타 데이터셋 스토어에서 구매하시는 데이터는 아무 걱정 없이 안심하고 바로 사용하실 수 있습니다.

🔎 다투모 이밸

다투모 이밸은 생성형 AI 서비스의 신뢰성 평가를 자동화하는 플랫폼입니다. AI 모델을 배포하기 전에 위험을 미리 감지하고 완화할 수 있게 도와주죠. 빠르게 변화하는 AI 세계에 정량적인 수치로 객관적인 품질 및 안전 보증 체계를 제공합니다. 

주요 기능을 살펴볼까요?

• 맞춤형 평가 기준: 사용자의 필요와 선호도에 맞춰 최적화된 평가 지표와 질문을 자동 생성합니다.

• 대규모 질문 생성: 다양한 사용자 발화 패턴을 포괄하기 위해 최대 100만 개 이상의 질문을 생성할 수 있습니다.

• 자동 응답 평가 및 분석: 객관적 벤치마크(MMLU, GSM8K 등), 사람 검수, 모델 기반 응답 비교를 결합해 LLM 성능을 평가합니다. 유창성, 일관성, 유용성 등 정성 평가와 정량 점수를 통합해 더 나은 응답을 판별합니다.

• AI 레드팀: 배포 전 잠재적 취약점을 찾기 위해, 안전하지 않거나 유해한 출력을 적극적으로 탐지합니다. 

셀렉트스타는 'AI로 세상을 바꾼다'는 비전을 품고 7년째 열심히 고민하고, 버티고, 달리고 있습니다.

특히 얼마 전 <독자 AI 파운데이션 모델> 프로젝트에 참여 기업으로 최종 선정되었는데요. '국가대표 AI 기업'이라는 자부심과, 누구나 안심하고 쓸 수 있는 AI에 기여하겠다는 사명감으로 더욱 노력하겠습니다.🔥