과학기술정보통신부가 주관한 이번 생성형 AI 레드팀 챌린지에 셀렉트스타는 Presenting Partner이자 운영사무국으로 함께했습니다.

단일 레드팀 챌린지로는 세계 최대 규모였던 현장을 함께 보시죠!

‘잘못된 정보’ 항목이 압도적인 1등을 차지했습니다. 챗GPT도 처음 출시했을 때 할루시네이션(hallucination)이 빈번하게 일어나 화제가 되었었는데요. 텍스트의 패턴을 찾아가는 LLM의 특성상 여전히 큰 비중을 차지하는 문제로 보입니다. 

총 19,238개의 대화셋이 시도되었고, 그 중 8,080개가 제출되었으며 6,558개가 성공 데이터로 판정 받았습니다.

12일에는 키노트 중심의 컨퍼런스가 진행되었는데요!

모두 연사로 참여해 AI 안전과 신뢰에 대한 인사이트를 공유했습니다. ✨ 

LLM의 신뢰성을 평가하는 방법, 책임감 있는 AI를 위한 노력, 다중언어와 다중문화 LLM, 고객 서비스 입장에서 바라본 AI 안전성 등 흥미롭고 유익한 주제로 열정적인 강연이 펼쳐진 하루였습니다. 

셀렉트스타는 이번 행사의 기획, 레드 티밍 플랫폼 구축, 데이터 분석, 그리고 운영사무국의 역할로 많은 부분을 함께하는 영광을 누렸는데요!

앞으로도 AI 산업의 안전하고 건강한 발전을 위해 셀렉트스타는 다양한 서비스/플랫폼/콘텐츠를 제공하겠습니다. 관심 갖고 지켜봐 주세요! 💙