*인덱싱과 임베딩
데이터 인덱싱(Indexing)은 정보를 효율적으로 검색할 수 있게 하는 구조화 과정이며, 데이터 임베딩(Embedding)은 데이터의 의미를 수치적(벡터)으로 표현하여 AI가 이해할 수 있게 하는 과정입니다.

Amazon Q와 같은 챗봇 시스템은 인덱싱과 임베딩을 거쳐 데이터를 검색하고, 이해하며, 이를 바탕으로 고도화된 응답을 생성할 수 있습니다.

출시가 며칠 지나지 않았지만 Amazon Q가 부정확한 답변을 생성하며 기밀 데이터를 유출한다는 다수의 외신 보도가 있었습니다. IT 뉴스레터 Platform에 따르면, Q는 심각한 환각 증상을 겪고 있으며 AWS 데이터 센터의 위치, 내부 할인 프로그램, 미공개 기능 등 기밀 데이터를 유출하고 있습니다. 한 직원은 이 사건을 ‘sev 2’로 표시했는데, 이는 밤에 엔지니어를 호출하고 주말 동안 문제를 해결하기 위해 일하도록 만드는 충분히 심각한 사건을 의미합니다.

이에 대해 Amazon 측은 Q가 기밀 정보를 유출하지 않았다고 반박했습니다. “피드백 결과 보안 문제는 확인되지 않았습니다. 우리는 이미 받은 모든 피드백에 감사하며 정식 출시 과정까지 계속해서 Q를 조정할 것입니다.” 관련 기사 링크

생성 AI 챗봇을 출시한 직후 환각과 데이터 유출, 윤리적 문제가 발견되는 것은 흔한 일입니다. 마이크로소프트의 빙챗(BingChat)과 구글 바드(Bard) 또한 비슷한 이슈를 겪었습니다. 하지만 아마존 Q와 같은 업무용 챗봇에는 더욱 엄격한 기준이 적용됩니다. 환각과 윤리 문제, '고품질 데이터'가 솔루션이 될 수 있습니다. 셀렉트스타와 함께하세요 :)