신뢰 가능한 생성AI를 위한 ‘RAG’

신뢰할 수 있는 AI 검색 엔진을 만들기 위한 라이너(Liner)의 여정

발표자 : 허훈 라이너 테크 그룹 리드

LLM의 등장 이후 검색 시장에 지각 변동이 일어나고 있습니다.

이러한 지각 변동 속 Liner는 그간 축적해온 데이터와 기술력을 바탕으로 사용자에게 신뢰할 수 있는 답변을 제공하는 AI 검색 엔진을 만들어 가고 있습니다.

RAG 부터 Ranking, 검색 엔진, 자체 LLM까지 Liner가 신뢰할 수 있는 AI 검색 엔진을 구축하기 위해 갖추어 나가고 있는 기술 여정에 대해 소개 드리고자 합니다.

디노도 플랫폼, 생성형 AI를 위한 데이터 기반

발표자 : 김세준 디노도코리아 기술총괄 상무

현대의 기업은 데이터를 활용하여 다양한 요구사항을 충족해야 합니다. 

그 중에서도 생성형 AI의 도입 및 활용에 대한 고민이 커지고 있는데, 그 이유는 기업이 갖는 고유의 데이터를 생성형 AI 엔진으로 공급하는 것은 여전히 쉽지 않은 문제이기 때문입니다. 

이러한 문제를 극복하기 위해서 기업은 RAG 도입을 검토하고 있습니다. 

디노도는 생성형 AI로 공급하는 데이터에 대해 시간 및 비용 효과적으로 비즈니스 Context를 제공할 수 있습니다. Denodo Platform을 기반으로 한 논리적 데이터 패브릭을 통해 RAG 도입과 적용을 빠르게 진행할 수 있는 방법을 살펴봅니다.

RAG – The Hard Parts

발표자 : 김명호 재능대학교 교수

사실 기억에 기반한 정확한 응답을 제공하는 RAG 기술은 간편한 구현과 비용 효율성 덕분에 많은 기대를 받고 있습니다.

RAG의 성능은 데이터의 특성과 맥락을 얼마나 잘 반영하느냐에 크게 좌우되며, 단순히 임베딩이나 벡터스토어와 같은 기술을 사용한다고 해서 성능이 보장되는 것은 아닙니다.

이번 발표에서는 RAG의 성능을 개선하기 위해 필요한 엔지니어링 요소들을 설명하고, 다양한 문제에 이를 적용한 사례들을 소개할 것입니다.

허훈 | Liner Tech Group Lead

김세준 | 디노도코리아 기술총괄 상무

김명호 | 재능대학교 교수 (AI마이크로디그리)