RAG-FiT: 미세 조정을 통해 LLM의 RAG 능력을 강화하는 프레임워크 119

RAG-FiT는 특별히 제작된 RAG 강화 데이터셋에 대한 미세 조정을 통해 대규모 언어 모델(LLMs)이 외부 정보를 활용하는 능력을 향상시키는 라이브러리입니다. 데이터 증강 기술을 통해 모델이 외부 데이터 소스에서 정보를 더 효과적으로 검색하여 보다 정확하고 문맥에 맞는 콘텐츠를 생성할 수 있도록 돕습니다.

RAG-FiT의 목적은 기존 LLM+RAG 시스템의 몇 가지 핵심 문제, 예를 들어 관련 없는 다수의 문서가 검색되거나, 입력 정보가 너무 길어 효율성에 영향을 미치는 문제, 그리고 불필요한 컴퓨팅 자원 낭비 등을 해결하는 것입니다.

핵심 특징

• 데이터 증강 및 미세 조정: RAG-FiT는 최적화된 데이터셋을 생성하기 위한 일련의 프로세스를 제공하며, 이러한 데이터셋은 모델이 검색된 정보를 활용하는 방식을 최적화하도록 설계되었습니다. 매개변수 효율적 미세 조정(PEFT)을 통해 모델 크기를 크게 늘리지 않으면서도 외부 정보를 더 잘 활용하는 방법을 학습할 수 있습니다.

• 검색 과정 최적화: 대규모 코퍼스에서 쿼리와 관련된 문서를 효율적으로 검색하고 노이즈 정보의 간섭을 줄일 수 있는 유사도 검색기를 포함합니다.

• 이중 레이블 문서 점수 매기기: 문서가 정답을 포함하는지 판단하는 것(사실 정보 판단)뿐만 아니라 문서가 답변 생성에 유용한지 평가하는(모델 선호도) 분류기를 도입하여 검색된 정보의 관련성과 품질을 향상시켰습니다.

• 자체 지식 인식: 쿼리가 추가 검색 정보를 필요로 하는지 분석하여 불필요한 검색 작업을 줄임으로써 효율성을 높이고 입력 토큰 수를 줄이는 데 도움이 됩니다.

• 하위 문서 수준 토큰 감소: 문서 조각을 선택적으로 결합하고 압축하여 검색된 정보를 추가로 최적화하여 LLM에 입력되는 정보가 더 정제되고 관련성 있게 되도록 합니다.

RAG-FiT의 역할:

• 개인화된 추천: 사용자의 과거 데이터와 선호도를 분석하여 RAG-FiT는 개인화된 콘텐츠 추천을 제공하여 사용자 경험을 향상시킬 수 있습니다.

• 멀티모달 학습: RAG-FiT는 텍스트, 이미지 등 다양한 데이터 유형을 결합하여 복잡한 작업을 처리할 때 모델의 능력을 강화할 수 있습니다.

• 실시간 정보 업데이트: 동적 환경에서 RAG-FiT는 최신 정보를 실시간으로 검색하고 통합하여 생성된 콘텐츠가 항상 최신이고 관련성을 유지하도록 보장합니다.

• 다양한 분야에 걸친 응용: RAG-FiT의 유연성 덕분에 의료, 금융, 교육 등 여러 분야에 적용할 수 있어 다양한 분야의 전문가가 필요한 정보와 지원을 얻을 수 있도록 돕습니다.

RAG-FiT의 응용:

• 지식 질의응답: 외부 지식 베이스를 결합함으로써 RAG-FiT는 특히 전문 분야에서 사용자의 질문에 보다 정확한 정보를 제공할 수 있습니다.

• 텍스트 생성: 텍스트를 생성할 때 RAG-FiT는 외부 데이터 소스에서 관련 정보를 검색하여 생성된 콘텐츠의 정확성과 관련성을 강화할 수 있습니다.

• 데이터 증강: RAG-FiT는 기존 데이터를 확장하여 강화된 데이터셋을 만드는 데 사용될 수 있으며, 이를 통해 모델의 학습 효과를 향상시킬 수 있습니다.

• 실험 연구: RAG-FiT는 또한 학술 연구에 사용될 수 있어 연구자들이 다양한 RAG 아키텍처와 방법의 효율성을 탐색하고 검증하는 데 도움이 됩니다.

GitHub:https://github.com/IntelLabs/RAG-FiT