대본 기획 도우미▸ 
AI 앱 
AI 뉴스 Hyper-RAG: 칭화대와 시안 자오퉁대가 제안한 하이퍼그래프 기반 검색 증강 생성 방법
小编 ·
Hyper-RAG: 칭화대와 시안 자오퉁대가 제안한 하이퍼그래프 기반 검색 증강 생성 방법
Hyper-RAG란 무엇인가?
Hyper-RAG는 칭화대학교(清华大学)와 시안교통대학교(西安交通大学)에서 제안한 초그래프(hypergraph) 기반의 검색 증강 생성(RAG) 방법으로, 초그래프 기술을 통해 대규모 언어 모델(LLM)의 전문 분야 지식 모델링 정확도를 높이고, 모델이 콘텐츠를 생성할 때 발생하는 "환각(할루시네이션)" 현상을 줄여줍니다. 실험 결과에 따르면 Hyper-RAG는 여러 데이터셋에서 기존의 그래프 기반 방법 대비 평균 정확도가 12.3% 향상되었으며, 복잡한 쿼리에서도 안정적인 성능을 보여 의료, 금융 등 높은 신뢰성이 요구되는 분야에 적합합니다.
Hyper-RAG의 핵심 원리
Hyper-RAG의 핵심은 초그래프를 활용하여 원본 데이터 내의 저차 연관성(쌍(pair) 관계)과 고차 연관성(다중 엔티티 관계)을 동시에 포착하는 데 있습니다. 그래프 기반 RAG 방법(예: Graph RAG, Light RAG)은 쌍 관계만 표현할 수 있어 복잡한 다중 엔티티 관계를 효과적으로 처리하지 못하며, 이로 인해 정보 손실이 발생하고 LLM 출력 정확도에 영향을 미칩니다. 반면, 초그래프는 초엣지(hyperedge)를 통해 여러 엔티티 간의 복잡한 관계를 표현할 수 있어 보다 포괄적인 지식 표현이 가능합니다.
Hyper-RAG의 주요 기능 및 특징:
초그래프 지식 표현: 초그래프 구조를 통해 다중 엔티티의 복잡한 관계를 포착하여 정보 손실을 줄이고, 보다 완전하고 정확한 지식 표현을 구현합니다.
검색 증강 생성: 초그래프 검색을 결합하여 관련 지식을 정밀하게 추출하고, 생성된 답변을 최적화하며, 환각 현상을 줄여 답변의 신뢰성을 높입니다.
복잡한 쿼리 처리: 다중 엔티티 및 복잡한 관계의 쿼리를 효율적으로 처리할 수 있으며, 성능이 안정되어 복잡한 문제 해결에 적합합니다.
효율적인 검색 성능: 경량화된 검색이 빠른 속도를 제공하며 정확도 또한兼하여 실시간 처리가 중요한 시나리오에 적합합니다.
강력한 분야 적응성: 의료, 금융, 법률 등 다양한 분야에 적용 가능하며, 맞춤 설정이 가능해 범용성이 높습니다.
환각 현상 감소: 지식 보정(calibration)을 통해 모델의 지식 부족으로 인한 잘못된 생성을 줄여줍니다.
뛰어난 확장성: 지식 베이스를 동적으로 업데이트할 수 있으며, 다양한 규모의 언어 모델과 결합할 수 있어 적응력이 강합니다.
Hyper-RAG의 작동 흐름
지식 베이스 구축: 특정 분야의 코퍼스에서 엔티티와 관계를 추출하여 초그래프 지식 베이스를 구축합니다.
검색 증강: 초그래프 검색 기술을 통해 지식 베이스에서 쿼리와 관련된 지식을 추출합니다.
답변 생성: 검색된 지식과 사용자의 질문을 함께 LLM에 입력하여 보다 정확한 답변을 생성합니다.
실험 결과
신경과학(neuroscience) 관련 과제에서 Hyper-RAG의 정확도는 LLM을 직접 사용한 경우 대비 평균 12.3% 향상되었으며, Graph RAG 및 Light RAG 대비 각각 6.3%, 6.0% 더 높은 정확도를 보였습니다.
쿼리의 복잡성이 증가하는 상황에서도 Hyper-RAG의 성능은 안정적으로 유지된 반면, 다른 방법들의 성능은 저하되었습니다.
9개의 서로 다른 분야의 데이터셋에서 Hyper-RAG의 성능은 Light RAG 대비 35.5% 향상되었습니다.
또한, Hyper-RAG의 경량화 버전인 Hyper-RAG-Lite는 Light RAG의 두 배에 달하는 검색 속도를 달성하면서도 성능이 3.3% 향상되었습니다.
Hyper-RAG의 활용 시나리오
진단 보조: Hyper-RAG는 의료 지식 베이스와 결합하여 의사가 병력, 증상 및 검사 결과를 빠르고 정확하게 분석하도록 돕고, 진단 제안을 제공하여 오진율을 낮출 수 있습니다.
리스크 평가: 초그래프 구조가 금융 데이터 내의 복잡한 관계(예: 기업 간 연관성, 시장 동향 등)를 포착함으로써, Hyper-RAG는 금융 리스크를 보다 정밀하게 평가하고 투자 의사 결정에 유용한 지원을 제공할 수 있습니다.
Hyper-RAG의 가장 큰 장점은 복잡한 다중 엔티티 관계를 처리할 수 있을 뿐만 아니라, 초그래프 구조를 통해 정보 손실을 줄인다는 점입니다. 이를 통해 정확한 지식 지원과 높은 신뢰도의 출력이 요구되는 분야에서 매우 광범위한 잠재력을 가지고 있습니다.
논문:https://arxiv.org/abs/2504.08758
Github:https://github.com/iMoonLab/Hyper-RAG
