Cerebras와 Perplexity, 새로운 AI 검색 모델 Sonar 공동 개발 235

Cerebras와 Perplexity ai는 최근 Sonar를 공동 출시했는데, 이는 속도가 매우 빠른 AI 검색 모델로, Cerebras 전용 AI 칩을 기반으로 초당 1200개의 토큰 속도로 작동하며, 시장에서 가장 빠른 AI 검색 모델 중 하나입니다.

Sonar 모델의 핵심은 Llama 3.3 70B를 기반으로 하며, 검색 애플리케이션의 성능을 향상시키기 위해 추가로 최적화되었습니다. Perplexity는 이번 출시에서 Sonar가 매우 빠를 뿐만 아니라 더 높은 품질의 답변을 제공하여 거의 즉각적으로 답변을 생성할 수 있다고 강조했습니다.

Sonar의 또 다른亮点은 문맥 이해 능력으로, 다중 턴 대화를 더 잘 처리하고 사용자의 문맥을 기억하여 보다 개인화된 응답을 제공할 수 있습니다. 예를 들어 후속 질문을 통해 복잡한 쿼리를 수행할 때 관련성 있는 결과를 얻을 수 있습니다.

또한 Sonar는 다중 모달 답변 기능을 제공하여 이미지와 텍스트를 결합한 답변 방식을 지원합니다. 예를 들어, 특정 상품 정보를 쿼리할 때 Sonar는 텍스트 설명을 제공할 뿐만 아니라 관련 이미지나 차트를 표시할 수도 있습니다.

보안 및 개인 정보 보호 측면에서, Perplexity AI는 사용자 데이터 보호에 특히 주의를 기울이며, 모든 쿼리 데이터는 익명화 처리됩니다.

Cerebras의 AI 추론은 Sonar 모델의 핵심적인 장점으로 간주되어, 많은 성능 지표에서 기존의 검색 엔진을 능가합니다. 이러한 협력은 Google과 같은 대형 경쟁자를 포함한 현재의 검색 시장에 도전하여, 수천억 달러 규모의 시장 점유율을 차지할 것으로 예상됩니다.

Perplexity는 또한 개발자와 기업에 자동 생성형 검색 엔진을 구축할 수 있는 능력을 제공하기 위해 Sonar API 서비스를 제공할 것이라고 발표했습니다.

최근 정보에 따르면, Sonar 모델은 사용자 만족도와 정확성 지표에서 GPT-4o mini 및 Claude 3.5 Haiku와 같은 다른 알려진 AI 모델을 크게 능가했습니다. 이 혁신적인 애플리케이션은 사실 정확성 점수 85.1점을 달성한 반면, GPT-4o는 83.9점, Claude 3.5 Sonnet는 75.8점으로, Sonar의 검색 정확도 측면에서 뛰어난 성능을 보여주었습니다.