화웨이, 4월 '판구(盘古) 대형 모델' AI 출시 발표 240

3월 27일 소식에 따르면, 화웨이(华为) 클라우드 공식 웹사이트에는 화웨이 산하의 판구(盘古) 시리즈 ai 대형 모델이 곧 정식 출시될 예정이라고 표시되어 있다. 현재 AI 대형 모델의 NLP 대형 모델, CV 대형 모델 및 과학 계산 대형 모델(기상 대형 모델)은 모두 곧 출시될 상태로 표시되어 있다.

판구 대형 모델은 NLP 대형 모델, CV 대형 모델, 멀티모달 대형 모델, 과학 계산 대형 모델 등 여러 대형 모델로 구성되며, 모델 일반화를 통해 전통적인 AI 작업장식 개발 방식으로는 해결할 수 없는 AI의规模化(scaling), 산업화 문제를 해결할 수 있고, 텍스트 생성, 텍스트 분류, 질의응답 시스템 등 다양한 자연어 처리 작업을 지원할 수 있다.

구체적으로 보면, 판구 NLP 대형 모델은 처음으로 Encoder-Decoder 아키텍처를 사용하여 NLP 대형 모델의 이해 능력과 생성 능력을兼顾(兼顾)하고, 다양한 시스템에서의 모델 임베딩 유연성을 보장한다. 다운스트림 애플리케이션에서는 소량의 샘플과 학습 가능한 파라미터만으로 천억 규모의 대형 모델의 빠른 미세 조정(fine-tuning)과 다운스트림 적응이 가능하며, 이 모델은 스마트 여론 분석 및 스마트 마케팅方面에서 모두 뛰어난 성능을 보인다.

1 화웨이 판구 NLP는 CHATGPT를 대비하며, 마찬가지로 천억급 파라미터 수에 도달해 세계 최대의 중국어 AI 훈련 대형 모델이며, 화웨이와 펑청(鹏城) 실험실이 공동 개발하고, 펑청 클라우드 브레인 II기가 컴퓨팅 파워 기반을 제공한다.

2 컴퓨팅 파워는 AI의 핵심이다. 펑청 클라우드 브레인 II기는 2022년 글로벌 인공지능 컴퓨팅 파워 1위를蝉联(蝉联, 연속 차지)했으며, 천억급 파라미터 수 처리가 가능하여 화웨이 판구, 바이두 NLP 등 국내 거대 기업들에게 AI 컴퓨팅 파워 기반을 제공한다. 펑청 클라우드 브레인 II기는 터파(特发) 정보가 화웨이와 협력하여 건설했다.

2021년 4월 25일 화웨이는 판구 NLP AI 훈련 대형 모델을 출시했으며, 화웨이 클라우드와 펑청 실험실이 공동 개발하고, 펑청 클라우드 브레인 II가 컴퓨팅 파워 지원을 제공하며, 업계 최초의 천억급 생성 및 이해 중국어 NLP 대형 모델이다.

화웨이 공식 웹사이트의 소개에 따르면, 판구 NLP 대형 모델은 총 랭킹 및 분류 독해 이해 단일 항목 모두에서 1위를 차지하여 3개 차트에서 세계 기록을 경신했다. 총 랭킹 점수는 83.046점으로, 여러 하위 작업에서 업계 선도적인 점수를 기록했으며, 현재 인간 이해 수준(85.61)에 가장 가까운 사전 훈련 모델이다.

화웨이 ChatGPT는 3년 동안 검이 갈려 만들어졌으며, 펑청(鹏程) 판구 대형 모델은 업계 최초의 천억급 생성 및 이해 중국어 NLP 대형 모델로서, 현재 인간 이해 수준에 가장 가까운 모델이다.