상하이, 중국--(뉴스와이어)--베리실리콘(688521.SH)은 초저에너지 및 고성능 신경망 처리 장치(NPU) IP가 이제 40TOPS를 넘는 AI 컴퓨팅 성능으로 대규모 언어 모델(LLM)의 온디바이스 추론을 지원한다고 발표했다. 이 에너지 효율적인 NPU 아키텍처는 모바일 플랫폼에서 생성형 AI 기능에 대한 증가하는 수요를 충족하도록 특별히 설계되었다. 이 아키텍처는 AI PC와 기타 최종 기기에 강력한 컴퓨팅 성능을 제공할 뿐만 아니라 AI폰과 기타 모바일 플랫폼의 점점 더 엄격해지는 에너지 효율성 과제를 충족하도록 최적화되었다.

베리실리콘의 초저에너지 NPU IP는 구성 및 확장성이 뛰어난 아키텍처를 기반으로 혼합 정밀도 계산, 고급 희소성 최적화 및 병렬 처리를 지원한다. 이 설계에는 효율적인 메모리 관리와 희소성 인식 가속이 통합되어 계산 오버헤드와 지연 시간을 줄이고, 원활하고 반응성이 뛰어난 AI 처리를 보장한다. 이 설계는 AI-NR, AI-SR을 비롯한 수백 개의 AI 알고리즘과 스테이블 디퓨전(Stable Diffusion), LLaMA-7B와 같은 주요 AI 모델을 지원한다. 또한 베리실리콘의 다른 프로세싱 IP와 완벽하게 통합되어 이기종 컴퓨팅을 지원하고, SoC 설계자가 다양한 애플리케이션 요구 사항을 충족하는 포괄적인 AI 솔루션을 개발할 수 있도록 지원한다.

베리실리콘의 초저에너지 NPU IP는 텐서플로우 라이트(TensorFlow Lite), ONNX, 파이토치(PyTorch)와 같은 인기 있는 AI 프레임워크도 지원하여 다양한 AI 사용 사례에서 고객의 배포를 가속화하고 통합을 간소화한다.

베리실리콘의 최고전략책임자이자 수석부사장 겸 IP 사업부 총괄 책임자 웨이진 다이(Weijin Dai)는 “스마트폰과 같은 모바일 기기는 개인용 AI 서버로 진화하고 있다. AIGC와 다중 모달 LLM 기술의 급속한 발전으로 AI 컴퓨팅에 대한 수요가 기하급수적으로 증가하고 있으며, 이는 모바일 제품의 주요 차별화 요소가 되고 있다”며 “이렇게 큰 AI 컴퓨팅 워크로드를 지원하는 데 있어 가장 중요한 과제 중 하나는 에너지 소비를 제어하는 것이다. 베리실리콘은 AI폰과 AI PC를 위한 초저에너지 NPU 개발에 지속적으로 투자해 왔다. 선도적인 SoC 파트너들과의 긴밀한 협력을 통해 우리 기술이 차세대 AI폰과 AI PC용 실리콘에서 구현되는 것을 보게 되어 매우 기쁘다”고 밝혔다.

베리실리콘 소개

베리실리콘(VeriSilicon)은 플랫폼 기반의 종합 원스톱 맞춤형 실리콘 서비스와 인하우스 반도체 IP를 활용한 반도체 IP 라이선싱 서비스를 제공하기 위해 최선을 다하고 있다. 자세한 정보는 www.verisilicon.com 에서 확인할 수 있다.

이 보도자료는 해당 기업에서 원하는 언어로 작성한 원문을 한국어로 번역한 것이다. 그러므로 번역문의 정확한 사실 확인을 위해서는 원문 대조 절차를 거쳐야 한다. 처음 작성된 원문만이 공식적인 효력을 갖는 발표로 인정되며 모든 법적 책임은 원문에 한해 유효하다.