AI 컴퓨팅 기술분야의 선두주자인 엔비디아(www.nvidia.co.kr)가새로운 소형 생성형 AI 슈퍼컴퓨터인 ‘젯슨 오린 나노 슈퍼 개발자 키트(Jetson Orin Nano Super Developer Kit)’를 공개했다. 엔비디아(NVIDIA)는 소프트웨어 업그레이드로 이전 모델 대비성능을 높이고 가격은 낮췄다.

손바닥 크기의 새로운 엔비디아 젯슨 오린나노 슈퍼 개발자 키트는 상업용 AI 개발자부터 취미로 AI를다루는 사람과 학생에 이르기까지 모두에게 생성형 AI 기능과 성능을 제공한다. 가격은 기존 499달러에서 249달러로인하됐다. 이 제품은 이전 모델에 비해 생성형 AI 추론성능이 1.7배 향상됐고, 성능은 67 INT8 TOPS로 70% 증가했으며, 메모리 대역폭은 102GB/s로50% 증가했다.

젯슨 오린 나노 슈퍼는 검색 증강 생성(Retrieval-Augmented Generation, RAG) 기반의 거대 언어 모델(Large Language Model, LLM) 챗봇 생성, 시각적 AI 에이전트(AI agent) 구축, AI 기반 로봇 배포 등에 이상적인 솔루션을 제공한다. 새로운 젯슨오린 나노 슈퍼에 제공되는 소프트웨어 업데이트는 이미 젯슨 오린 나노 개발자 키트를 보유하고 있는 사용자의 생성형 AI 성능도 향상시킨다. 젯슨 오린 나노 슈퍼는 생성형 AI, 로보틱스, 컴퓨터 비전 기술 개발에 관심이 있는 사람들에게적합하다. AI 세계가 작업별 모델에서 파운데이션 모델로 이동함에 따라 아이디어를 현실로 전환할 수있는 접근 가능한 플랫폼도 제공한다.

슈퍼로 실현하는 강력한 성능의 생성형 AI

젯슨 오린 나노 슈퍼의 향상된 성능은모든 인기 있는 생성형 AI 모델과 트랜스포머 기반 컴퓨터 비전을 위한 이점을 제공한다. 개발자 키트는 젯슨 오린 나노 8GB 시스템 온 모듈(system-on-module, SoM)과 레퍼런스 캐리어 보드로 구성되어 엣지 AI 애플리케이션 프로토타입을 위한 이상적인 플랫폼을 제공한다. 이 SoM은 텐서 코어가 포함된 엔비디아 암페어(Ampere) 아키텍처 GPU와 6코어 Arm CPU를갖추고 있어 여러 개의 동시 AI 애플리케이션 파이프라인과 고성능 추론을 용이하게 한다. 또한, 최대 4개의 카메라를지원할 수 있으며, 이전 버전보다 더 높은 해상도와 프레임 속도를 제공한다.

광범위한 생성형 AI 소프트웨어 생태계와 커뮤니티

생성형AI는 빠르게 발전하고 있다. 엔비디아 젯슨 AI 랩은오픈 소스 커뮤니티에서 이러한 최첨단 모델에 대한 즉각적인 지원을 제공하며, 사용하기 쉬운 튜토리얼을제공한다. 아울러, 개발자는 광범위한 젯슨 커뮤니티의 폭넓은지원을 받으며, 개발자가 만든 프로젝트에서 영감을 얻을 수 있다. 젯슨은로보틱스를 위한 엔비디아 아이작(Isaac), 비전 AI를위한 엔비디아 메트로폴리스(Metropolis), 센서 처리를 위한 엔비디아 홀로스캔(Holoscan)을 비롯한 엔비디아 AI 소프트웨어를 실행한다. 합성 데이터 생성을 위한 엔비디아 옴니버스 리플리케이터(OmniverseReplicator)와 NGC 카탈로그에서 사전 훈련된AI 모델을 미세 조정하기 위한 엔비디아 타오 툴킷(TAO Toolkit)을 사용하면 개발시간을 단축할 수 있다. 젯슨 생태계 파트너는 추가적인 AI와시스템 소프트웨어, 개발자 도구, 맞춤형 소프트웨어 개발을제공한다. 또한, 카메라와 기타 센서, 캐리어 보드, 제품 솔루션을 위한 설계 서비스도 지원 가능하다.

슈퍼 모드로 모두를 위한 젯슨 오린성능 향상

1.7배의 생성형 AI 성능을 향상시키는 소프트웨어 업데이트는젯슨 오린 NX와 오린 나노 시리즈 시스템 모듈에서도 사용할 수 있다.기존 젯슨 오린 나노 개발자 키트 소유자는 젯팩 SDK(JetPack SDK)를 업그레이드해향상된 성능을 활용할 수 있다.