🔗 원문 전체 보기 → Venturesquare.net
요약
AI 인프라 솔루션 기업 모레가 'AMD Advancing AI World Tour Seoul 2026'에서 AMD GPU 기반 토큰 팩토리 소프트웨어 전략을 발표했다. 모레는 자체 추론 프레임워크를 활용해 AMD MI355X에서 엔비디아 B200 대비 2배 이상의 처리량을 확보했다고 설명했다. 기존 엔비디아 GPU와 AMD GPU를 함께 운영하는 이기종 분산 추론 기술도 선보였으며, 해당 구성에서 동종 GPU 클러스터 대비 약 1.7배의 처리량을 기록했다. …
본문
인공지능(AI) 인프라 시장의 경쟁 기준이 GPU 확보량에서 실제 AI 서비스를 운영하는 데 드는 비용으로 옮겨가고 있다. 대규모언어모델(LLM)을 학습시키는 데 필요한 연산 능력뿐 아니라 이용자의 요청에 얼마나 빠르고 경제적으로 응답할 수 있는지가 데이터센터의 경쟁력을 좌우하는 요소로 떠올랐다. 생성형 AI 서비스가 확대되면서 AI가 생성하는 텍스트의 …