요약
[지디넷코리아]오픈AI가 AI 모델 추론(inference) 비용을 절반 이상 줄이는 최적화 기술을 개발한 것으로 알려졌다. 데이터센터와 GPU 확보 경쟁이 치열한 가운데, 기존 인프라의 효율을 끌어올리는 '컴퓨트 멀티플라이어(Compute Multiplier)' 전략이 새 경쟁력으로 떠올랐다.디 인포메이션은 30일(현지시간) 오픈AI 엔지니어들이 이달 초 새 추론 최적화 기법으로 모델 실행 비용을 절반 이상 줄였다고 내부에 공유했다고 보도했다. 특히 로그인하…
본문
AI AI (inference) . GPU , ' (Compute Multiplier)' . 30() AI . GPT , GPU . AI . , - , , . . . 2023 . . . AI·· , · . GPU , . AI . . GPT API , . AI 1 39% 33% , 52% . : AI, AI ' ' ... . …