CatBlog

일상과 기술을 기록하는 공간

전체 25775개의 이야기
派
AI

派评 | 近期值得关注的 App

🔗 원문 전체 보기 → 少数派 요약 >下载少数派2.0客户端、关注少数派公众号,解锁全新阅读体验📰>实用、好用的正版软件,少数派为你呈现🚀查看全文 출처: 少数派 원문 게시일: Mon, 10 Aug 2026 18:00:00 +0800 이 글은 RSS 피드를 통해 자동으로 수집된 콘텐츠

자세히 읽기
우
AI

우리 팀만의 vLLM 플러그인 만들기 1편 - 검색 AI 모델 서빙 성능 극대화하기

🔗 원문 전체 보기 → 네이버 D2 요약 네이버 플레이스 AI MLOps는 지난 1년간 검색과 추천에 사용하는 스코어링 모델의 서빙 구조를 vLLM 기반으로 전환했습니다. 이 글에서는 사내 Engineering Day에서 발표한 내용을 바탕으로, 모델 서빙 경로를 최적화해

자세히 읽기
우
AI

우리 팀만의 vLLM 플러그인 만들기 2편 - 모델 변환부터 배포까지 AI-native로 자동화하기

🔗 원문 전체 보기 → 네이버 D2 요약 1편에서는 검색·추천 모델을 vLLM 사용자 정의 플러그인으로 옮겨 서빙 성능을 높인 과정을 소개했습니다. 모델을 vLLM에서 실행할 수 있게 된 뒤에는 또 다른 문제가 남았습니다. 모델마다 반복해야 하는 변환 작업이 복잡하고, v

자세히 읽기