스프쌤
스레드

GPU 없이 CPU 만으로 "35B급 LLM 모델"을 서빙하게 했다!!!

✍ @vidraft_lab⏱ 3분 소요2026-09-03👁
← 목록으로 돌아가기

안녕하세요. 야금야금입니다.

GPU 없이 CPU 만으로 "35B급 LLM 모델"을 서빙하게 했다!!! — 관련 내용을 정리해드리겠습니다.

📌 한눈에 보는 요약
✔️ GPU 없이 CPU 만으로 "35B급 LLM 모델"을 서빙하게 했다!!! 약 700$(100만원) 정도하는 베어본 미니PC를 구입했다.
✔️ 가로 12cm x 세로 12cm x 높이 5cm 크기로 작고 가볍다.
✔️ 다음주에는 250B 모델을 포켓으로 만들려고 한다.
STEP 0

핵심 정리 1

내용을 나눠서 정리했습니다

약 700$(100만원) 정도하는 베어본 미니PC를 구입했다.

가로 12cm x 세로 12cm x 높이 5cm 크기로 작고 가볍다.

다음주에는 250B 모델을 포켓으로 만들려고 한다.

스레드 첨부 이미지
원본 스레드 첨부 이미지
스레드 첨부 이미지
원본 스레드 첨부 이미지
STEP 1

핵심 정리 2

내용을 나눠서 정리했습니다

최종적으로 KIMI K3 2.8T를 포켓으로 만들것이다.

GPU 없이 CPU만으로!

자주 묻는 질문

Q. 이 글은 무엇에 대한 내용인가요?
A. Threads에서 공유된 소식을 정리한 글입니다. 본문에 요약과 원본 링크가 있습니다.

Q. 원본은 어디서 볼 수 있나요?
A. 아래 원본 섹션의 Threads 링크에서 확인할 수 있습니다.

원본

https://www.threads.com/@vidraft_lab/post/DbeaSHaE73o

함께 보면 좋은 글

댓글 0개