스프쌤
스레드

무료 토큰을 제공하는 서비스를 모아서

✍ @reqandack⏱ 3분 소요2026-10-01👁
← 목록으로 돌아가기

안녕하세요. 야금야금입니다.

무료 토큰을 제공하는 서비스를 모아서 OpenAI compatible API 프록시를 셀프호스팅 할 수 있는 프로젝트가 있더라구 — 관련 내용을 정리해드리겠습니다.

📌 한눈에 보는 요약
✔️ 무료 토큰을 제공하는 서비스를 모아서 OpenAI compatible API 프록시를 셀프호스팅 할 수 있는 프로젝트가 있더라구 최근까지는 litellm이라는 프로젝트를 사용해서 인터넷 글 요약 같은 공개된 컨텐츠에 대한 LLM 요청은 무료 사용량을 제공하는 복수의 API Provider를 라우팅하면서 사용하고 있었어 그런데 FreeLLMAPI라는 프로젝트는 16개 프로바이더를 통합해서 최대 17억 토큰을 사용할 수 있다고 해.
✔️ NAS에 도커로 냅따 꽂아서 써보는 중이야.
✔️ 각 프로바이더 무료 사용량을 다
STEP 0

핵심 정리 1

내용을 나눠서 정리했습니다

최근까지는 litellm이라는 프로젝트를 사용해서
인터넷 글 요약 같은 공개된 컨텐츠에 대한 LLM 요청은
무료 사용량을 제공하는 복수의 API Provider를 라우팅하면서 사용하고 있었어

그런데 FreeLLMAPI라는 프로젝트는
16개 프로바이더를 통합해서 최대 17억 토큰을 사용할 수 있다고 해.
NAS에 도커로 냅따 꽂아서 써보는 중이야.

각 프로바이더 무료 사용량을 다 쓰면 다음 순서를 설정하는 Fallback chain 기능도 있고, 비전 요청이 있으면 비전 모델로 라우팅 되게 기능도 있어.

STEP 1

핵심 정리 2

내용을 나눠서 정리했습니다

각 프로바이더마다 회원가입하고 API 키를 취득하는 건 귀찮기는 하지만
잠깐 고생하면 여러 모로 쓸모 있는 프로젝트야.

자주 묻는 질문

Q. 이 글은 무엇에 대한 내용인가요?
A. Threads에서 공유된 소식을 정리한 글입니다. 본문에 요약과 원본 링크가 있습니다.

Q. 원본은 어디서 볼 수 있나요?
A. 아래 원본 섹션의 Threads 링크에서 확인할 수 있습니다.

원본

https://www.threads.com/@reqandack/post/DZGezJsAW0y

함께 보면 좋은 글

댓글 0개