A list of free LLM inference resources accessible via API.
이 번역은 AI가 원문 README를 옮긴 것입니다. 원문이 항상 우선합니다.
<!--- 경고: 이 파일을 직접 편집하지 마십시오. src/pullavailablemodels.py에 의해 생성됩니다. --->
이 목록은 API 기반 LLM 사용에 대해 무료 액세스 또는 크레딧을 제공하는 다양한 서비스를 나열합니다.
[!NOTE]
이러한 서비스를 남용하지 마십시오. 그렇지 않으면 서비스를 잃을 수 있습니다.
[!WARNING]
이 목록은 합법적이지 않은 서비스(예: 기존 챗봇을 리버스 엔지니어링하는 서비스)를 명시적으로 제외합니다.
제한:
20 requests/minute<br>50 requests/day<br>Up to 1000 requests/day with $10 lifetime topup
모델은 공통 할당량을 공유합니다.
영국/스위스/EEA/EU 외부에서 사용할 경우 데이터가 학습에 사용됩니다.
<table><thead><tr><th>모델 이름</th><th>모델 제한</th></tr></thead><tbody> <tr><td>Gemini 3.5 Flash</td><td>250,000 tokens/minute<br>20 requests/day<br>5 requests/minute</td></tr> <tr><td>Gemini 3 Flash</td><td>250,000 tokens/minute<br>20 requests/day<br>5 requests/minute</td></tr> <tr><td>Gemini 3.1 Flash-Lite</td><td>250,000 tokens/minute<br>500 requests/day<br>15 requests/minute</td></tr> <tr><td>Gemini 2.5 Flash</td><td>250,000 tokens/minute<br>20 requests/day<br>5 requests/minute</td></tr> <tr><td>Gemini 2.5 Flash-Lite</td><td>250,000 tokens/minute<br>20 requests/day<br>10 requests/minute</td></tr> <tr><td>Gemini 3.1 Flash TTS</td><td>10,000 tokens/minute<br>10 requests/day<br>3 requests/minute</td></tr> <tr><td>Gemini 2.5 Flash TTS</td><td>10,000 tokens/minute<br>10 requests/day<br>3 requests/minute</td></tr> <tr><td>Gemini Robotics-ER 1.6</td><td>250,000 tokens/minute<br>20 requests/day<br>5 requests/minute</td></tr> <tr><td>Gemini Robotics-ER 1.5</td><td>250,000 tokens/minute<br>20 requests/day<br>10 requests/minute</td></tr> <tr><td>Gemma 3 27B Instruct</td><td>15,000 tokens/minute<br>14,400 requests/day<br>30 requests/minute</td></tr> <tr><td>Gemma 3 12B Instruct</td><td>15,000 tokens/minute<br>14,400 requests/day<br>30 requests/minute</td></tr> <tr><td>Gemma 3 4B Instruct</td><td>15,000 tokens/minute<br>14,400 requests/day<br>30 requests/minute</td></tr> <tr><td>Gemma 3 1B Instruct</td><td>15,000 tokens/minute<br>14,400 requests/day<br>30 requests/minute</td></tr> </tbody></table>
전화번호 인증 필요. 모델은 컨텍스트 윈도우가 제한되는 경향이 있습니다.
제한: 40 requests/minute
제한 (모델별): 1 request/second, 500,000 tokens/minute, 1,000,000,000 tokens/month
제한: 30 requests/minute, 2,000 requests/day
HuggingFace Serverless Inference는 10GB 미만의 모델로 제한됩니다. 일부 인기 모델은 10GB를 초과하더라도 지원됩니다.
지원되는 다양한 제공자로 라우팅합니다.
제한: $5/month
큐레이팅된 모델을 갖춘 AI 게이트웨이.
무료 모델은 개선을 위해 데이터를 사용할 수 있습니다.
<table><thead><tr><th>모델 이름</th><th>모델 제한</th></tr></thead><tbody> <tr><td>gpt-oss-120b</td><td>30 requests/minute<br>60,000 tokens/minute<br>900 requests/hour<br>1,000,000 tokens/hour<br>14,400 requests/day<br>1,000,000 tokens/day</td></tr> <tr><td>Llama 3.1 8B</td><td>30 requests/minute<br>60,000 tokens/minute<br>900 requests/hour<br>1,000,000 tokens/hour<br>14,400 requests/day<br>1,000,000 tokens/day</td></tr> </tbody></table>
<table><thead><tr><th>모델 이름</th><th>모델 제한</th></tr></thead><tbody> <tr><td>Allam 2 7B</td><td>7,000 requests/day<br>6,000 tokens/minute</td></tr> <tr><td>Llama 3.1 8B</td><td>14,400 requests/day<br>6,000 tokens/minute</td></tr> <tr><td>Llama 3.3 70B</td><td>1,000 requests/day<br>12,000 tokens/minute</td></tr> <tr><td>Llama 4 Scout Instruct</td><td>1,000 requests/day<br>30,000 tokens/minute</td></tr> <tr><td>Whisper Large v3</td><td>2,000 requests/day</td></tr> <tr><td>Whisper Large v3 Turbo</td><td>2,000 requests/day</td></tr> <tr><td>canopylabs/orpheus-arabic-saudi</td><td></td></tr> <tr><td>canopylabs/orpheus-v1-english</td><td></td></tr> <tr><td>groq/compound</td><td>250 requests/day<br>70,000 tokens/minute</td></tr> <tr><td>groq/compound-mini</td><td>250 requests/day<br>70,000 tokens/minute</td></tr> <tr><td>meta-llama/llama-prompt-guard-2-22m</td><td></td></tr> <tr><td>meta-llama/llama-prompt-guard-2-86m</td><td></td></tr> <tr><td>openai/gpt-oss-120b</td><td>1,000 requests/day<br>8,000 tokens/minute</td></tr> <tr><td>openai/gpt-oss-20b</td><td>1,000 requests/day<br>8,000 tokens/minute</td></tr> <tr><td>openai/gpt-oss-safeguard-20b</td><td>1,000 requests/day<br>8,000 tokens/minute</td></tr> <tr><td>qwen/qwen3-32b</td><td>1,000 requests/day<br>6,000 tokens/minute</td></tr> <tr><td>qwen/qwen3.6-27b</td><td>1,000 requests/day<br>8,000 tokens/minute</td></tr> </tbody></table>
제한:
20 requests/minute<br>1,000 requests/month
모델은 공통 월별 할당량을 공유합니다.
매우 제한적인 입력/출력 토큰 제한.
제한: Copilot 구독 티어(Free/Pro/Pro+/Business/Enterprise)에 따라 다름
</tbody></table>
크레딧: $1
모델: 다양한 오픈 모델
크레딧: $30
크레딧: $1
모델: 다양한 오픈 모델
크레딧: 1년간 $0.5
모델: [다양한 오픈 모델](