Meta/meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
Meta Llama 3.1 70B Instruct Turbo
텍스트
컨텍스트: 131K입출력:
모델 소개
Meta Llama 3.1 70B Instruct Turbo는 Meta의 Llama 3.1 계열에서 일반 대화, 문서 이해, 텍스트 생성에 맞춘 모델입니다. PleumRouter 카탈로그 기준 지시 튜닝 구성의 컨텍스트는 최대 131,072토큰이고 최대 출력은 32,768토큰입니다.
공식 출처
- Llama model cards and prompt formatsMeta · 확인 2026-07-27
입력 가격
₩539/ 1M
출력 가격
₩539/ 1M
컨텍스트
131K토큰
최대 출력
32.8K토큰
누적 호출
1회
누적 토큰
64tokens
주간 호출
0회
주간 토큰
0tokens
제공자
이 모델은 DeepInfra가 서빙합니다.
| 제공자 | 입력 /1M | 출력 /1M | 캐시읽기 /1M | 첫 토큰 | 처리량 | 업타임 | 컨텍스트 |
|---|---|---|---|---|---|---|---|
| DeepInfra | ₩539 | ₩539 | — | — | — | 100% | 131K |
DeepInfra
- 입력 /1M
- ₩539
- 출력 /1M
- ₩539
- 캐시읽기 /1M
- —
- 첫 토큰
- —
- 처리량
- —
- 업타임
- 100%
- 컨텍스트
- 131K
실질 단가
캐시 적용 후 지난 30일 평균 — 우리 트래픽 기준
입력 평균
—/ 1M
출력 평균
—/ 1M
캐시 적중률
—
활동
빠른 시작
quickstart.py
from openai import OpenAI
client = OpenAI(
api_key="plm_xxxxxxxxxxxxxxxx",
base_url="https://apirouter.pleum.ai/v1",
)
response = client.chat.completions.create(
model="meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo",
messages=[{"role": "user", "content": "Hello"}],
)