Ollama API 빠른 시작 가이드

Base URL 및 인증 설정

클라이언트를 우리 호스팅 엔드포인트로 연결하세요. 설정 base_url 수신하여 https://api.apiollama.com/v1 키를 Authorization 헤더입니다. 인증은 표준 Bearer 스키마입니다. 대시보드에서 Google 또는 이메일로 키를 생성할 수 있습니다. 시스템은 계정당 하나의 활성 키를 생성합니다.

Copycurl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

키는 안전하게 보관하세요. 새 키가 필요하면 대시보드에서 새 키를 생성하면 이전 키가 즉시 비활성화됩니다. 설정에 전화번호가 필요하지 않습니다. 이 설정은 모든 OpenAI-compatible 클라이언트와 호환됩니다.

POST /v1/chat/completions: 요청 보내기

표준 엔드포인트를 사용하여 첫 번째 채팅 완성 요청을 보내세요. 모델 ID를 다음과 같이 지정하세요. uncensored 요청 본문에서. API는 시스템, 사용자 및 어시스턴트 역할을 포함하는 표준 메시지 배열을 허용합니다. OpenAI 형식을 지원하는 모든 SDK와 함께 작동합니다. model field in every request.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

요청은 당사 서버를 통해 처리됩니다. 모델은 프롬프트를 기반으로 생성된 텍스트로 응답합니다. 다음과 같은 매개변수를 조정할 수 있습니다. temperature 또는 top_p 무작위성을 제어합니다. 시스템은 생성된 콘텐츠를 포함하는 전체 응답 객체를 반환합니다.

GET /v1/models: 사용 가능한 모델 나열

사용 가능한 옵션을 확인하기 위해 모델 엔드포인트를 쿼리합니다. 에 GET 요청을 보내세요. /v1/models 호스팅된 모델을 나열합니다. 응답에는 id field set to uncensored. 이 엔드포인트는 API 키에 유효한 권한이 있는지 확인합니다. 모델 구성에 대한 메타데이터를 반환합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

연결 문제 디버깅을 위해 이 호출을 사용하세요. 엔드포인트가 오류를 반환하면 인증 헤더를 확인하세요. 엔드포인트는 사용 가능한 모델의 간단한 목록을 제공합니다. 전체 채팅 요청을 보내지 않고도 서비스 상태를 확인할 수 있습니다.

서버 전송 이벤트(SSE)를 사용한 스트리밍 응답

스트리밍을 활성화하려면 stream true로 설정하세요. API는 실시간 토큰 전달을 위해 서버 전송 이벤트(SSE)를 반환합니다. 각 청크에는 부분 콘텐츠 업데이트가 포함됩니다. 마지막 청크에는 전체 토큰 사용량 통계가 포함됩니다. 이는 긴 응답의 지각된 지연 시간을 줄입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

클라이언트 코드에서 SSE 스트림을 처리하세요. 이벤트가 도착하는 대로 각 이벤트를 처리하세요. 마지막 이벤트에는 usage 입력 및 출력 토큰 수를 포함하는 object입니다. 스트리밍은 모든 지원 매개변수와 함께 작동합니다. 대화형 애플리케이션에 즉각적인 피드백을 제공합니다.

구성 매개변수: 온도, Top-p 등

표준 매개변수를 사용하여 생성 동작을 조정합니다. 설정 temperature 무작위성 및 top_p nucleus sampling을 위해. Use stop 생성을 조기에 중단하기 위한 시퀀스. seed 파라미터는 재현 가능한 결과를 보장합니다. 또한 설정할 수도 있습니다. presence_penalty 및 frequency_penalty 스타일 제어용.

JSON 모드는 다음을 통해 제공됩니다 response_format다음으로 설정하세요 json_object 구조화된 출력을 위해. 이 모델은 지정된 형식을 준수합니다. 이러한 매개변수는 모든 요청에 적용됩니다. 응답 스타일을 미세 조정하는 데 사용하세요.

오류 처리 및 토큰 사용량 보고

애플리케이션에서 일반적인 HTTP 상태 코드를 처리하세요. 401 상태는 유효하지 않은 API 키를 나타냅니다. 402 상태는 사전 지불 크레딧이 고갈되었음을 의미합니다. 429 상태는 속도 제한을 초과했음을 나타냅니다. 상세 오류 메시지에 대한 응답 본문을 확인하세요. 콘텐츠 정책으로 인한 거부 사항은 무료입니다.

컨텍스트 창은 총 100,000개의 토큰을 지원합니다. 출력은 요청당 16,000개 토큰으로 제한됩니다. 미지정 시 기본 출력은 2,048개 토큰입니다. max_tokens 설정되지 않음). 토큰 사용량은 마지막 스트림 청크에서 보고됩니다. 오류는 크레딧을 소모하지 않습니다.