Ollama API-snabbstartsguide

Bas URL och autentisering setup

Konfigurera din klient att peka mot vår värdade slutpunkt. Ställ in base_url för https://api.apiollama.com/v1 och ange din nyckel i Authorization header. Autentiseringen använder standard Bearer schema. Du kan generera en nyckel via Google eller e-post i dashboarden. Systemet skapar en aktiv nyckel per konto.

Copycurl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

Håll din nyckel säker. Om du behöver en färsk nyckel, generera en ny i kontrollpanelen och den gamla blir inaktiv omedelbart. Inget telefonnummer krävs för installation. Denna konfiguration fungerar med alla OpenAI-compatible klienter.

POST /v1/chat/completions: Skicka förfrågningar

Skicka din första chattkompletteringsförfrågan med standardslutpunkten. Ange modell-ID:t som uncensored i begärdekroppen. API:et accepterar standard meddelandefält som innehåller system-, användar- och assistentroller. Detta fungerar med vilket SDK som helst som stöder OpenAI-formatet. Se till att du inkluderar model field in every request.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Begäran bearbetas via våra servrar. Modellen svarar med genererad text baserat på din prompt. Du kan justera parametrar som temperature eller top_p för att styra slumpmässighet. Systemet returnerar ett komplett svarsobjekt som innehåller det genererade innehållet.

GET /v1/models: Lista tillgängliga modeller

Fråga models-slutpunkten för att verifiera tillgängliga alternativ. Skicka en GET-förfrågan till /v1/models för att lista värdade modeller. Svaret innehåller den id field set to uncensored. Denna slutpunkt bekräftar att ditt API-nyckel har giltiga behörigheter. Den returnerar metadata om modellkonfigurationen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Använd detta anrop för att felsöka anslutningsproblem. Om ändpunkten returnerar ett fel, kontrollera ditt autentiseringshuvud. Ändpunkten tillhandahåller en enkel lista över tillgängliga modeller. Du kan verifiera tjänstens status utan att skicka en full chattförfrågan.

Strömningsresponser med Server-Sent Events

Aktivera strömning genom att ställa in stream parameter till true. API:et returnerar Server-Sent Events (SSE) för realtidsleverans av tokens. Varje bit innehåller uppdateringar av delvis innehåll. Den sista biten innehåller fullständig tokenanvändningsstatistik. Detta minskar den upplevda latensen för långa svar.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Hantera SSE-strömmen i din klientkod. Bearbeta varje händelse när den anländer. Den sista händelsen innehåller den usage objekt med in- och uttokenantal. Streaming fungerar med alla stödda parametrar. Det ger omedelbar feedback för interaktiva applikationer.

Konfigurationsparametrar: Temperatur, Top-p och mer

Justera genereringsbeteende med standardparametrar. Ställ in temperature för slumpmässighet och top_p för nucleus sampling. Använd stop sekvenser för att avbryta genereringen i förtid. Den seed parametern säkerställer reproducerbara resultat. Du kan också ställa in presence_penalty och frequency_penalty för stilkontroll.

JSON-läget är tillgängligt via response_format. Ställ in detta till json_object för strukturerade utdata. Modellen följer det angivna formatet. Dessa parametrar gäller för alla begäranden. Använd dem för att finjustera svarsstilen.

Felfhantering och rapportering av tokenanvändning

Hantera vanliga HTTP-statuskoder i din applikation. En 401-status indikerar en ogiltig API-nyckel. En 402-status betyder att ditt förbetalda kredit är slut. En 429-status signalerar att du har överskridit hastighetsbegränsningen. Kontrollera svarskroppen för detaljerade felmeddelanden. Vägran på grund av innehållspolicy är gratis.

Kontextrutan stöder totalt 100 000 tokens. Utmatningen är begränsad till 16 000 tokens per begäran. Standard utmatning är 2 048 tokens om max_tokens är inställt. Tokenanvändning rapporteras i den sista strömmchunken. Fel konsumerar inte kredit.