Ollama API-snelstartgids

Basis-URL en authenticatiesetup

Configureer je client om naar ons gehoste eindpunt te wijzen. Stel de base_url naar https://api.apiollama.com/v1 en geef je sleutel in de Authorization header. Authenticatie gebruikt de standaard Bearer schema. Je kunt een sleutel genereren via Google of e-mail op het dashboard. Het systeem maakt één actieve sleutel per account.

Copycurl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

Houd je sleutel veilig. Als je een frisse sleutel nodig hebt, genereer dan een nieuwe in het dashboard en wordt de oude onmiddellijk inactief. Er is geen telefoonnummer nodig voor de setup. Deze opstelling werkt met elke OpenAI-compatible client.

POST /v1/chat/completions: Verzoeken versturen

Stuur uw eerste chatcompletieverzoek via het standaard eindpunt. Geef de model-ID op als uncensored in de request body. De API accepteert standaard message-arrays met system-, user- en assistant-rolls. Dit werkt met elke SDK die het OpenAI-formaat ondersteunt. Zorg ervoor dat u de model veld in elk verzoek.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Verzoeken worden via onze servers verwerkt. Het model reageert met gegenereerde tekst op basis van uw prompt. U kunt parameters aanpassen zoals temperature of top_p om de willekeurigheid te bepalen. Het systeem retourneert een compleet response-object met de gegenereerde inhoud.

GET /v1/models: Beschikbare modellen weergeven

Vraag het modellen-eindpunt op om de beschikbare opties te verifiëren. Stuur een GET-verzoek naar /v1/models om de gehoste modellen weer te geven. De respons bevat de id veld ingesteld op uncensored. Dit endpoint bevestigt dat je API-sleutel geldige rechten heeft. Het retourneert metadata over de modelconfiguratie.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gebruik deze aanroep om verbindingsproblemen te debuggen. Als het eindpunt een fout retourneert, controleer dan je authenticatieheader. Het eindpunt biedt een eenvoudige lijst met beschikbare modellen. Je kunt de servicestatus verifiëren zonder een volledig chatverzoek te sturen.

Streaming-responsen met Server-Sent Events

Schakel streamen in door de stream parameter naar true. De API retourneert Server-Sent Events (SSE) voor realtime tokenlevering. Elke chunk bevat updates van gedeeltelijke inhoud. De laatste chunk bevat de volledige tokenverbruiksstatistieken. Dit vermindert de waargenomen latentie voor lange responsen.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Verwerk de SSE-stream in je clientcode. Verwerk elk gebeurtenis zodra deze aankomt. Het laatste gebeurtenis bevat de usage object met input- en outputtokenaantallen. Streaming werkt met alle ondersteunde parameters. Het biedt directe feedback voor interactieve toepassingen.

Configuratieparameters: Temperature, Top-p en meer

Pas het generatiegedrag aan met standaardparameters. Stel temperature voor willekeur en top_p voor nucleus sampling. Gebruik stop sequenties om de generatie vroegtijdig te stoppen. De seed parameter zorgt voor reproduceerbare resultaten. Je kunt deze ook expliciet instellen presence_penalty en frequency_penalty voor stijlcontrole.

JSON-modus is beschikbaar via response_format. Stel dit in op json_object voor gestructureerde uitvoer. Het model houdt zich aan het opgegeven formaat. Deze parameters zijn van toepassing op alle requests. Gebruik ze om de responsstijl af te stemmen.

Fouthantering en Tokengebruiksrapportage

Verwerk veelvoorkomende HTTP-statuscodes om clientfouten soepel af te handelen. Een 401-fout geeft een ongeldige of ontbrekende API-sleutel aan. Een 402-fout betekent dat je vooruitbetaalde tegoed op is; vul aan via crypto om de dienst te hervatten. Een 429-fout signaleert dat je de snelheidslimiet van 300 requests per minuut hebt overschreden.

Het contextvenster ondersteunt in totaal 100.000 tokens. Uitvoer is beperkt tot 16.000 tokens per verzoek. Standaard uitvoer is 2.048 tokens als max_tokens is niet ingesteld. Tokengebruik wordt gerapporteerd in het laatste streamchunk. Fouten verbruiken geen credit.