Ollama API gyors kezdő útmutató

Base URL és Hitelesítési Beállítás

Konfigurálja az ügyfélt a hosztolt végpontunkra. Állítsa be a base_url a https://api.apiollama.com/v1 és adja meg a kulcsot a Authorization fej. A hitelesítés a szabványos Bearer sémát. Kulcsot generálhat Google-fiókkal vagy e-maillel a kezelőfelületen. A rendszer egy aktív kulcsot hoz létre fiontonként.

Copycurl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

Tartsa a kulcsot biztonságban. Ha friss kulcsra van szüksége, generáljon újat az irányítópulton, és a régi azonnal inaktívvá válik. Nem szükséges telefonszám a beállításhoz. Ez a beállítás bármely OpenAI-kompatibilis ügyféllel működik.

POST /v1/chat/completions: Kérések küldése

Küldje el első chat-lezárás kérését a szabványos végpont használatával. Adja meg a modell azonosítóját mint uncensored a kérés törzsében. Az API szabványos üzenettömböket fogad, amelyek rendszer, felhasználó és asszisztens szerepeket tartalmaznak. Ez bármely SDK-val működik, amely támogatja az OpenAI formátumot. Győződj meg róla, hogy tartalmazza a model field in every request.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A kéréseket a szervereinkön keresztül dolgozzuk fel. A modell generált szöveggel válaszol a promptod alapján. Paramétereket, például temperature vagy top_p a véletlenszerűség vezérlését. A rendszer egy teljes válaszobjektumot ad vissza, amely tartalmazza a generált tartalmat.

GET /v1/models: Elérhető modellek listázása

Query a modellek végpontját az elérhető lehetőségek ellenőrzésére. Küldjön egy GET kérést a /v1/models a hosztolt modellek listázására. A válasz tartalmazza a id field set to uncensored. Ez a végpont megerősíti, hogy az API-kulcsa érvényes jogosultságokkal rendelkezik. Metaadatokat ad vissza a modell konfigurációjáról.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Használja ezt a hívást a kapcsolódási problémák hibakereséséhez. Ha a végpont hibát ad vissza, ellenőrizze a hitelesítési fejlécet. A végpont egy egyszerű listát biztosít az elérhető modellekről. Ellenőrizheti a szolgáltatás állapotát teljes chatkérés küldése nélkül.

Streamelési válaszok Szerveroldali Eseményekkel

A streamelés engedélyezéséhez állítsa a stream paramétert állítsa true-ra. Az API Server-Sent Events (SSE) formátumban ad vissza a valós idejű token-kiszállításhoz. Minden rész részleges tartalomfrissítéseket tartalmaz. Az utolsó rész tartalmazza a teljes token-használati statisztikákat. Ez csökkenti az észlelt késést hosszú válaszok esetén.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kezelje az SSE streamet az ügyfélkódban. Feldolgozza minden eseményt annak érkezésekor. Az utolsó esemény tartalmazza a usage object bemeneti és kimeneti token számokkal. A streamelés minden támogatott paraméterrel működik. Azonnali visszajelzést biztosít interaktív alkalmazásokhoz.

Konfigurációs paraméterek: Hőmérséklet, Top-p és egyebek

Állítsd be a generálási viselkedést a standard paraméterekkel. Állítsd be temperature a véletlenszerűségnek és top_p nukleáris mintavételezéshez. Használja stop sorozatokat a korai generálás leállításához. A seed a paraméter biztosítja a reprodukálható eredményeket. Ezt az értéket beállíthatja presence_penalty és frequency_penalty stílusvezérléshez.

A JSON elérhető via response_format. Állítsa be ezt erre: json_object strukturált kimenetekhez. A modell betartja a megadott formátumot. Ezek a paraméterek minden kérelemre érvényesek. Használja őket a válasz stílusának finomhangolásához.

Hibakezelés és token felhasználás jelentés

Kezeljen gyakori HTTP-hibákat az alkalmazásában. A 401 státusz érvénytelen API-kulcsot jelez. A 402 státusz azt jelenti, hogy az előre fizetett hitelét kimerítette. A 429 státusz azt jelzi, hogy túllépte a sebességkorlátot. Ellenőrizze a válasz törzsét a részletes hibauzenetekért. A tartalmi szabályzat miatti visszautasítások ingyenesek.

A kontextusablak 100 000 tokent tesz lehetővé. A kimenet kérésenként 16 000 tokenre van korlátozva. Az alapértelmezett kimenet 2 048 token, ha max_tokens nincs beállítva. A tokenhasználat a végleges stream chunk-ban van jelentve. A hibák nem fogyasztanak hitelt.