Guida Rapida API Ollama

Configurazione URL Base e Autenticazione

Configura il tuo client per puntare al nostro endpoint ospitato. Imposta il base_url a https://api.apiollama.com/v1 e fornisci la tua chiave in Authorization header. L'autenticazione utilizza lo standard Bearer schema. Puoi generare una chiave tramite Google o email dalla dashboard. Il sistema crea una chiave attiva per account.

Copycurl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

Tieni la tua chiave al sicuro. Se hai bisogno di una chiave nuova, generane una nella dashboard e quella vecchia diventerà inattiva immediatamente. Non è richiesto un numero di telefono per la configurazione. Questa configurazione funziona con qualsiasi client compatibile con OpenAI.

POST /v1/chat/completions: Invio delle richieste

Invia la tua prima richiesta di chat completion utilizzando l'endpoint standard. Specifica l'ID del modello come uncensored nel corpo della richiesta. L'API accetta array di messaggi standard contenenti ruoli system, user e assistant. Questo funziona con qualsiasi SDK che supporti il formato OpenAI. Assicurati di includere il model field in ogni richiesta.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Le richieste vengono elaborate attraverso i nostri server. Il modello risponde con testo generato in base al tuo prompt. Puoi regolare parametri come temperature o top_p per controllare la casualità. Il sistema restituisce un oggetto di risposta completo contenente il contenuto generato.

GET /v1/models: Elenco dei modelli disponibili

Interroga l'endpoint dei modelli per verificare le opzioni disponibili. Invia una richiesta GET a /v1/models per elencare i modelli ospitati. La risposta include il id field impostato a uncensored. Questo endpoint conferma che la tua API key ha autorizzazioni valide. Restituisce metadati sulla configurazione del modello.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Usa questa chiamata per risolvere i problemi di connessione. Se l'endpoint restituisce un errore, controlla la tua intestazione di autenticazione. L'endpoint fornisce un elenco semplice dei modelli disponibili. Puoi verificare lo stato del servizio senza inviare una richiesta di chat completa.

Risposte in streaming con Server-Sent Events

Abilita lo streaming impostando il stream impostare il parametro su true. L'API restituisce Server-Sent Events (SSE) per la consegna dei token in tempo reale. Ogni chunk contiene aggiornamenti di contenuto parziale. L'ultimo chunk include le statistiche complete di utilizzo dei token. Questo riduce la latenza percepita per le risposte lunghe.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gestisci lo stream SSE nel codice del tuo client. Elaborare ogni evento man mano che arriva. L'ultimo evento contiene il usage oggetto con i conteggi dei token di input e output. Lo streaming funziona con tutti i parametri supportati. Fornisce feedback immediato per le applicazioni interattive.

Parametri di configurazione: Temperatura, Top-p e altro

Regola il comportamento di generazione utilizzando parametri standard. Imposta temperature per la casualità e top_p per il campionamento nucleare. Usa stop sequenze per interrompere la generazione anticipatamente. Il seed il parametro garantisce risultati riproducibili. Puoi anche impostare presence_penalty e frequency_penalty per il controllo dello stile.

La modalità JSON è disponibile tramite response_format. Imposta questo a json_object per output strutturati. Il modello aderisce al formato specificato. Questi parametri si applicano a tutte le richieste. Usali per perfezionare lo stile della risposta.

Gestione degli errori e report sull'utilizzo dei token

Gestisci gli errori HTTP comuni nella tua applicazione. Uno status 401 indica una chiave API non valida. Uno status 402 significa che il tuo credito prepagato è esaurito. Uno status 429 segnala che hai superato il limite di frequenza. Controlla il corpo della risposta per messaggi di errore dettagliati. I rifiuti dovuti alla policy sui contenuti sono gratuiti.

La finestra di contesto supporta un totale di 100.000 token. L'output è limitato a 16.000 token per richiesta. L'output predefinito è di 2.048 token se max_tokens è non impostato. L'utilizzo dei token viene segnalato nell'ultimo chunk dello stream. Gli errori non consumano credito.