el ▾

API Ollama Uncensored φιλοξενημένο, Συμβατό με OpenAI

Οδηγός Γρήγορης Έναρξης API Ollama

Αυτό το εγχειρίδιο παρέχει τις απαραίτητες ρυθμίσεις για τη σύνδεση στην API LLM χωρίς λογοκρισία. Χρησιμοποιήστε το τυπικό SDK OpenAI για την αποστολή αιτημάτων στη φιλοξενούμενη διεπαφή μας με ελάχιστη ρύθμιση.

Ρύθμιση Βασικού URL και Αυθεντικοποίησης

Ρυθμίστε τον πελάτη σας να κατευθύνει στο endpoint μας. Ορίστε το base_url για https://api.apiollama.com/v1 και παρέχετε το key στο Authorization header. Η πιστοποίηση χρησιμοποιεί το τυπικό Bearer σχήμα. Μπορείτε να δημιουργήσετε ένα κλειδί μέσω Google ή email στο dashboard. Το σύστημα δημιουργεί ένα ενεργό κλειδί ανά λογαριασμό.

curl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

Κρατήστε το κλειδί σας ασφαλές. Αν χρειάζεστε ένα φρέσκο κλειδί, δημιουργήστε ένα νέο στο dashboard και το παλιό γίνεται ανενεργό αμέσως. Δεν απαιτείται αριθμός τηλεφώνου για τη ρύθμιση. Αυτή η ρύθμιση λειτουργεί με οπονν πελάτη συμβατό με OpenAI.

POST /v1/chat/completions: Αποστολή Αιτήσεων

Στείλτε το πρώτο αίτημα ολοκλήρωσης συνομιλίας χρησιμοποιώντας το τυπικό endpoint. Ορίστε το ID μοντέλου ως uncensored στο request body. Το API δέχεται τυπικά message arrays που περιέχουν roles system, user και assistant. Αυτό λειτουργεί με οποιοδήποτε SDK που υποστηρίζει το OpenAI format. Βεβαιωθείτε ότι περιλαμβάνετε το model field σε κάθε αίτημα.

from openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Οι αιτήσεις επεξεργάζονται μέσω των servers μας. Το μοντέλο απαντά με παραγόμενο κείμενο βάσει του prompt σας. Μπορείτε να προσαρμόσετε παραμέτρους όπως temperature ή top_p για τον έλεγχο τυχαίοτητας. Το σύστημα επιστρέφει ένα πλήρες αντικείμενο απόκρισης που περιέχει το παραγόμενο περιεχόμενο.

GET /v1/models: Λίστα Διαθέσιμων Μοντέλων

Κάντε ερώτημα στο endpoint των μοντέλων για να επαληθεύσετε τις διαθέσιμες επιλογές. Στείλτε ένα αίτημα GET στο /v1/models για να καταγράψετε τα φιλοξενούμενα μοντέλα. Η απόκριση περιλαμβάνει το id field ορισμένο σε uncensored. Αυτό το endpoint επιβεβαιώνει ότι το API key σας έχει έγκυρα δικαιώματα. Επιστρέφει metadata σχετικά με τη διαμόρφωση του μοντέλου.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Χρησιμοποιήστε αυτή την κλήση για debugging προβλημάτων σύνδεσης. Αν το endpoint επιστρέψει σφάλμα, ελέγξτε την κεφαλίδα αυθεντικοποίησής σας. Το endpoint παρέχει μια απλή λίστα διαθέσιμων μοντέλων. Μπορείτε να επαληθεύσετε την κατάσταση της υπηρεσίας χωρίς να στείλετε μια πλήρη αίτηση συνομιλίας.

Streaming Αποκρίσεις με Server-Sent Events

Ενεργοποιήστε τη ροή δεδομένων (streaming) ορίζοντας το stream parameter to true. The API returns Server-Sent Events (SSE) for real-time token delivery. Each chunk contains partial content updates. The final chunk includes the complete token usage statistics. This reduces perceived latency for long responses.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Διαχειριστείτε τη ροή (stream) SSE στον κώδικα του πελάτη σας. Επεξεργαστείτε κάθε γεγονός καθώς φτάνει. Το τελευταίο γεγονός περιέχει το usage αντικείμενο με μετρήσεις tokens εισόδου και εξόδου. Η ροή (streaming) λειτουργεί με όλες τις υποστηριζόμενες παραμέτρους. Παρέχει άμεση ανατροφοδότηση για διαδραστικές εφαρμογές.

Παράμετροι διαμόρφωσης: Θερμοκρασία, Top-p και άλλα

Προσαρμόστε τη συμπεριφορά παραγωγής χρησιμοποιώντας τυπικές παραμέτρους. Ορίστε temperature για τυχαιότητα και top_p για δειγματοληψία πυρήνα. Χρησιμοποιήστε stop ακολουθίες για να διακόψετε τη δημιουργία νωρίς. Το seed η παράμετρος εξασφαλίζει αναπαραγώγιμα αποτελέσματα. Μπορείτε επίσης να ορίσετε presence_penalty και frequency_penalty για έλεγχο στυλ.

Η λειτουργία JSON είναι διαθέσιμη μέσω response_format. Ορίστε αυτό σε json_object για δομημένες εξόδους. Το μοντέλο συμμορφώνεται με τη καθορισμένη μορφή. Αυτές οι παράμετροι ισχύουν για όλες τις αιτήσεις. Χρησιμοποιήστε τις για να προσαρμόσετε το στυλ της απάντησης.

Χειρισμός Σφαλμάτων και Αναφορά Χρήσης Token

Διαχειριστείτε τα συνηθισμένα σφάλματα HTTP στην εφαρμογή σας. Ο κωδικός 401 υποδηλώνει μη έγκυρο κλειδί API. Ο κωδικός 402 σημαίνει ότι το προκαταβλημένο πιστωτικό σας υπόλοιπο εξαντλήθηκε. Ο κωδικός 429 σηματοδοτεί ότι έχετε ξεπεράσει το όριο ρυθμού. Ελέγξτε το σώμα της απόκρισης για λεπτομερή μηνύματα σφάλματος. Οι απορρίψεις λόγω πολιτικής περιεχομένου είναι δωρεάν.

Το παράθυρο συμφραζομένων υποστηρίζει συνολικά 100.000 tokens. Η έξοδος περιορίζεται σε 16.000 tokens ανά αίτημα. Η προεπιλεγμένη έξοδος είναι 2.048 tokens αν max_tokens είναι μη ρυθμισμένο. Η χρήση tokens αναφέρεται στο τελευταίο chunk ροής. Τα σφάλματα δεν καταναλώνουν πιστωτικό υπόλοιπο.

Συχνές ερωτήσεις

Ποια είναι η διεύθυνση URL API ollama για την hosted υπηρεσία;

Η βασική διεύθυνση URL είναι HTTPS://api.apiollama.com/v1. Αυτό το endpoint είναι συμβατό με τα τυπικά SDK της OpenAI. Αρκεί να ενημερώσετε τη διεύθυνση base_url και το API key στη διαμόρφωσή σας.

Το μοντέλο LLM χωρίς φιλτράρισμα υποστηρίζει streaming;

Ναι, υποστηρίζεται streaming μέσω Server-Sent Events. Ορίστε την παράμετρο stream σε true στην αίτησή σας. Το τελευταίο chunk περιλαμβάνει στατιστικά χρήσης tokens για διαφάνεια στις χρεώσεις.

Ποια είναι τα context window limits;

Το μοντέλο υποστηρίζει παράθυρο πλαισίου 100.000 tokens. Η μέγιστη έξοδος είναι 16.000 tokens ανά αίτημα. Αν δεν ορίσετε max_tokens, η προεπιλεγμένη έξοδος είναι 2.048 tokens.

Κτήστε το κλειδί API σας αμέσως.

Εγγραφείτε, αντιγράψτε τα διαπιστευτήρια, ενημερώστε το endpoint. Αυτό είναι όλο.

Αποκτήστε κλειδί δοκιμής