Panduan Cepat API Ollama

Pengaturan URL Dasar dan Autentikasi

Konfigurasikan klien Anda untuk mengarah ke endpoint yang di-host kami. Setel base_url ke https://api.apiollama.com/v1 dan berikan kunci Anda di Authorization header. Autentikasi menggunakan standar Bearer skema. Anda dapat membuat kunci melalui Google atau email di dasbor. Sistem membuat satu kunci aktif per akun.

Copycurl https://api.apiollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list installed models"}]
  }'

Jaga kunci Anda tetap aman. Jika Anda membutuhkan kunci baru, hasilkan kunci baru di dasbor dan kunci lama menjadi tidak aktif segera. Tidak diperlukan nomor telepon untuk pengaturan. Pengaturan ini kompatibel dengan klien apa pun yang kompatibel dengan OpenAI.

POST /v1/chat/completions: Mengirim Permintaan

Kirim permintaan penyelesaian chat pertama Anda menggunakan endpoint standar. Tentukan ID model sebagai uncensored dalam tubuh permintaan. API menerima array pesan standar yang berisi peran sistem, pengguna, dan asisten. Ini berfungsi dengan SDK apa pun yang mendukung format OpenAI. Pastikan Anda menyertakan model field in every request.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Permintaan diproses melalui server kami. Model merespons dengan teks yang dihasilkan berdasarkan prompt Anda. Anda dapat menyesuaikan parameter seperti temperature atau top_p untuk mengontrol acak. Sistem mengembalikan objek respons lengkap yang berisi konten yang dihasilkan.

GET /v1/models: Daftar Model yang Tersedia

Kirim pertanyaan ke endpoint models untuk memverifikasi opsi yang tersedia. Kirim permintaan GET ke /v1/models untuk daftar model yang di-host. Respons mencakup id field set to uncensored. Endpoint ini mengonfirmasi bahwa kunci API Anda memiliki izin yang valid. Endpoint ini mengembalikan metadata tentang konfigurasi model.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gunakan panggilan ini untuk men-debug masalah koneksi. Jika endpoint mengembalikan error, periksa header autentikasi Anda. Endpoint menyediakan daftar model yang tersedia secara sederhana. Anda dapat memverifikasi status layanan tanpa mengirim permintaan chat penuh.

Respons Streaming dengan Server-Sent Events

Aktifkan streaming dengan mengatur stream parameter menjadi true. API mengembalikan Server-Sent Events (SSE) untuk pengiriman token secara real-time. Setiap potongan berisi pembaruan konten parsial. Potongan terakhir mencakup statistik penggunaan token lengkap. Ini mengurangi latensi yang dirasakan untuk respons panjang.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani stream SSE dalam kode klien Anda. Proses setiap peristiwa saat tiba. Peristiwa terakhir berisi usage object dengan jumlah token input dan output. Streaming berfungsi dengan semua parameter yang didukung. Ini memberikan umpan balik langsung untuk aplikasi interaktif.

Parameter Konfigurasi: Suhu, Top-p, dan Lainnya

Sesuaikan perilaku generasi menggunakan parameter standar. Atur temperature untuk keacakan dan top_p untuk sampling nuklir. Gunakan stop urutan untuk menghentikan generasi lebih awal. The seed parameter memastikan hasil yang dapat direproduksi. Anda juga dapat mengatur presence_penalty dan frequency_penalty untuk kontrol gaya.

Mode JSON tersedia melalui response_format. Setel ini menjadi json_object untuk output terstruktur. Model mematuhi format yang ditentukan. Parameter-parameter ini berlaku untuk semua permintaan. Gunakan untuk menyesuaikan gaya respons.

Penanganan Kesalahan dan Pelaporan Penggunaan Token

Tangani kesalahan HTTP umum dalam aplikasi Anda. Status 401 menunjukkan kunci API tidak valid. Status 402 berarti kredit prabayar Anda habis. Status 429 menandakan bahwa Anda telah melebihi batas laju. Periksa tubuh respons untuk pesan kesalahan terperinci. Penolakan karena kebijakan konten gratis.

Jendela konteks mendukung total 100.000 token. Output dibatasi hingga 16.000 token per permintaan. Output default adalah 2.048 token jika max_tokens tidak diatur. Penggunaan token dilaporkan dalam potongan aliran akhir. Kesalahan tidak mengonsumsi kredit.