Tài liệu API Hermes: Bắt đầu nhanh

Cài đặt và Thiết lập

API hermes hoạt động với bất kỳ khách hàng nào hỗ trợ định dạng OpenAI. Bạn cần một URL cơ sở và một khóa API. Tạo tài khoản qua Google hoặc email trên trang Get API key. Hệ thống hiển thị khóa của bạn ngay lập tức. Không cần số điện thoại. Bạn nhận được $0.50 tín dụng dùng thử trong bảy ngày. Nạp tiền sau bằng tiền điện tử.

• Base URL: HTTPS://api.apihermes.cc/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY
• ID Mô hình: uncensored

Cài đặt SDK ưa thích của bạn và đặt URL cơ sở. Endpoint này yêu cầu các tham số hoàn thành chat tiêu chuẩn. Giữ khóa của bạn an toàn. Một khóa sẽ thay thế khóa trước đó nếu bạn tạo khóa mới.

Yêu cầu Hoàn thành Trò chuyện Cơ bản

Một yêu cầu cơ bản gửi tin nhắn và nhận phản hồi văn bản. ID mô hình là không kiểm duyệt. Nó xử lý nội dung người trưởng thành hợp pháp mà không từ chối. Bạn trả tiền theo token đã sử dụng. Lỗi và từ chối không tốn phí. Cửa sổ ngữ cảnh chứa tổng cộng 100.000 token.

Cấu trúc yêu cầu của bạn với một thông điệp system và thông điệp user. API trả về một phần hoàn thành. Bạn có thể đặt max_tokens để kiểm soát độ dài đầu ra. Giới hạn đầu ra mặc định là 2.048 token. Bạn có thể nâng mức này lên 16.000 token mỗi yêu cầu. Phát trực tiếp hoạt động qua SSE. Gọi hàm có sẵn. Chế độ JSON được hỗ trợ.

Copycurl https://api.apihermes.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a GET request for the user endpoint"}]
  }'

Thân yêu cầu bị giới hạn ở 8 MB. Giới hạn tốc độ là 300 yêu cầu mỗi phút. Độ đồng thời là tám yêu cầu cùng lúc. Logic thử lại xử lý quá tải máy chủ một cách nhẹ nhàng.

Phản hồi luồng với SSE

Streaming gửi các token khi chúng được tạo. Máy chủ gửi các Sự kiện được gửi bởi máy chủ (SSE). Mỗi chunk chứa văn bản từng phần. Chunk cuối cùng bao gồm thống kê sử dụng token. Cách tiếp cận này giảm độ trễ cảm nhận đối với các phản hồi dài. Nó rất lý tưởng cho các giao diện chat. Bạn phải xử lý luồng đúng cách. Các kết nối có thể bị ngắt. API không đảm bảo thứ tự giao hàng ngoài luồng chính nó.

Đặt tham số stream thành true. Phân tích các dòng dữ liệu. Nối nội dung. Kiểm tra finish_reason để xác nhận hoàn tất. Mô hình uncensored hoạt động với bất kỳ SDK tương thích OpenAI nào. Định cấu hình client để xử lý SSE. Theo dõi số lượng token. URL cơ bản vẫn giữ nguyên. Xác thực giống hệt nhau. Không cần thiết lập bổ sung.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Lỗi xuất hiện trong luồng. Xử lý chúng bằng cách đóng kết nối. Tín dụng trả trước chỉ được trừ cho các token đã hoàn tất. Điều này tiết kiệm tiền trong thời gian gián đoạn. Bạn không bao giờ trả tiền cho đầu ra rác một phần. Hệ thống minh bạch.

Sử dụng Function Calling và Công cụ

Function calling cho phép mô hình thực thi mã hoặc công cụ. Định nghĩa công cụ trong thân yêu cầu. Mô hình trả về một lệnh gọi công cụ. Bạn thực thi công cụ. Bạn gửi kết quả trở lại. Mô hình tạo phản hồi cuối cùng. Điều này cho phép các quy trình làm việc phức tạp. Nó không chỉ là một trình bao bọc trò chuyện. API hỗ trợ công cụ và tool_choice. Sử dụng điều này cho các tác nhân hoặc tự động hóa.

Cấu trúc mảng công cụ. Bao gồm tên, mô tả và các tham số. Mô hình quyết định khi nào gọi công cụ. Bạn phải phân tích cú pháp các đối số. Thực thi hàm. Truyền kết quả đầu ra vào cuộc trò chuyện. Mô hình tiếp tục. Chu kỳ này lặp lại cho đến khi có câu trả lời cuối cùng. Cửa sổ ngữ cảnh theo dõi tất cả các tương tác công cụ. Theo dõi việc sử dụng token. Chi phí tăng lên với các đầu ra công cụ. Theo dõi việc sử dụng trong phần cuối cùng.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apihermes.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mô hình không kiểm duyệt xử lý các lược đồ công cụ đa dạng. Nó không từ chối dựa trên nội dung. Sử dụng điều này cho nhập vai hoặc các nhiệm vụ kỹ thuật. API đáng tin cậy. Không có lỗi. Hệ thống trả trước đảm bảo sự công bằng. Bạn kiểm soát luồng. URL cơ bản ổn định. Xác thực đơn giản.

Chế độ JSON và tham số

Chế độ JSON bắt buộc mô hình xuất ra JSON hợp lệ. Đặt response_format thành json_object. Điều này hữu ích cho dữ liệu có cấu trúc. Mô hình tránh các bao bọc markdown. Nó trả về JSON thô. Sử dụng điều này để phân tích cú pháp. Nó cải thiện độ tin cậy. Cửa sổ ngữ cảnh vẫn áp dụng. Bạn trả tiền cho token. Mô hình không bị kiểm duyệt tôn trọng định dạng. Nó không từ chối dựa trên nội dung.

Các tham số bao gồm nhiệt độ, top_p, stop, seed, presence_penalty và frequency_penalty. Nhiệt độ kiểm soát tính ngẫu nhiên. Top_p kiểm soát sự đa dạng. Các chuỗi dừng dừng quá trình tạo. Seed đảm bảo khả năng tái lập. Hình phạt hiện diện và tần suất điều chỉnh việc sử dụng token. Đặt những giá trị này để tinh chỉnh đầu ra. API hỗ trợ tất cả các tham số tiêu chuẩn. Sử dụng chúng để tinh chỉnh phản hồi. URL cơ bản vẫn giữ nguyên. Xác thực giống hệt nhau.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apihermes.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Lỗi được xử lý thông qua mã trạng thái HTTP. 401 nghĩa là khóa không hợp lệ. 402 nghĩa là hết tín dụng. 429 nghĩa là vượt quá giới hạn tốc độ. Hãy xử lý các lỗi này trong mã của bạn. Tín dụng trả trước chỉ bị trừ cho các token hoàn tất. Điều này đảm bảo sự công bằng. Bạn không bao giờ phải trả tiền cho đầu ra bị ngắt quãng. Hệ thống minh bạch. Mô hình không kiểm duyệt rất đáng tin cậy. Hãy sử dụng nó cho bất kỳ tác vụ hợp pháp nào.

Xử lý lỗi và Giới hạn tốc độ

API trả về các mã trạng thái HTTP tiêu chuẩn. 401 cho biết khóa API không hợp lệ. 402 cho biết tín dụng trả trước không đủ. 429 cho biết giới hạn tốc độ. Giới hạn là 300 yêu cầu mỗi phút. Độ đồng thời là tám yêu cầu cùng lúc. Thân yêu cầu bị giới hạn ở mức 8 MB. Hãy xử lý các lỗi này một cách duyên dáng. Hãy thử lại với cơ chế backoff theo cấp số nhân. Mô hình không kiểm duyệt không từ chối nội dung hợp pháp. Các lỗi là miễn phí. Bạn không phải trả tiền cho các yêu cầu thất bại. Tín dụng trả trước được bảo mật. Nó không bao giờ hết hạn. Sử dụng trang Hỗ trợ cho các khoản tính phí kép. Chỉ bằng tiền điện tử. USDT hoặc USDC. Các khoản thưởng được áp dụng.