繁中 ▾
取得您的金鑰
每 1M 輸入權杖$0.15
輸出 token / 1M$0.50
權杖上下文100,000
試用額度$0.50
每分鐘請求數300

無審查,OpenAI 相容 LLM API

Hermes uncensored:使用 API 時的常見錯誤

Hermes uncensored 提供可靠的開放權重生成,無需多模型路由器的摩擦。大多數開發者在上下文限制、併發鎖定或破壞其管線的串流怪癖方面遇到瓶頸。本指南修復這些特定錯誤,讓您的整合從第一天起就能順利運行。

最後更新

摘要

  1. 100k 上下文視窗包含提示詞與輸出,因此您必須為回應保留 token。
  2. SSE 串流傳輸是即時回饋的必要條件;非串流請求會使連線保持開啟狀態。
  3. 速率限制適用於每支金鑰,而非整個帳戶,因此共享金鑰比專用金鑰更容易達到瓶頸。
  4. 加密貨幣充值提供紅利額度,但需以 $20 至 $500 之間的整數金額充值。

理解上下文視窗限制

該模型支援 100,000 token 的上下文視窗,用於合併的輸入與輸出。開發者常假設整個視窗都可用於提示詞。這種假設會在回應變大時導致截斷。您必須為補全保留 token。如果您的提示詞使用了 80,000 個 token,您只剩下 20,000 個 token 用於輸出。系統會嚴格執行此限制。超過限制會立即導致錯誤。發送前務必計算最大可能的輸出。這對於長文件處理或歷史快速累積的擴展角色扮演會話至關重要。如果您需要更多空間,請考慮將輸入資料分塊。API 不會自動截斷。它會返回錯誤。這可防止破壞 JSON 解析器的部分回應。仔細規劃您的 token 預算。每個 token 都計入總量。計算上的小失誤會導致請求失敗。在儀表板中檢查您的 token 使用情況。這有助於您優化未來的提示詞。效率節省成本。它也能降低延遲。保持上下文緊湊。移除不必要的歷史記錄。這可確保您的請求在限制範圍內。100k 的限制很慷慨但有限。明智地使用它。

管理輸出令牌限制

每個請求最多可輸出 16,000 個 token。若您未指定 max_tokens, 模型預設為 2,048 個 token。此預設值對於複雜任務來說通常太短。您可能會收到截斷的回應。模型會在句子中間停止。這會破壞您的應用程式邏輯。請務必設定 max_tokens 明確設定。這讓您可以控制輸出長度。這也有助於管理成本。較長的輸出會消耗更多 token。請精確設定您的限制。如果您需要超過 16,000 個 token,您可能需要多次呼叫 API。該模型不支援在單一請求中進行多輪輸出。您可以在後續請求中繼續對話。這是一個標準模式。它非常適合長篇內容生成。只需記住在下一個提示中包含前一個輸出。這能維持上下文。16k 限制是硬性上限,無法調整。請據此規劃您的內容生成。簡潔、專注的提示能產生更好的結果。冗長、漫無目的的提示會更快達到限制。保持您的指示清晰。這能減少對長輸出的需求。效率至關重要。監控您的 token 用量。這能幫助您保持在預算內。根據需要調整您的限制。靈活性很重要。

處理速率限制與併發

每個 API 金鑰的速率限制為每分鐘 300 次請求。您還可以同時執行 8 個請求。這些限制是針對每個金鑰,而非每個帳戶。如果您共用金鑰,所有使用者都會共用同一個限制,這會迅速導致瓶頸。您可能會看到 429 錯誤,這表示您已超出限制。請稍候再重試。API 使用滑動視窗機制,這意味著限制會逐漸重置。不要頻繁發送請求,否則可能會導致暫時性封鎖。請使用指數退避演算法進行重試,這是標準做法,可避免伺服器過載。並行是一個強大的功能,允許平行處理,但也增加了觸及限制的风险。請監控您的並行請求,確保同時執行的請求不超過 8 個。若需要更高的吞吐量,請獲取專屬金鑰。這可以隔離您的使用情況,也便於除錯。您可以追蹤自己的限制。共用金鑰會使除錯變得更困難。保持請求乾淨,避免不必要的重試,這能節省您的速率限制配額。效率很重要。請仔細規劃您的並行策略,在速度與穩定性之間取得平衡。每分鐘 300 次的限制雖然很高,但仍是有限的。請明智地使用。

串流與非串流請求

SSE 串流傳輸提供即時 token 回饋。非串流請求會等待完整回應。對於大型輸出,這可能需要更長時間。串流是互動式應用程式的首選。它為使用者提供即時回饋。模型在生成 token 時發送它們。這降低了感知延遲。您可以即時顯示文字。非串流更適合批次處理。它一次返回完整的回應。這更簡單易於處理。根據您的使用案例選擇合適的模式。串流需要更複雜的解析。您必須處理部分回應。非串流更容易除錯。它返回單一物件。但它會保持連線開啟。這可能會消耗資源。考慮您的基礎設施。對於大型輸出,串流更有效率。它允許您在需要時提前停止。您可以取消請求。這可節省 token。非串流無法取消。請求會執行至完成。請 accordingly 規劃您的架構。對於聊天介面使用串流。對於資料擷取使用非串流。這符合您的需求。彈性是關鍵。謹慎選擇。監控您的延遲。這有助於您進行最佳化。串流減少等待時間。非串流簡化邏輯。兩者都有其用武之地。

函式呼叫邊緣案例

函式呼叫允許模型呼叫工具。您定義工具結構描述。模型返回函式呼叫。您執行該函式。您將結果回傳給模型。這個循環會持續進行,直到模型完成為止。當模型返回無效的 JSON 或函式執行失敗時,會出現邊緣情況。您必須妥善處理這些錯誤。模型可能會產生幻覺(hallucinate)參數。在執行前驗證參數。這能防止執行階段錯誤。將錯誤回傳給模型。它可以重試或調整。這能提升可靠性。函式呼叫功能強大但複雜。它需要仔細設計結構描述。保持結構描述簡潔。避免巢狀物件。這能減少解析錯誤。模型偏好扁平化的結構描述。為每個函式使用清晰的描述。這能正確引導模型。徹底測試您的函式。確保它們返回預期的格式。這有助於模型理解回應。函式呼叫並非魔法。它需要工程實作。仔細規劃您的工具介面。這能確保順暢的整合。除錯函式呼叫可能很棘手。記錄輸入和輸出。這有助於識別問題。函式呼叫是一個關鍵功能。謹慎使用。

JSON 模式驗證錯誤

JSON 模式強制模型輸出有效的 JSON。這對於結構化資料很有用。模型必須遵循架構。如果失敗,您會收到驗證錯誤。這通常發生在模型產生幻覺時,或輸出格式不正確時。您必須處理這些錯誤。重試請求,或調整提示詞。JSON 模式非常嚴格,不允許額外文字。模型必須僅輸出 JSON。這對於複雜任務來說可能具有挑戰性。模型可能會加入 Markdown 程式碼區塊,這會導致解析器出錯。在解析前請移除程式碼區塊,這是一個常見的修正方法。JSON 模式可靠但並非完美。請監控您的錯誤率。如果錯誤率過高,請調整提示詞或簡化架構。JSON 模式對於 API 整合至關重要,它能確保一致性,減少下游錯誤。適用於資料擷取,對表單和設定檔也很有效。JSON 模式是一個強大的工具,可用來結構化您的資料,使 API 更加穩健。驗證您的輸入,這能防止錯誤。JSON 模式是一種最佳實踐,建議採用它來處理結構化輸出。

加密貨幣充值與獎勵金混淆

餘額僅接受加密貨幣充值。我們接受 TRC20 上的 USDT 或 Base 上的 USDC。最低金額為 $20,最高為 $500。您必須匯入整數美元金額。bonus 餘額會自動發放。$50 起贈送 +5%。$100 起贈送 +10%。$200 起贈送 +15%。此 bonus 會加入您的帳戶。這不是折扣,而是額外餘額。這能提升您的資金價值。請注意網路類型。USDT 請使用 TRC20。USDC 請使用 Base。匯入錯誤的網路可能會導致資金損失,且無法逆轉。請務必再次檢查地址。加密貨幣付款速度很快。餘額會立即加入。這讓您可以立即開始使用 API。試用版提供 $0.50 餘額,有效期 7 天。這足以測試 API。加密貨幣充值餘額永不過期。這是主要優勢。您可以隨時充值,享有彈性。請仔細管理預算。追蹤您的 bonus 餘額。這有助於您了解資金價值。加密貨幣付款安全且具隱私性。這是主要優勢。使用加密貨幣充值是獲得餘額最快的方式。

監控使用情況與錯誤

在儀表板中追蹤您的 token 使用量。這有助於您管理預算。您可以查看隨時間的消耗情況。這能識別使用量的尖峰。監控您的錯誤率。高錯誤率表示存在問題。檢查回應狀態碼。429 表示超出速率限制。500 表示伺服器錯誤。400 表示請求無效。適當處理這些代碼。對 500 錯誤進行重試。對 429 錯誤進行等待。修復 400 錯誤的請求。日誌記錄至關重要。記錄您的輸入和輸出。這有助於除錯問題。它也有助於最佳化您的提示。監控為您提供見解。它有助於改善您的整合。使用儀表板追蹤趨勢。識別使用模式。這有助於您規劃擴展。監控不是可選的。它是生產環境所必需的。密切關注您的限制。這可防止意外宕機。如果可能,請使用警報。這會通知您問題。監控是一個持續的過程。定期進行。這確保了平穩運行。保留您的日誌。這有助於審計。監控是成功的關鍵。

無審查內容的最佳實踐

該模型不會拒絕合法的成人內容。它從設計上就是無審查的。這允許創意自由。但也意味著您會得到您所要求的內容。在提示詞中要具體。這能減少意外的輸出。該模型會緊跟指令。如果您想要 NSFW 內容,請明確要求。如果您想要乾淨的內容,請指定。該模型尊重您的指令。它不會強加自己的道德觀。這是一個功能。它允許多樣化的內容。但也需要仔細的提示詞工程。避免模糊的指令。這能減少幻覺。使用清晰的語言。這能提升輸出品質。該模型針對成人用途進行了調整。它能很好地處理成熟主題。這使其非常適合角色扮演。它也適用於創意寫作。可用於腦力激盪。它能產生想法而無須評判。無審查的特性是一個主要優勢。善用它。提示詞工程仍然很重要。好的提示詞產生好的結果。壞的提示詞產生壞的結果。這對任何模型都適用。但無審查模型更具不可預測性。準備好應對多樣的輸出。這是體驗的一部分。擁抱自由。用它來創作獨特的內容。無審查模型是一個強大的工具。明智地使用它。

常見問題

什麼是 hermes 無審查模型?

這是一個託管在我們伺服器上的開源權重大型語言模型。它調校後能在合法成人用途下無內容拒絕地回答問題。它不是 GPT、Claude 或任何其他供應商的模型。您可以透過我們的 OpenAI 相容端點使用它。

您接受哪些付款方式?

僅限加密貨幣:TRC20 上的 USDT 或 Base 上的 USDC,任何整數金額從 $20 到 $500。從 $50 起享有額外餘額獎勵。

如果我觸及速率限制會發生什麼事?

您將收到 429 錯誤。您應該等待並使用指數退避重試。限制為每分鐘每金鑰 300 次請求。您也可以運行 8 個併發請求。共用金鑰會降低您的有效限制。

hermes API 金鑰免費嗎?

取得金鑰是免費的。您可以使用 Google 或電子郵件註冊。您將獲得 7 天有效的 $0.50 試用金額。之後,您需要透過加密貨幣充值。金鑰本身不會過期。您的金額也不會過期。

數秒內取得 API 金鑰

註冊、取得金鑰,並更新您的端點 URL。就是這麼簡單。

取得您的金鑰