Hermes api -dokumentaatio: Pika-aloitus
Hermes API on isännöity, OpenAI-yhteensopiva päätepiste, joka palvelee yhtä suodatamatonta suurta kielimallia. Käytä base URLia HTTPS://api.apihermes.cc/v1 avaimellasi lähettääksesi tekstiä ja vastaanottaaksesi tekstiä.
Asennus ja määritys
Hermes API toimii minkä tahansa asiakkaan kanssa, joka puhuu OpenAI-muotoa. Tarvitset base URLin ja API-avaimen. Luo tili Google-tilin tai sähköpostin kautta Get API key -sivulla. Järjestelmä näyttää avaimesi välittömästi. Puhelinnumeroa ei tarvita. Saat $0.50 kokeilukrediitin seitsemäksi päiväksi. Lisää varoja myöhemmin vain kryptovaluutalla.
- Perus-URL: HTTPS://api.apihermes.cc/v1
- Auth-otsake: Authorization: Bearer YOUR_API_KEY
- Mallin tunnus: uncensored
Asenna haluamasi SDK ja aseta base URL. Päätepiste odottaa vakioisia chat-completions-parametreja. Pidä avain turvassa. Yksi avin korvaa aiemman, jos luot uuden.
Peruskeskustelun täydennyspyyntö
Peruspäättyminen lähettää viestejä ja vastaanottaa tekstivastauksen. Mallin tunnus on uncensored. Se käsittee laillista aikuis sisällön ilman kieltäytymistä. Maksat käytettyjen merkkien perusteella. Virheet ja kieltäytymiset ovat ilmaisia. Kontekstiikkuna mahtuu 100 000 merkkiä yhteensä.
Rakenna pyyntösi järjestelmäviestillä ja käyttäjäviestillä. API palauttaa täydennyksen. Voit asettaa max_tokens ohjaamaan lähdön pituutta. Oletuslähtörajoitus on 2 048 tokenia. Voit nostaa tämän 16 000 tokeniin pyyntöä kohden. Streamaus toimii SSE:n kautta. Funktiokutsu on saatavilla. JSON-tila on tuettu.
curl https://api.apihermes.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Generate a GET request for the user endpoint"}]
}'Pyyntöruumis on rajoitettu 8 MB:iin. Nopeusrajoitukset ovat 300 pyyntöä minuutissa. Samanaikaisuus on kahdeksan pyyntöä kerrallaan. Uusintalogiikka käsittelee palvelimen ylikuormituksen sujuvasti.
Streamausvastaukset SSE:n kanssa
Streamaus toimittaa tokenit niiden generoitumisen aikana. Palvelin lähettää Server-Sent Events -viestejä. Jokainen palautus sisältää osittaista tekstiä. Viimeinen palautus sisältää token-käyttotilastot. Tämä lähestymistapa vähentää koettua viivettä pitkissä vastauksissa. Se on ihanteellinen chattiliittymille. Sinun on käsiteltävä virta oikein. Yhteyden katkeamiset voivat tapahtua. API ei takaa toimitusjärjestystä streamauksen ulkopuolella.
Aseta stream-parametri arvoksi true. Jäsennä datarivit. Yhdistä sisältö. Tarkista finish_reason valmistumisen varmistamiseksi. Malli uncensored toimii minkä tahansa OpenAI-yhteensopivan SDK:n kanssa. Määritä asiakasohjelma käsittelemään SSE:tä. Seuraa token-lukua. Perus-URL pysyy samana. Autentikointi on identtinen. Ei tarvitse lisäasetuksia.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Virheet ilmestyvät virtaukseen. Käsittele ne sulkeamalla yhteys. Esimaksukrediitti vähenee vain valmiiden tokenien osalta. Tämä säästää rahaa keskeytysten aikana. Et maksa koskaan osittaisesta roska-ulostulosta. Järjestelmä on läpinäkyvä.
Kun käytät Function Calling -toimintoa ja työkaluja
Funktikutsu mahdollistaa mallin suorittaa koodia tai työkaluja. Määritä työkalut pyyntöruumiissa. Malli palauttaa työkalukutsun. Suorita työkalu. Lähetä tulos takaisin. Malli luo lopullisen vastauksen. Tämä mahdollistaa monimutkaiset työvuorot. Se ei ole vain chat-kääre. API tukee työkaluja ja tool_choicea. Käytä tätä agenteille tai automatisointiin.
Rakenna työkalutaulukko. Sisällytä nimi, kuvaus ja parametrit. Malli päättää, milloin työkalua kutsutaan. Sinun on jäsenneltävä argumentit. Suorita funktio. Siirrä tulos keskusteluun. Malli jatkaa. Tämä sykli toistuu, kunnes lopullinen vastaus. Kontekstiaukko seuraa kaikkia työkaluvuorovaikutuksia. Pidä kirjaa token-käytöstä. Kustannukset kasvavat työtulosten myötä. Seuraa käyttöä viimeisessä palautuksessa.
from openai import OpenAI
client = OpenAI(base_url="https://api.apihermes.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Epäsuodattamaton malli käsittelee monenlaisia työkaluskeemoja. Se ei kieltäydy sisällön perusteella. Käytä tätä roolipeliin tai teknisiin tehtäviin. API on luotettava. Virheetön. Esimaksujärjestelmä varmistaa reiluuden. Hallitset virtaa. Perus-URL on johdonmukainen. Todennus on yksinkertaista.
JSON-tila ja parametrit
JSON-tila pakottaa mallin tuottamaan kelvollisen JSONin. Aseta response_format arvoksi json_object. Tämä on hyödyllistä rakenteiselle datalle. Malli välttää markdown-kääreet. Se palauttaa raakaa JSONia. Käytä tätä jäsentämiseen. Se parantaa luotettavuutta. Kontesttiluukku pätee edelleen. Makset tokenien mukaan. Uncensored-malli kunnioittaa muotoilua. Se ei kiellä sisällön perusteella.
Parameters include temperature, top_p, stop, seed, presence_penalty, and frequency_penalty. Temperature controls randomness. Top_p controls diversity. Stop sequences halt generation. Seed ensures reproducibility. Presence and frequency penalties adjust token usage. Set these to refine the output. The API supports all standard parameters. Use them to tune the response. The base URL remains the same. Auth is identical.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apihermes.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Virheet käsitellään HTTP-vastauskoodien kautta. 401 tarkoittaa virheellistä avainta. 402 tarkoittaa riittämätöntä saldoa. 429 tarkoittaa nopeusrajoitusta. Käsittele nämä koodit koodissasi. Esimaksusaldo vähennetään vain onnistuneista tokenneista. Tämä varmistaa reiluuden. Et maksa koskaan osittaisista tuloksista. Järjestelmä on läpinäkyvä. uncensored-malli on luotettava. Käytä sitä mihin tahansa lailliseen tehtävään.
Virheenkäsittely ja nopeusrajoitukset
API palauttaa vakiot HTTP-tilakoodit. 401 tarkoittaa virheellistä API-avainta. 402 tarkoittaa riittämätöntä esimaksukrediittiä. 429 tarkoittaa nopeusrajoitusta. Rajoitus on 300 pyyntöä minuutissa. Samanaikaisuus on kahdeksan pyyntöä kerralla. Pyynnön rungot on rajoitettu 8 Mt:iin. Käsittele nämä virheet sujuvasti. Tee retry eksponentiaalisella taaksepäin haetulla logiikalla. uncensored-malli ei hylkää laillista sisältöä. Virheet ovat ilmaisia. Et maksa epäonnistuneista pyynnöistä. Esimaksukrediitti on turvallinen. Se vanhenee koskaan. Käytä Tuki-sivua kaksoisluonteisia laskuja varten. Vain kryptoa. USDT tai USDC. Bonukset koskevat.
Usein kysytyt kysymykset
Mikä on hermes API:n base URL ja mallin ID?
Perusosoite on HTTPS://api.apihermes.cc/v1. Mallitunniste on uncensored. Se on avoin painotusmalli, joka on hienosäädetty kieltäytymättömyyteen. Käytä mitä tahansa OpenAI-yhteensopivaa SDK:ta näillä arvoilla.
Miten hinnoittelu toimii hermes API:n kanssa?
Maksat $0.15 miljoonaa syöttötokenia kohden ja $0.50 miljoonaa tulostustokenia kohden. Virheet ja hylkäykset ovat ilmaisia. Esimaksuluotto vanhenee koskaan. Täydennä vain kryptalla. Tilausta ei tarvita.
Mitkä ovat nopeusrajoitukset hermes-API:lle?
Raja on 300 pyyntöä minuutissa avainta kohden. Samanaikaisuus on kahdeksan pyyntöä kerralla. Pyynnön rungon koko on rajoitettu 8 Mt:ään. Käytä retry-logiikkaa 429-virheille. Sensuroimaton malli käsittelee suurta määrää luotettavasti.
Hanki API-avaimesi sekunneissa
Rekisteröidy, hanki avaimesi ja päivitä endpoint URL. Siinä se kaikki on.