Agenttimoottorit: Codex ja Hermes

Codex on se, joka käynnistyy, kun avaat Katchyn ensimmäistä kertaa. Se reitittää jokaisen agenttitehtävän päättelyä varten OpenAI:n eturintaman malliin ja käyttää Katchyn omaa mukana tulevaa ajoympäristöä suunnittelusilmukan, työkalukutsujen ja telakointikortin elinkaaren hoitoon. Malli valitsee itsensä tehtävän mukaan, nopeat muokkaukset menevät nopeammille malleille, pitkän kontekstin työ ohjautuu syvempiin.

• Hiottu suoraan paketista, moottori, jonka ympärille sovellus alun perin rakennettiin.
• Puhuu OpenAI:n API:lle; tarvitsee oman OPENAI_API_KEY:n liimattuna Settings-osioon.
• Parhaimmillaan monivaiheisissa tehtävissä, joista on hyötyä eturivin päättelymallista: tutkimus, refaktoroinnit, pitkien dokumenttien työ.
• Maksat OpenAI:lle tokenista, yleensä sentit per tehtävä, pituudesta riippuen.

Hermes kääräisee hermes-agent CLI:n Nous Researchilta. Katchy tuo koko Python-ajoympäristön (~360 MB) + hermes-agent-asennuksen MUKANA Katchy.app:n sisällä, ei mitään pip install, ei Terminal, ei asennusvelhoa. Vaihda Settings-osiossa Hermesiin ja seuraava agenttitehtävä menee paikallisen Pythonin kautta OpenAI:n API:n sijaan.

• Täysin paikallinen agenttisilmukka, suunnittelu, työkaluvalinta ja itsetarkistus tapahtuvat kaikki Macilläsi.
• Nolla asennusta. Ajoympäristö tulee sovelluksen mukana ja on allekirjoitettu + notarisoitu osana buildia.
• Itse agentti ei vaadi OpenAI-avainta; tuo oma mallipäätepisteesi, jos haluat eturivin päättelyä, tai aja pienempi paikallinen malli.
• Parhaimmillaan yksityisyysherkkään työhön, offline-ystävällisiin työnkulkuihin ja kaikille, joita kiinnostaa, mihin avoimet agenttityökalut ovat menossa.

Molemmat moottorit noudattavat samaa agenttisopimusta, samaa pikanäppäintä, samoja lupia, samaa telakointikorttia, samaa tuhoavan toimen kysymystä, samaa Cmd-Z:aa. Eroa on kaikessa UX-kerroksen alla.

• Asennus, Codex tarvitsee OpenAI-avaimen; Hermes toimii sillä hetkellä kun Katchy käynnistyy.
• Verkko, Codex lähettää jokaisen tehtävän OpenAI:n palvelimille; Hermes ajaa silmukan paikallisesti ja koskee verkkoon vain, jos olet itse kytkenyt sen etämalliin.
• Hinta, Codex maksaa tokenista; Hermesillä on nolla hintaa per tehtävä (maksat kerran, latauskoossa).
• Nopeus, Codex on yleensä nopeampi ensimmäisessä tokenissa, koska OpenAI:n mallit ovat isompia ja lämpimämpiä; Hermes on kilpailukykyinen lyhyissä tehtävissä ja vertaansa vailla offline-käytössä.
• Katto, Codex perii OpenAI:n uusimman päättelykyvyn; Hermes perii sen, mihin avoimeen malliin sen osoitat.

1. 1Aloita Codexista. Se on oletus syystä, moottori, jonka ympärille muu Katchy on hiottu, ja se, joka todennäköisimmin selviää siitä mitä sille heität ensiyrittämällä.
2. 2Vaihda Hermesiin, jos jokin näistä osuu: et halua liimata OpenAI-avainta, työskentelet jonkin niin yksityisen parissa, ettei sitä mieluummin lähetä verkon yli, olet huteralla yhteydellä tai sinua kiinnostaa avoimet agenttityökalut ja haluat kokeilla niitä poistumatta sovelluksesta.
3. 3Voit pomppia niiden välillä sessiokohtaisesti, valinta asuu kohdassa Asetukset → Agentti → Moottori ja astuu voimaan seuraavalle agenttitehtävälle. Käynnissä olevat tehtävät jatkavat sillä moottorilla, jolla aloittivat.