Aģentu dzinēji: Codex un Hermes

Codex ir tas, kas darbojas, kad pirmo reizi atver Katchy. Tas katru aģenta uzdevumu spriešanai virza uz OpenAI robežmodeli un izmanto Katchy paša komplektēto izpildvidi, lai uzturētu plānošanas cilpu, rīku izsaukumus un doka kartiņas dzīves ciklu. Modelis pats izvēlas sevi pēc uzdevuma, ātrām izmaiņām aiziet ātrākajiem modeļiem, garā konteksta darbi virzās uz dziļākajiem.

• Nogludināts no kastes, dzinējs, ap kuru aplikācija sākotnēji tika veidota.
• Runā ar OpenAI API; vajadzīga tava paša OPENAI_API_KEY, ielīmēta Settings.
• Vislabāk daudzsoļu uzdevumiem, kuriem nāk par labu augstākā līmeņa spriešanas modelis: pētniecība, refaktorēšana, garu dokumentu darbs.
• Maksā OpenAI par tokenu, parasti centi par uzdevumu atkarībā no garuma.

Hermes ietin hermes-agent CLI no Nous Research. Katchy sevī nes visu Python izpildvidi (~360 MB) + hermes-agent instalāciju, IEPAKOTU Katchy.app iekšienē, nekādas pip install, nekāda Terminal, nekāda uzstādīšanas vedņa. Pārslēdz Settings uz Hermes, un nākamais aģenta uzdevums skries caur vietējo Python, nevis OpenAI API.

• Pilnīgi vietēja aģenta cilpa, plānošana, rīku izvēle un paškontrole notiek uz tava Mac.
• Nulle uzstādīšanas. Izpildvide nāk līdzi aplikācijai un ir parakstīta + notarizēta kā daļa no būves.
• Pašam aģentam OpenAI atslēga nav vajadzīga; atnes savu modeļa galapunktu, ja gribi robežklases spriešanu, vai palaid mazāku vietēju modeli.
• Vislabāk privātumam jutīgam darbam, bezsaistei draudzīgām darba plūsmām un ikvienam, kuram ziņkārīgi, kur virzās atklātie aģentu rīki.

Abi dzinēji ievēro to pašu aģenta līgumu, to pašu karsto taustiņu, tās pašas atļaujas, to pašu doka kartiņu, to pašu jautājumu par destruktīvu darbību, to pašu Cmd-Z. Atšķiras viss zem UX slāņa.

• Uzstādīšana, Codex vajag OpenAI atslēgu; Hermes darbojas tajā mirklī, kad Katchy palaižas.
• Tīkls, Codex katru uzdevumu sūta uz OpenAI serveriem; Hermes cilpa skrien vietēji un tīklā ielien tikai tad, ja pats to esi savienojis ar attālu modeli.
• Cena, Codex maksā par tokenu; Hermes maksā nulli par uzdevumu (maksā vienreiz, ar lejupielādes izmēru).
• Ātrums, Codex parasti ātrāks pirmajam tokenam, jo OpenAI modeļi ir lielāki un siltāki; Hermes ir konkurētspējīgs īsiem uzdevumiem un nepārspējams bezsaistē.
• Griesti, Codex manto OpenAI jaunākās spriešanas spējas; Hermes manto to, uz kādu atklātu modeli to norādi.

1. 1Sāc ar Codex. Tas ir noklusējums ar iemeslu, dzinējs, pret kuru tika ieskaņota visa pārējā Katchy, un tas, kas visdrīzāk tiks galā ar to, ko tu tam pasviedīsi no pirmā piegājiena.
2. 2Pārslēdzies uz Hermes, ja iekrīt kāds no šiem: negribi ielīmēt OpenAI atslēgu, strādā ar kaut ko pietiekami privātu, ko labāk nesūtīt pa vadu, esi sliktā savienojumā vai ziņkārs par atklātajiem aģentu rīkiem un gribi tos pamēģināt, neizejot no aplikācijas.
3. 3Tu vari pārslēgties starp tiem katrā sesijā, izvēle dzīvo Iestatījumi → Aģents → Dzinējs un stājas spēkā nākamajam aģenta uzdevumam. Darbojošies uzdevumi turpina skriet uz tā dzinēja, ar kuru sākās.