Telefon
Tale inn og ut, og SMS. Ikke telefonsamtaler.
Hva den gjør
Talegjenkjenning og -syntese kjører lokalt (self-hosted), rutes per språk på tvers av leverandører, med et turtakingslag som håndterer avbrytelser og strømming på setningsnivå, slik at en samtale ikke føles som en walkie-talkie. En separat SMS-bane er implementert bak en funksjonsbryter for tekstmeldinger.
Hvorfor det er viktig
Tale er der «assistent»-rammen enten blir virkelig eller faller fra hverandre, og forsinkelse (latency) er alt som betyr noe. Å kjøre taletjenester lokalt betyr at responstiden ikke er prisgitt en tredjepartskø.
Hvordan det fungerer
Tale kjører lokalt (self-hosted) som standard
Gjenkjenning og syntese kjører som egne containere, med ruting til leverandører per språk for språk de lokale modellene håndterer dårlig.
Turtaking er eksplisitt
En tur-port og setningsdeler (sentence chunker) håndterer avbrytelser og strømming, i stedet for å vente på et fullstendig svar før det snakkes.
Telefoni er kun SMS og deaktivert som standard
SMS-banen er utviklet, men sperret bak en funksjonsbryter og krever en operatørkonto. Talesamtaler var eksplisitt utenfor omfanget, og vi har ikke bygget det.
Spørsmål
- Kan agenten min svare på telefonen?
- Nei. Det er ingen innkommende eller utgående samtaler. Tale fungerer i nettleseren; telefoni er kun SMS og er for øyeblikket deaktivert.
- Hvilke språk støtter tale?
- Et bredt utvalg, med ruting til ulike leverandører per språk, inkludert en dedikert leverandør for indiske språk der de generelle modellene underperformer.
The rest of the bag
AccessControl
Rettigheter per dokument som filtrerer svar, ikke bare sider.
Policy-evaluering bufres per økt for hastighet; en endring i rettigheter rulles ut ved ugyldiggjøring av bufferen, i stedet for umiddelbart på alle pågående forespørsler.
Dokumentasjon
Et mappetre agenten leser, og en konfigurasjonsfil den følger.
Ekstraksjon dekker PDF-er, regneark og transkripsjoner. Eksotiske binærformater blir ikke parset.
Hendelser
En persistent logg over hva agenter gjorde, og hvorfor.
Hendelsesbussen i prosessen er en enkeltnode-sender, ikke en distribuert formidler. Den persistente loggen på tvers av agenter er en separat Postgres-oppgavelogg.
That was step 1 of 6: a request arrives. Next, the subdomain is the isolation boundary, so the request resolves to one workspace, one database, and one question of whether it is even in scope.