Dikteringsappen som fungerer når internett ikke gjør det

Noen klager dukker bare opp når ting brekker, og derfor er de lette å undervurdere til det skjer deg: skybasert diktering er avhengig av nettverket. En nedetid hos leverandøren, og dikteringstasten din kan ikke gjøre noe. Hotell-wi-fi som faller ut, og en setning kan forsvinne inn i en spinner. Et fly. En togtunnel. En VPN som reforhandler på nøyaktig feil tidspunkt. Dette er ikke en defekt ved ett produkt; det er hva det betyr å være avhengig av en rundtur.

Grusomheten ligger i hva som svikter. Går notatappen din ned, åpner du en tekstfil. Går dikteringen din ned, mister du en inndatametode — det du hadde bygget muskelminne rundt, midt i en setning, som regel mens hendene dine var opptatt med noe annet. Det var jo hele grunnen til at du dikterte.

Under tilgjengelighetsklagen ligger et personvernspørsmål: forlater lyden av stemmen din maskinen? I en skybasert transkripsjonsvei reiser opptak av deg som tenker høyt — kundenavn, ulanserte funksjoner, sikkerhetsproblemet du beskriver for en kollega — til noen andres infrastruktur for å bli tekst. Den veien kan også avhenge av økter, kontoer og tjenestetilgjengelighet utenfor din kontroll.

Jeg bygde Keebyes svar på dette før jeg formulerte det som en funksjon, for mitt eget krav var kontant: det måtte fungere med wi-fi av. Her er hvordan det faktisk ser ut, og hva det koster.

Hvorfor skybasert diktering svikter til null

Mekanikken på kategorinivå er verdt å stave ut, for den forklarer hvorfor denne klagen aldri helt forsvinner uansett hvor gode produktene blir.

En skybasert dikteringssløyfe har minst fire ledd: fang opp lyd på maskinen din, send den til en tjener, kjør inferens der, send teksten tilbake. Hvert ledd er en avhengighet — nettverket ditt, nettverket deres, autentiseringslaget deres, kapasiteten deres, oppetiden deres. Kjeden er som regel fin. Men når et hvilket som helst ledd brekker, brekker hele sløyfen, og den brekker til null. Ikke «tregere», ikke «mindre presist» — ingenting kommer frem til markøren din. Degradering ville vært til å leve med; diktering degraderer til stillhet.

Leverandører kan bygge hardt mot dette, men de kan ikke fikse ledd de ikke eier: hotellruteren, flyturen, bedriftens VPN, hendelsen i stamnettet mellom deg og dem. Et verktøy hvis tilgjengelighet avhenger av flere systemer, kan svikte når ett av dem er utilgjengelig.

Hva skjer når det ikke finnes noen sky å falle tilbake fra?

Keebyes arkitektur svarer på spørsmålet ved å fjerne det. Tale-til-tekst kjører helt på enheten — ONNX-modeller, lokal inferens, på Mac-ens egen brikke. Det er null nettverkskall i dikteringsveien. Ikke «vi minimerer dem», ikke «vi samler dem opp» — null. Det finnes ingen telemetri heller. Ingen. Når du holder inne tasten og snakker, forlater ingen pakke maskinen på dine vegne.

Jeg vil understreke det arkitektoniske poenget, for det er forskjellen mellom dette og en «offline-modus». En offline-modus er en reserveløsning: normalveien går til skyen, og når skyen ikke er tilgjengelig, tar en degradert lokal vei over — hvis appen merker det i tide, hvis den lokale veien vedlikeholdes, hvis overleveringen fungerer midt i en setning. Keebye har ingen slik overlevering, fordi den ikke har noen skyvei å overlevere fra. Lokal inferens er ikke reserveplanen; den er den eneste planen. En nedetid oppstrøms kan ikke ødelegge den, av samme grunn som et strømbrudd i et annet land ikke kan slå av skrivebordslampen din. Immunitet ved konstruksjon, ikke ved reserveløsning.

Det er også her den stillere klagen blir besvart uten en innstillingsside. Lyden din forlater aldri maskinen — ikke kryptert under transport, ikke anonymisert, bare aldri sendt, fordi det ikke finnes noe å sende den til. Slår du på dikteringshistorikk, er det som lagres kun tekst, i en lokal SQLite-database på din egen disk. (Den historikken er sin egen historie om hverdagskvalitet — den tilbakevendende klagen «hvor ble dikteringen min av?» — som vi dekket i dikteringen din bør aldri bare forsvinne.) Og skjørheten rundt kontoer og økter forsvinner med kontoene: det finnes ingen skyøkt som kan utløpe i dikteringsveien, så det står ingen ny innlogging mellom deg og en fungerende hurtigtast.

Den ene gangen du faktisk trenger internett

Nødvendig ærlighet, sagt rett ut: modellene må komme seg inn på maskinen din på et vis. Ved første kjøring laster Keebye ned talemodellen sin — omtrent 700 MB for den engelske motoren, og rundt 1,3 GB hvis du slår på den flerspråklige motoren. Det er en reell nedlasting, én gang per motor, og du trenger internett til den.

Etter det bor modellene på disken, og transkribering kjører mot dem lokalt, med eller uten nettverk, til du fjerner eller erstatter dem. Men skjer den første kjøringen på flyet, er du uheldig til du lander — gjør oppsettet før du reiser, ikke underveis. Jeg vil heller at du hører det fra meg enn at du oppdager det over Atlanterhavet.

Presisjonsspørsmålet, ærlig besvart

Nedlastingen er det lille forbeholdet. Her er det større, for verktøy som kjører på enheten, elsker å hoppe over det.

De største skymodellene kan være mer presise enn en modell på enheten. En modell som fyller et tjenerstativ, har kapasitet en fil på 700 MB ikke har, og å påstå noe annet ville fornærmet intelligensen din. Det jeg vil si — og det jeg tror etter å ha levd med begge — er at gapet har smalnet betraktelig, og enda viktigere: feilmodusene er ulike i art. En modell på enheten har som verste dag et feilhørt ord du retter. En skymodell har som verste dag null resultat, fordi presisjonen dens ganges med tilgjengeligheten, og tilgjengelighet er leddet som går til null på toget. Hvilken feilmodus du heller vil eie, avhenger av dagen din; min har for mange tog i seg.

Den finnes bare for macOS i dag, og den er i tidlig tilgang. Ingen Windows-versjon, og de ujevne kantene tidlig tilgang innebærer. Er oppsettet ditt Windows-først, er det ærlige svaret at Keebye ikke kan hjelpe deg ennå.

Veier du dette mot et verktøy du allerede bruker, er sammenligningssidene den balanserte versjonen av dette argumentet. Keebye vs. Superwhisper sammenligner to produkter med transkripsjonsveier på enheten; Keebye vs. Wispr Flow dekker avgjørelsen lokalt mot sky. Og hvis alternativet du veier, er dikteringen som er innebygd i macOS, dekker stemmediktering for Mac hva den innebygde gjør godt og hvor Keebye skiller seg.

Tilgjengelighet er en funksjon

Dikteringskategorien har brukt år på å konkurrere på presisjonsprosenter, og presisjon betyr noe. Men klagen som faktisk får folk til å bytte verktøy, er sjelden «den hørte meg feil én gang». Den er «den sluttet å fungere, igjen, og jeg vet ikke hvorfor, og løsningen innebar å logge inn på noe». Tilgjengelighet — kjedelig, uglamorøs tilgjengelighet — er funksjonen du bare legger merke til som fravær.

Måten å gjøre en inndatametode like pålitelig som et tastatur på, er å gi den samme avhengighetsliste som et tastatur: maskinen foran deg, og ingenting annet. Det er hele designet.

Keebye er i tidlig tilgang for macOS. Start den gratis prøveperioden nedenfor, gjør nedlastingen ved første kjøring mens du fortsatt har internett, og kjør så inn i togtunnelen — eller bare slå av wi-fi — og dikter den samme setningen på nytt.