Dikteringsappen, der virker, når internettet ikke gør

Nogle klager dukker først op, når noget går i stykker, og derfor er de nemme at undervurdere, indtil det sker for dig: cloud-diktering afhænger af netværket. Et nedbrud hos udbyderen, og din dikteringstast kan ingenting. Hotel-wi-fi, der falder ud, og en sætning kan forsvinde ind i en spinner. Et fly. En togtunnel. En VPN, der genforhandler på præcis det forkerte tidspunkt. Det er ikke en defekt ved ét produkt; det er, hvad det vil sige at afhænge af en tur frem og tilbage.

Det grusomme er, hvad der fejler. Går din noteapp ned, åbner du en tekstfil. Går din diktering ned, mister du en inputmetode — det, du havde bygget muskelhukommelse omkring, midt i en sætning, som regel mens dine hænder var optaget af noget andet. Det var jo hele grunden til, at du dikterede.

Under klagen om tilgængelighed ligger et spørgsmål om privatliv: forlader din lyd maskinen? På en vej med cloud-transskription rejser optagelser af dig, der tænker højt — kundenavne, uudgivne funktioner, det sikkerhedsproblem du beskriver for en kollega — til en andens infrastruktur for at blive til tekst. Den vej kan også afhænge af sessioner, konti og servicetilgængelighed uden for din kontrol.

Jeg byggede Keebyes svar på det her, før jeg formulerede det som en funktion, fordi mit eget krav var kontant: det skulle virke med wi-fi slukket. Her er, hvordan det faktisk ser ud, og hvad det koster.

Hvorfor cloud-diktering fejler til nul

Mekanikken på kategoriniveau er værd at stave ud, for den forklarer, hvorfor den klage aldrig helt forsvinder, uanset hvor gode produkterne bliver.

Et loop med cloud-diktering har mindst fire led: optag lyd på din maskine, send den til en server, kør inferens dér, send tekst tilbage. Hvert led er en afhængighed — dit netværk, deres netværk, deres autentificeringslag, deres kapacitet, deres oppetid. Kæden er som regel fin. Men når ét led knækker, knækker hele loopet, og det knækker til nul. Ikke »langsommere«, ikke »mindre præcist« — der ankommer ingenting ved din cursor. Gradvis forringelse ville være til at leve med; diktering forringes til stilhed.

Udbydere kan bygge hårdt imod det her, men de kan ikke reparere led, de ikke ejer: hotellets router, flyveturen, din virksomheds VPN, hændelsen i backbonen mellem dig og dem. Et værktøj, hvis tilgængelighed afhænger af flere systemer, kan fejle, når bare ét af dem er utilgængeligt.

Hvad sker der, når der ingen sky er at falde tilbage fra?

Keebyes arkitektur besvarer spørgsmålet ved at fjerne det. Tale-til-tekst kører fuldstændig on-device — ONNX-modeller, lokal inferens, på din Macs eget silicium. Der er nul netværkskald i dikteringsvejen. Ikke »vi minimerer dem«, ikke »vi samler dem i batches« — nul. Der er heller ingen telemetri. Ingen. Når du holder tasten nede og taler, forlader der ikke én pakke maskinen på dine vegne.

Jeg vil understrege den arkitektoniske pointe, for det er forskellen på det her og en »offlinetilstand«. En offlinetilstand er en reserve: den normale vej går til skyen, og når skyen ikke kan nås, overtager en forringet lokal vej — hvis appen opdager det i tide, hvis den lokale vej vedligeholdes, hvis overleveringen virker midt i en sætning. Keebye har ingen sådan overlevering, fordi den ikke har nogen cloud-vej at overlevere fra. Lokal inferens er ikke reserveplanen; den er den eneste plan. Et nedbrud opstrøms kan ikke ødelægge den af samme grund, som en strømafbrydelse i et andet land ikke kan slukke din bordlampe. Immunitet ved konstruktion, ikke ved reserve.

Det er også her, den mere stilfærdige klage bliver besvaret uden en indstillingsside. Din lyd forlader aldrig maskinen — ikke krypteret under transport, ikke anonymiseret, bare aldrig sendt, fordi der ikke er noget at sende den til. Slår du dikteringshistorik til, er det, der gemmes, kun tekst, i en lokal SQLite-database på din egen disk. (Den historik er sin egen historie om livskvalitet — den tilbagevendende klage »hvor blev min diktering af?« — som vi dækkede i din diktering bør aldrig bare forsvinde.) Og skrøbeligheden omkring konti og sessioner forsvinder sammen med kontiene: der er ingen cloud-session, der kan udløbe i dikteringsvejen, så der står ingen genlogin mellem dig og en hotkey, der virker.

Den ene gang, hvor du faktisk har brug for internet

Påkrævet ærlighed, sagt ligeud: modellerne skal på en eller anden måde ind på din maskine. Ved første kørsel downloader Keebye sin talemodel — cirka 700 MB til den engelske engine og omkring 1,3 GB, hvis du slår den flersprogede engine til. Det er en reel download, én gang per engine, og du har brug for internet til den.

Derefter ligger modellerne på disken, og transskriptionen kører mod dem lokalt, netværk eller ej, indtil du fjerner eller udskifter dem. Men sker den første kørsel i flyet, er du på spanden, indtil du lander — lav opsætningen før du rejser, ikke undervejs. Jeg vil hellere have, at du hører det fra mig end opdager det over Atlanten.

Spørgsmålet om præcision, besvaret ærligt

Downloaden er det lille forbehold. Her er det større, for værktøjer on-device elsker at springe det over.

De største cloud-modeller kan være mere præcise end en model on-device. En model, der fylder et serverrack, har kapacitet, som en fil på 700 MB ikke har, og at lade som om andet ville fornærme din intelligens. Det, jeg vil sige — og det, jeg tror på efter at have levet med begge — er, at afstanden er blevet meget mindre, og vigtigere endnu, at fejltilstandene er forskellige i art. En model on-device har som værste dag et ord, den hørte forkert, og som du retter. En cloud-models værste dag er nul output, fordi dens præcision ganges med dens tilgængelighed, og tilgængelighed er det led, der går i nul i toget. Hvilken fejltilstand du helst vil eje, afhænger af din dag; min har for mange tog i sig.

Den findes kun til macOS i dag, og den er early access. Ingen Windows-build, og de skarpe kanter, early access indebærer. Er din opsætning Windows-først, er det ærlige svar, at Keebye ikke kan hjælpe dig endnu.

Vejer du det her mod et værktøj, du allerede bruger, er sammenligningssiderne den fair udgave af argumentet. Keebye vs. Superwhisper sammenligner to produkter med transskriptionsveje on-device; Keebye vs. Wispr Flow dækker beslutningen mellem lokal og cloud. Og er alternativet, du vejer, den diktering, der er indbygget i macOS, dækker stemmediktering til Mac, hvad den indbyggede gør godt, og hvor Keebye adskiller sig.

Tilgængelighed er en funktion

Dikteringskategorien har brugt år på at konkurrere på præcisionsprocenter, og præcision betyder noget. Men den klage, der reelt får folk til at skifte værktøj, er sjældent »den hørte mig forkert én gang«. Den er »den holdt op med at virke, igen, og jeg ved ikke hvorfor, og løsningen indebar at logge ind på noget«. Tilgængelighed — kedelig, uglamourøs tilgængelighed — er den funktion, du kun bemærker som fravær.

Måden at gøre en inputmetode lige så pålidelig som et tastatur er at give den den samme afhængighedsliste som et tastatur: maskinen foran dig, og intet andet. Det er hele designet.

Keebye er i early access til macOS. Start din gratis prøveperiode nedenfor, klar downloaden ved første kørsel, mens du stadig har internet, og kør så ind i togtunnelen — eller sluk bare for wi-fi — og dikter den samme sætning igen.