Aplikácia na diktovanie, ktorá funguje, aj keď internet nie

Niektoré sťažnosti sa objavia, až keď sa niečo pokazí, a preto ich je ľahké podceňovať, kým sa nestanú vám: cloudové diktovanie závisí od siete. Výpadok u poskytovateľa a váš kláves na diktovanie nedokáže nič. Hotelová Wi-Fi, ktorá vypadne, a veta sa môže stratiť v točiacom sa kolieku. Lietadlo. Tunel vo vlaku. VPN, ktorá si presne v nesprávnej chvíli obnovuje spojenie. Toto nie je chyba jedného produktu; je to to, čo znamená závisieť od cesty tam a späť.

Krutosť je v tom, čo zlyhá. Ak vám vypadne aplikácia na poznámky, otvoríte textový súbor. Ak vám vypadne diktovanie, prídete o metódu zadávania — o vec, na ktorú ste si vybudovali svalovú pamäť, uprostred vety, väčšinou vtedy, keď mali vaše ruky plné práce s niečím iným. To bol predsa celý dôvod, prečo ste diktovali.

Pod sťažnosťou na dostupnosť sedí otázka súkromia: opúšťa váš hlasový záznam počítač? Pri cloudovej ceste prepisu putujú nahrávky vás, ako nahlas premýšľate — mená klientov, nevydané funkcie, bezpečnostný problém, ktorý opisujete kolegovi —, do cudzej infraštruktúry, aby sa z nich stal text. Tá cesta môže navyše závisieť od relácií, účtov a dostupnosti služby mimo vašej kontroly.

Odpoveď Keebye na toto som postavil skôr, než som ju sformuloval ako funkciu, lebo moja vlastná požiadavka bola priama: muselo to fungovať s vypnutou Wi-Fi. Tu je, ako to naozaj vyzerá a čo to stojí.

Prečo cloudové diktovanie zlyháva na nulu

Mechaniku na úrovni kategórie sa oplatí vypísať, lebo vysvetľuje, prečo táto sťažnosť nikdy celkom nezmizne bez ohľadu na to, aké dobré tie produkty budú.

Cloudová slučka diktovania má minimálne štyri články: zachytiť zvuk na vašom počítači, poslať ho na server, tam spustiť inferenciu, poslať text späť. Každý článok je závislosťou — vaša sieť, ich sieť, ich autentifikačná vrstva, ich kapacita, ich dostupnosť. Reťaz býva zvyčajne v poriadku. Keď sa však ktorýkoľvek článok zlomí, zlomí sa celá slučka, a zlomí sa na nulu. Nie „pomalšie“, nie „menej presne“ — ku kurzoru nedorazí nič. Postupné zhoršenie by sa dalo zniesť; diktovanie sa zhorší do ticha.

Poskytovatelia proti tomu môžu tvrdo inžinierovať, ale nedokážu opraviť články, ktoré nevlastnia: hotelový router, let, vašu firemnú VPN, incident na chrbtici siete medzi vami a nimi. Nástroj, ktorého dostupnosť závisí od niekoľkých systémov, môže zlyhať, keď je ktorýkoľvek z nich nedostupný.

Čo sa stane, keď neexistuje cloud, z ktorého by bolo treba ustúpiť?

Architektúra Keebye odpovedá na túto otázku tak, že ju odstráni. Prevod reči na text beží úplne na zariadení — ONNX modely, lokálna inferencia, na kremíku vášho vlastného Macu. Na ceste diktovania je nula sieťových volaní. Nie „minimalizujeme ich“, nie „dávkujeme ich“ — nula. Telemetria tiež žiadna. Vôbec. Keď podržíte kláves a hovoríte, vo vašom mene neopustí počítač ani jeden paket.

Chcem ten architektonický bod podčiarknuť, lebo je to rozdiel medzi týmto a „offline režimom“. Offline režim je záloha: bežná cesta ide do cloudu, a keď je cloud nedostupný, prevezme to zhoršená lokálna cesta — ak si to aplikácia všimne včas, ak sa lokálna cesta udržiava, ak odovzdanie uprostred vety funguje. Keebye žiadne takéto odovzdanie nemá, lebo nemá cloudovú cestu, z ktorej by odovzdávalo. Lokálna inferencia nie je záložný plán; je jediným plánom. Výpadok vyššie v reťazi ju nedokáže zložiť z toho istého dôvodu, z akého výpadok prúdu v inej krajine nedokáže zhasnúť vašu stolnú lampu. Imunita konštrukciou, nie zálohou.

Tu sa zároveň bez stránky s nastaveniami zodpovie aj tá tichšia sťažnosť. Váš zvuk nikdy neopustí počítač — nie zašifrovaný pri prenose, nie anonymizovaný, jednoducho sa nikdy neodošle, lebo nie je kam. Ak zapnete históriu diktovania, ukladá sa iba text, v lokálnej databáze SQLite na vašom vlastnom disku. (Tá história je vlastným príbehom o kvalite života — opakujúcou sa sťažnosťou „kam sa podelo moje diktovanie?“ —, ktorý sme pokryli v texte vaše diktovanie by nikdy nemalo len tak zmiznúť.) A krehkosť účtov a relácií mizne spolu s účtami: na ceste diktovania neexistuje cloudová relácia, ktorej by vypršala platnosť, takže medzi vami a fungujúcou klávesovou skratkou nestojí žiadne opätovné prihlasovanie.

Jediný raz, keď internet naozaj potrebujete

Povinná úprimnosť, povedaná na rovinu: modely sa nejako musia dostať na váš počítač. Pri prvom spustení si Keebye stiahne svoj rečový model — zhruba 700 MB pre anglický engine a asi 1,3 GB, ak zapnete viacjazyčný engine. To je skutočné sťahovanie, raz na engine, a potrebujete naň internet.

Potom modely žijú na disku a prepis beží proti nim lokálne, so sieťou aj bez nej, kým ich neodstránite alebo nevymeníte. Ak však prvé spustenie pripadne na let, máte smolu až do pristátia — nastavenie si urobte pred cestou, nie počas nej. Radšej to počujte odo mňa, než by ste to zistili nad Atlantikom.

Otázka presnosti, zodpovedaná úprimne

Sťahovanie je tá menšia výhrada. Tu je väčšia, lebo nástroje bežiace na zariadení ju radi preskakujú.

Najväčšie cloudové modely môžu byť presnejšie než model na zariadení. Model, ktorý zapĺňa serverový rack, má kapacitu, akú 700 MB súbor nemá, a tvrdiť opak by urážalo vašu inteligenciu. Poviem toto — a verím tomu z toho, že som žil s oboma —: rozdiel sa výrazne zúžil, a čo je dôležitejšie, spôsoby zlyhania sa líšia svojou povahou. Najhorší deň modelu na zariadení je zle počuté slovo, ktoré opravíte. Najhorší deň cloudového modelu je nulový výstup, lebo jeho presnosť sa násobí jeho dostupnosťou a dostupnosť je ten člen, ktorý vo vlaku ide na nulu. Ktorý spôsob zlyhania by ste radšej vlastnili, závisí od vášho dňa; ten môj má v sebe priveľa vlakov.

Dnes je to len pre macOS a ide o predbežný prístup. Žiadny build pre Windows a hrubé hrany, ktoré k predbežnému prístupu patria. Ak je vaša zostava postavená na Windowse, úprimnou odpoveďou je, že Keebye vám zatiaľ nepomôže.

Ak to zvažujete oproti nástroju, ktorý už používate, porovnávacie stránky sú férovou verziou tejto argumentácie. Keebye vs Superwhisper porovnáva dva produkty s cestou prepisu na zariadení; Keebye vs Wispr Flow pokrýva rozhodovanie medzi lokálnym a cloudovým riešením. A ak je alternatívou, ktorú zvažujete, diktovanie zabudované v macOS, hlasové diktovanie pre Mac pokrýva, čo vstavaná funkcia robí dobre a v čom sa Keebye líši.

Dostupnosť je funkcia

Kategória diktovania strávila roky súťažením v percentách presnosti a presnosť je dôležitá. Sťažnosť, ktorá ľudí naozaj ženie k výmene nástroja, je však zriedka „raz ma zle počulo“. Býva to „prestalo to fungovať, zase, a neviem prečo, a náprava zahŕňala prihlásenie sa niekam“. Dostupnosť — nudná, neoslnivá dostupnosť — je funkcia, ktorú si všimnete iba ako jej absenciu.

Spôsob, ako urobiť metódu zadávania rovnako spoľahlivou ako klávesnicu, je dať jej rovnaký zoznam závislostí, aký má klávesnica: počítač pred vami a nič iné. To je celý návrh.

Keebye je v predbežnom prístupe pre macOS. Spustite bezplatnú skúšobnú verziu nižšie, urobte prvé stiahnutie, kým ešte máte internet, potom vojdite do železničného tunela — alebo len vypnite Wi-Fi — a nadiktujte tú istú vetu znova.