Diktovací aplikace, která funguje, i když nefunguje internet

Některé stížnosti se ukážou, až když se něco rozbije, a proto se snadno podceňují, dokud nepotkají zrovna vás: cloudové diktování závisí na síti. Výpadek u poskytovatele a vaše diktovací klávesa neumí nic. Hotelová Wi-Fi, která vypadne, a věta zmizí do kolečka. Letadlo. Železniční tunel. VPN, která se přesně v tu nejhorší chvíli přesjednává. Tohle není vada jednoho produktu; je to prostě to, co znamená záviset na cestě tam a zpět.

Krutost je v tom, co selhává. Když vám spadne aplikace na poznámky, otevřete textový soubor. Když vám spadne diktování, přijdete o metodu zadávání textu — o tu věc, kolem které jste si vybudovali svalovou paměť, a to uprostřed věty, obvykle ve chvíli, kdy máte ruce plné něčeho jiného. Přesně proto jste přece diktovali.

Pod stížností na dostupnost sedí otázka soukromí: opouští zvuk vašeho hlasu tenhle stroj? V cloudové cestě přepisu putují nahrávky vás přemýšlejících nahlas — jména klientů, nevydané funkce, bezpečnostní problém, který popisujete kolegovi — na cizí infrastrukturu, aby se z nich stal text. Taková cesta může navíc záviset na sessions, účtech a dostupnosti služby mimo vaši kontrolu.

Odpověď Keebye na tohle jsem postavil dřív, než jsem ji uměl vyslovit jako funkci, protože můj vlastní požadavek byl neomalený: muselo to fungovat s vypnutou Wi-Fi. Tady je, jak to doopravdy vypadá a co to stojí.

Proč cloudové diktování selhává rovnou na nulu

Mechaniku na úrovni celé kategorie stojí za to vypsat, protože vysvětluje, proč tahle stížnost nikdy úplně nezmizí, ať jsou produkty jakkoli dobré.

Cloudová diktovací smyčka má minimálně čtyři články: zachytit zvuk na vašem stroji, odeslat ho na server, tam spustit inferenci, poslat text zpátky. Každý článek je závislost — vaše síť, jejich síť, jejich vrstva autentizace, jejich kapacita, jejich dostupnost. Ten řetěz je obvykle v pořádku. Ale když se kterýkoli článek zlomí, zlomí se celá smyčka, a zlomí se na nulu. Ne „pomaleji“, ne „méně přesně“ — ke kurzoru nedorazí nic. Degradace by se dala snést; diktování ale degraduje do ticha.

Poskytovatelé proti tomu můžou tvrdě pracovat, ale nemůžou opravit články, které nevlastní: hotelový router, let, vaši firemní VPN, incident na páteřní síti mezi vámi a nimi. Nástroj, jehož dostupnost závisí na několika systémech, může selhat, kdykoli je kterýkoli z nich nedostupný.

Co se stane, když neexistuje žádný cloud, ze kterého by se dalo ustoupit?

Architektura Keebye tuhle otázku zodpovídá tím, že ji odstraní. Převod řeči na text běží zcela přímo na zařízení — modely ONNX, lokální inference, na křemíku vašeho vlastního Macu. V cestě diktování je nula síťových volání. Ne „minimalizujeme je“, ne „dávkujeme je“ — nula. A žádná telemetrie taky. Vůbec žádná. Když podržíte klávesu a mluvíte, žádný paket neopustí stroj vaším jménem.

Chci ten architektonický bod podtrhnout, protože v něm je rozdíl mezi tímhle a „offline režimem“. Offline režim je záložní řešení: normální cesta jde do cloudu, a když je cloud nedostupný, přebírá to degradovaná lokální cesta — pokud si toho aplikace včas všimne, pokud se lokální cesta udržuje, pokud předání uprostřed věty vyjde. Keebye žádné takové předání nemá, protože nemá cloudovou cestu, ze které by předával. Lokální inference není záložní plán; je to jediný plán. Výpadek někde nahoře ji nemůže rozbít ze stejného důvodu, z jakého vám výpadek proudu v jiné zemi nezhasne lampičku na stole. Imunita z konstrukce, ne ze záložního řešení.

Tady se zároveň bez stránky nastavení odpovídá i na tu tišší stížnost. Váš zvuk stroj nikdy neopustí — ne šifrovaný při přenosu, ne anonymizovaný, prostě se nikdy neodešle, protože není kam. Pokud si zapnete historii diktování, ukládá se pouze text, do lokální databáze SQLite na vašem vlastním disku. (Ta historie je vlastní příběh o komfortu — opakovaná stížnost „kam se podělo moje diktování?“ — a napsali jsme o něm v článku Vaše diktování by nemělo jen tak zmizet.) A křehkost účtů a session mizí spolu s těmi účty: v cestě diktování není žádná cloudová session, které by vypršela platnost, takže mezi vámi a fungující klávesovou zkratkou nestojí žádné opětovné přihlašování.

Jediná chvíle, kdy internet potřebujete

Povinná upřímnost, řečeno na rovinu: modely se na váš stroj musí nějak dostat. Při prvním spuštění si Keebye stáhne svůj řečový model — zhruba 700 MB pro anglický engine a asi 1,3 GB, pokud zapnete vícejazyčný engine. To je skutečné stahování, jednou na každý engine, a potřebujete k němu internet.

Potom modely leží na disku a přepis proti nim běží lokálně, se sítí i bez ní, dokud je neodstraníte nebo nevyměníte. Ale pokud první spuštění nastane v letadle, máte smůlu, dokud nepřistanete — nastavení si udělejte před cestou, ne během ní. Radši ať to slyšíte ode mě, než abyste na to přišli nad Atlantikem.

Otázka přesnosti, zodpovězená upřímně

Stahování je ta malá výhrada. Tady je ta větší, protože nástroje běžící na zařízení ji rády přeskakují.

Největší cloudové modely mohou být přesnější než model na zařízení. Model, který zaplní serverovou skříň, má kapacitu, jakou soubor o 700 MB nemá, a předstírat opak by uráželo vaši inteligenci. Co říct můžu — a čemu věřím ze života s obojím — je, že se ta mezera hodně zúžila, a hlavně že se způsoby selhání liší svou povahou. Nejhorší den modelu na zařízení je špatně slyšené slovo, které opravíte. Nejhorší den cloudového modelu je nulový výstup, protože jeho přesnost se násobí jeho dostupností a dostupnost je ten člen, který ve vlaku klesá na nulu. Který způsob selhání byste radši vlastnili, závisí na vašem dni; v tom mém je vlaků moc.

Zatím je to jen pro macOS a je to předběžný přístup. Žádný build pro Windows a všechno nedodělané, co k předběžnému přístupu patří. Pokud je váš setup postavený na Windows, upřímná odpověď je, že vám Keebye zatím pomoct nemůže.

Pokud tohle zvažujete proti nástroji, který už používáte, jsou srovnávací stránky nestrannou verzí téhle argumentace. Keebye vs Superwhisper srovnává dva produkty s cestami přepisu přímo na zařízení; Keebye vs Wispr Flow pokrývá rozhodnutí mezi lokálním a cloudovým. A pokud je alternativou, kterou zvažujete, diktování vestavěné v macOS, hlasové diktování pro Mac popisuje, co vestavěná funkce umí dobře a v čem se Keebye liší.

Dostupnost je funkce

Diktovací kategorie strávila roky soutěžením v procentech přesnosti a na přesnosti záleží. Ale stížnost, která lidi doopravdy nutí měnit nástroje, je zřídka „jednou mě špatně slyšelo“. Je to „zase to přestalo fungovat, nevím proč, a náprava zahrnovala přihlášení do něčeho“. Dostupnost — nudná, neefektní dostupnost — je ta funkce, které si všimnete jen jako její nepřítomnosti.

Jak udělat metodu zadávání textu stejně spolehlivou jako klávesnici: dát jí stejný seznam závislostí jako klávesnici — stroj před vámi, a nic víc. To je celý ten návrh.

Keebye je v předběžném přístupu pro macOS. Bezplatnou zkušební verzi spustíte níže, stahování při prvním spuštění si udělejte, dokud ještě máte internet, a pak vjeďte do železničního tunelu — nebo prostě vypněte Wi-Fi — a nadiktujte stejnou větu znovu.