A diktálóapp, ami akkor is működik, amikor az internet nem

Vannak panaszok, amelyek csak akkor bukkannak fel, amikor elromlik valami, ezért könnyű alábecsülni őket addig, amíg veled nem történik meg: a felhős diktálás a hálózattól függ. Egy szolgáltatói kimaradás, és a diktálóbillentyűd nem csinál semmit. Egy hotel Wi-Fije megszakad, és egy mondat eltűnhet egy pörgő kis kerékben. Egy repülő. Egy vasúti alagút. Egy VPN, amely épp a legrosszabb pillanatban tárgyal újra. Ez nem egyetlen termék hibája; ezt jelenti egy oda-vissza úttól függeni.

A kegyetlensége abban van, mi bukik el. Ha a jegyzetelőappod leáll, megnyitsz egy szövegfájlt. Ha a diktálásod leáll, egy beviteli módot veszítesz el — azt, amire izommemóriát építettél, mondat közben, jellemzően úgy, hogy a kezed épp mással volt elfoglalva. Épp ezért diktáltál.

Az elérhetőségi panasz alatt ott ül egy adatvédelmi kérdés: elhagyja-e a hangfelvételed a gépet? Egy felhős átírási útvonalon a hangosan gondolkodásodról készült felvételek — ügyfélnevek, kiadatlan funkciók, a biztonsági probléma, amelyet épp egy kollégának írsz le — valaki más infrastruktúrájára utaznak, hogy szöveggé váljanak. Ez az útvonal ráadásul függhet munkamenetektől, fiókoktól és rajtad kívül álló szolgáltatás-elérhetőségtől.

A Keebye erre adott válaszát azelőtt építettem meg, hogy funkcióként megfogalmaztam volna, mert a saját elvárásom nyers volt: működnie kellett kikapcsolt Wi-Fivel. Íme, mit jelent ez a gyakorlatban, és mibe kerül.

Miért nullára bukik el a felhős diktálás

A kategóriaszintű mechanikát érdemes kimondani, mert megmagyarázza, miért nem tűnik el sosem teljesen ez a panasz, bármilyen jók lesznek is a termékek.

Egy felhős diktálási hurokban legalább négy láncszem van: a hang felvétele a gépeden, elküldése egy szervernek, ott a következtetés futtatása, a szöveg visszaküldése. Minden láncszem egy függőség — a te hálózatod, az ő hálózatuk, az ő auth-rétegük, az ő kapacitásuk, az ő rendelkezésre állásuk. A lánc általában rendben van. De ha bármelyik szem elszakad, az egész hurok elszakad, méghozzá nullára. Nem „lassabb”, nem „pontatlanabb” — semmi nem érkezik a kurzorodhoz. A fokozatos romlás elviselhető lenne; a diktálás csendbe romlik.

A szolgáltatók keményen mérnökölhetnek ez ellen, de nem tudják megjavítani azokat a láncszemeket, amelyek nem az övéik: a hotel routerét, a repülőutat, a céges VPN-edet, a köztetek lévő gerinchálózati incidenst. Az az eszköz, amelynek elérhetősége több rendszertől függ, elbukhat, ha akár csak az egyik nem elérhető.

Mi történik, ha nincs felhő, ahonnan vissza lehetne esni?

A Keebye architektúrája úgy válaszol a kérdésre, hogy megszünteti. A beszédfelismerés teljesen az eszközön fut — ONNX-modellek, helyi következtetés, a Maced saját szilíciumán. Nulla hálózati hívás van a diktálási útvonalon. Nem „minimalizáljuk”, nem „kötegeljük” — nulla. Telemetria sincs. Semennyi. Amikor nyomva tartod a billentyűt és beszélsz, egyetlen csomag sem hagyja el a gépet a nevedben.

Alá akarom húzni az architekturális pontot, mert ez a különbség ez és egy „offline mód” között. Az offline mód tartalék: a normál útvonal a felhőbe megy, és amikor a felhő elérhetetlen, egy leromlott helyi útvonal veszi át — ha az app időben észreveszi, ha a helyi útvonalat karbantartják, ha az átadás mondat közben működik. A Keebye-ban nincs ilyen átadás, mert nincs felhős útvonal, ahonnan átadhatna. A helyi következtetés nem a B terv; ez az egyetlen terv. Egy fenti kimaradás ugyanazért nem tudja eltörni, amiért egy másik országban bekövetkező áramszünet nem tudja lekapcsolni az asztali lámpádat. Szerkezeti immunitás, nem tartalékútvonalas.

Itt kap választ a csendesebb panasz is, beállítási oldal nélkül. A hangod sosem hagyja el a gépet — nem titkosítva utazik, nem anonimizálva, hanem egyszerűen sosem küldjük el, mert nincs hová. Ha bekapcsolod a diktálási előzményeket, csak szöveg tárolódik, egy helyi SQLite-adatbázisban a saját lemezeden. (Az előzmények maguk is külön kényelmi történet — a visszatérő „hová tűnt a diktálásom?” panasz —, amelyet a diktálásod sosem tűnhet el csak úgy írásban fedtünk le.) A fiókok és munkamenetek törékenysége pedig eltűnik a fiókokkal együtt: a diktálási útvonalon nincs lejáró felhős munkamenet, tehát nincs újbóli hitelesítés közted és egy működő hotkey között.

Az egyetlen alkalom, amikor mégis kell az internet

Kötelező őszinteség, kimondva: a modelleknek valahogy fel kell kerülniük a gépedre. Az első futtatáskor a Keebye letölti a beszédmodelljét — nagyjából 700 MB az angol motorhoz, és körülbelül 1,3 GB, ha bekapcsolod a többnyelvűt. Ez valódi letöltés, motoronként egyszer, és internet kell hozzá.

Utána a modellek a lemezen laknak, és az átírás helyben fut ellenük, hálózattal vagy hálózat nélkül, amíg el nem távolítod vagy le nem cseréled őket. De ha az az első futtatás a repülőn történik, addig nincs mit tenni, amíg le nem szállsz — a beállítást utazás előtt csináld meg, ne közben. Inkább tőlem halld ezt, mint hogy az Atlanti-óceán fölött fedezd fel.

A pontosság kérdése, őszintén megválaszolva

A letöltés a kisebbik kikötés. Jön a nagyobb, mert az eszközön futó eszközök szeretik átugrani.

A legnagyobb felhős modellek pontosabbak lehetnek egy eszközön futó modellnél. Egy modellnek, amely megtölt egy szerverszekrényt, olyan kapacitása van, ami egy 700 MB-os fájlnak nincs, és ennek tagadása sértené az intelligenciádat. Amit viszont mondok — és amit mindkettővel együtt élve hiszek —, az az, hogy a rés sokat szűkült, és ami fontosabb: a hibamódok jellegükben térnek el. Egy eszközön futó modell legrosszabb napja egy félrehallott szó, amelyet kijavítasz. Egy felhős modell legrosszabb napja a nulla kimenet, mert a pontosságát megszorozza az elérhetősége, és a vonaton az elérhetőség az a tag, amely nullára megy. Hogy melyik hibamódot vállalnád szívesebben, az a napodtól függ; az enyémben túl sok a vonat.

Ma kizárólag macOS-re készült, és korai hozzáférésben van. Nincs Windows-build, és megvannak a korai hozzáféréssel járó érdes felületek. Ha a setuped elsősorban Windowsra épül, az őszinte válasz az, hogy a Keebye még nem tud segíteni.

Ha ezt egy már használt eszközzel méred össze, az összehasonlító oldalak ennek az érvelésnek a méltányos változatai. A Keebye vs Superwhisper két olyan terméket hasonlít össze, amelyeknek eszközön futó átírási útvonala van; a Keebye vs Wispr Flow a helyi-kontra-felhős döntést fedi le. És ha az alternatíva, amelyet mérlegelsz, a macOS-be épített diktálás, a hangdiktálás Macre írja le, mit csinál jól a beépített megoldás, és hol tér el a Keebye.

Az elérhetőség funkció

A diktálási kategória éveket töltött azzal, hogy pontossági százalékokon versenyezzen, és a pontosság számít. De az a panasz, amely valóban eszközváltásra viszi az embereket, ritkán az, hogy „egyszer félrehallott”. Hanem az, hogy „megint leállt, nem tudom, miért, és a javításhoz be kellett jelentkeznem valahová”. Az elérhetőség — az unalmas, dicstelen elérhetőség — az a funkció, amelyet csak a hiányán keresztül veszel észre.

Egy beviteli módot úgy lehet olyan megbízhatóvá tenni, mint egy billentyűzetet, hogy ugyanazt a függőségi listát adod neki, mint a billentyűzetnek: az előtted lévő gépet, és semmi mást. Ez az egész terv.

A Keebye korai hozzáférésben érhető el macOS-re. Indítsd el lent az ingyenes próbaidőszakot, csináld meg az első futtatás letöltését, amíg még van interneted, aztán hajts be a vasúti alagútba — vagy csak kapcsold ki a Wi-Fit —, és diktáld be ugyanazt a mondatot még egyszer.