Twee keer zo snel, half zo groot

Twee keer zo snel, half zo groot. Glimpse 1.3.1 bouwt opnieuw op hoe Parakeet TDT V3 draait op Apple silicon. Korte dictaten zijn binnen 30 milliseconden klaar, een opname van 9 minuten duurt minder dan 2 seconden, en de download zakt naar 549 MB. Elk woord komt er net zo nauwkeurig uit als voorheen, volledig op je apparaat.

Opvallend snel

Op een M2 Pro, vergeleken met Glimpse 1.3.0:

• Korte dictaten, 2,5 keer sneller. 27 ms in plaats van 68 ms. Fragmenten korter dan 5 seconden duren maar 16 ms.
• Lange opnames, 2,4 keer sneller. Een opname van 9 minuten duurt 1,8 seconden in plaats van 4,2.
• Halve download. 549 MB in plaats van 1,1 GB.
• Zuiniger met geheugen. Ongeveer een derde minder terwijl je dicteert.

Van begin tot eind verbeterd

De winst komt uit elke stap van het proces. De decoder leest de 8-bits gewichten van het model nu direct, met een kwart van het geheugenverkeer. De Neural Engine codeert het volgende deel van een opname terwijl het huidige deel wordt gedecodeerd. En de nieuwe encoder heeft versies van 15, 10 en 5 seconden, zodat een kort dictaat op de kleinste draait die past.

Net zo nauwkeurig

Elke wijziging is gecontroleerd op 14.058 opnames: de volledige LibriSpeech-testsets, FLEURS in alle 25 talen die Parakeet ondersteunt, lange opnames, stilte, getallen en namen. Geen enkele taal ging achteruit, en woorden uit je woordenboek komen net zo vaak goed uit als voorheen.

Ook sneller op Windows

Hetzelfde werk maakt de lokale modellen op Windows sneller, en brengt Nemotron naar de videokaart op beide platforms.

• Parakeet op videokaarten in Windows. Een opname van 9 minuten duurt 5,2 seconden in plaats van 7,4.
• Parakeet op pc's zonder ondersteunde videokaart. Tot 5 keer sneller op processors met veel kernen.
• Nemotron op Windows. Opnames en bestanden in de Bibliotheek draaien op de videokaart en duren 2,8 seconden in plaats van anderhalve minuut. Live dicteren voelt hetzelfde.
• Nemotron op de Mac. Een opname van 9 minuten duurt 6 seconden in plaats van 47.

Beschikbaarheid

Glimpse 1.3.1 is nu beschikbaar voor Mac en Windows. Gebruik je Parakeet TDT V3, dan downloadt Glimpse de nieuwe versie één keer op de achtergrond en blijft het werken terwijl die klaargezet wordt. Macs met macOS 14 krijgen een versie die op die release is afgestemd. Dicteren blijft gratis en onbeperkt, met elk model.