Il doppio della velocità, la metà del peso

Il doppio della velocità, la metà del peso. Glimpse 1.3.1 ricostruisce il modo in cui Parakeet TDT V3 gira su Apple silicon. Le dettature brevi finiscono in meno di 30 millisecondi, una registrazione di 9 minuti richiede meno di 2 secondi e il download scende a 549 MB. Ogni parola esce precisa come prima, interamente sul tuo dispositivo.

Velocissimo

Su un M2 Pro, rispetto a Glimpse 1.3.0:

• Dettature brevi, 2,5 volte più veloci. 27 ms invece di 68 ms. Le clip sotto i 5 secondi richiedono appena 16 ms.
• Registrazioni lunghe, 2,4 volte più veloci. Una registrazione di 9 minuti richiede 1,8 secondi invece di 4,2.
• Download dimezzato. 549 MB invece di 1,1 GB.
• Più leggero sulla memoria. Circa un terzo in meno mentre detti.

Ottimizzato da cima a fondo

L'accelerazione arriva da ogni fase della pipeline. Il decoder ora legge direttamente i pesi a 8 bit del modello, con un quarto del traffico di memoria. Il Neural Engine codifica la parte successiva di una registrazione mentre quella attuale viene decodificata. E il nuovo encoder include versioni da 15, 10 e 5 secondi, così una dettatura breve usa la più piccola adatta.

Preciso come prima

Ogni modifica è stata verificata su 14.058 registrazioni: i set di test completi di LibriSpeech, FLEURS in tutte le 25 lingue supportate da Parakeet, registrazioni lunghe, silenzio, numeri e nomi. Nessuna lingua è peggiorata, e le parole del tuo dizionario escono giuste con la stessa frequenza di prima.

Più veloce anche su Windows

Lo stesso lavoro velocizza i modelli locali su Windows e porta Nemotron sulla scheda grafica su entrambe le piattaforme.

• Parakeet sulle schede grafiche Windows. Una registrazione di 9 minuti richiede 5,2 secondi invece di 7,4.
• Parakeet sui PC senza una scheda grafica supportata. Fino a 5 volte più veloce sui processori con molti core.
• Nemotron su Windows. Le registrazioni e i file della Libreria girano sulla scheda grafica, e richiedono 2,8 secondi invece di un minuto e mezzo. La dettatura dal vivo resta la stessa.
• Nemotron su Mac. Una registrazione di 9 minuti richiede 6 secondi invece di 47.

Disponibilità

Glimpse 1.3.1 è disponibile ora per Mac e Windows. Se usi Parakeet TDT V3, Glimpse scarica la nuova versione una sola volta in background e continua a funzionare mentre si prepara. I Mac con macOS 14 ricevono una versione ottimizzata per quella release. La dettatura resta gratuita e illimitata, con ogni modello.