Windows için GPU hızlandırmalı transkripsiyon ile Yerel Whisper dikte
VoZii, OpenAI'nin Whisper'ını whisper.cpp aracılığıyla yerel olarak konuşmayı transkribe eder ve metni herhangi bir Windows uygulamasındaki imleçte ekler. haZii.org, bu gizlilik odaklı Windows aracını taşınabilir bir yürütülebilir dosya olarak yayınlamaktadır. Ana işlevler arasında GPU hızlandırması (CUDA ve Vulkan), küresel konuşma için tuş kombinasyonları ve dilbilgisi ve biçimlendirme için isteğe bağlı Ollama sonrası işleme bulunmaktadır. Araç, yerel model işleme ve bulut hizmetleri yerine doğrudan metin eklemeyi tercih eden gizlilik bilincine sahip yazarlar, geliştiriciler ve erişim ihtiyaçları olan kullanıcılar için uygundur.
VoZii masaüstü iş akışında aslında ne yapar?
VoZii, whisper.cpp aracılığıyla Whisper modellerini yerel olarak çalıştırır ve transkripte edilmiş metni aktif pencerede imleç konumuna yazar, böylece dikte edilen metin editörlerde, tarayıcılarda veya sohbet uygulamalarında bağlam değiştirmeden görünür. Uygulama, tek bir taşınabilir 64-bit çalıştırılabilir dosya olarak sunulmakta ve sesin ne zaman kaydedileceğini kontrol etmek için itmeye-tıklamaya veya geçiş modlarına sahip global bir kısayol tuşu sunmaktadır.
VoZii transkripsiyon sırasında sistem performansını etkiler mi?
Uygulama yalnızca CPU'lu sistemlerde çalışabilir ancak özellikle NVIDIA için CUDA veya AMD ve Intel için Vulkan aracılığıyla GPU hızlandırması kullanacak şekilde tasarlanmıştır, bu da CPU işleme ile karşılaştırıldığında transkripsiyon gecikmesini azaltır. Model çıkarımı için yerel donanım kullandığından, ölçülebilir etki, sistemin model çıkarımını GPU veya CPU'ya yönlendirip yönlendirmediğine bağlıdır; GPU'lu makineler, metnin daha hızlı, neredeyse gerçek zamanlı olarak yazıldığını görecektir.
VoZii hassas sesler için güvenli mi ve düzenli iş akışları için uygun mu?
VoZii, başlangıçta bir model indirildikten sonra tanıma işlemini yerel olarak gerçekleştirir, bu nedenle normal kullanım sırasında hiçbir ses harici sunuculara gönderilmez. Ollama ile isteğe bağlı entegrasyon, verileri makinede tutarak yerel bir model üzerinde son işlem yapar. Uygulamanın taşınabilir tasarımı, sistemde kurulum değişikliklerinden kaçınır, bu da birden fazla makinede kalıcı girişler yazmayan bir araca ihtiyaç duyduğunuzda yardımcı olur.
Teknik olarak zeki, gizlilik odaklı kullanıcılar için güçlü bir yerel dikte aracı
VoZii, yerel modelleri ve donanım hızlandırmasını yönetme sorumluluğunu kabul eden kullanıcılar için uygundur ve cihazda transkripsiyon ile gizlilik sağlar. GPU hızlandırmasını etkinleştirirken veya yerel bir Ollama örneğini entegre ederken biraz kurulum çalışması bekleyin; tak-çalıştır, bulut destekli bir dikte hizmetini tercih eden kullanıcılar bu değişimi hoş karşılamayabilir. Yerel işleme ve masaüstü iş akışlarına doğrudan metin eklemeyi önceliklendiren herkes için önerilir.