Läste en nyhet om att nvidia släppt en språkmodell med mer data för europeiska språk
https://blogs.nvidia.com/blog/speech-ai-dataset-models/
Spännande! Den här vill jag utforska lite mer. Men jag vet inte vad som krävs för att köra det här lokalt.
Det är mest texthantering jag är intresserad av egentligen.
Så modellen NVIDIA Canary-1b-v2 är väl det jag vill testa. Artikeln har länk till hugging face för det här också.
https://huggingface.co/nvidia/canary-1b-v2
Det jag är mest nyfiken på är väl om man kan köra nå sånt här på en mini-pc. Säg en mac mini eller en Ryzen med HX 370 (ganska billiga i mini-pc väg).
Eller är det helt uteslutet för en OK upplevelse? Behöver NeMo vara inblandat och behövs i så fall nvidias hårdvara?
Jag tänkte att jag ville testa lite här - och kan lägga kanske 10k på hårdvara. Finns något med miniformat för det här månne?
Oavsett kommer inte en förmögenhet läggas på det här för lite testande ;).
Nån som vet vad som skulle kunna funka här?