AMD dementerar Radeon RX 9070 XT 32GB

Permalänk
Medlem
Skrivet av john2376:

Provat köra LLM modeller lokalt? Jo de kan kräva en hel del, sen är VRAM löjligt billiga även för gddr7 kretsarna, att gå från 16 till 32 hade reflekterat i under 500kr skillnad på priserna.

100%

Enda anledningen Nvidia inte gör det är för att tvinga företag som vill köra LLM till 5090 eller deras enterprise.

Faktum är att 32 GB är bra för lokala LLM men 48-96GB öppnar andra dörrar. Så du har helt rätt.

I spel ser vi mer och mer att 16GB inte räcker riktigt. Så det är ju en besvikelse att Nvidia bara har 16 GB på deras 5080. Man tappar snabbt en hel del fps om ett spel skulle behöva 16.5-17GB och ramminnet ska användas. En onödig flaskhals för toppkort som är medvetet skapat.

Visa signatur

System: AMD Ryzen 7 9800X3D, 64 GB RAM, RTX 5080
Shitlist: Asus, NZXT

Permalänk
Skrivet av john2376:

Provat köra LLM modeller lokalt? Jo de kan kräva en hel del, sen är VRAM löjligt billiga även för gddr7 kretsarna, att gå från 16 till 32 hade reflekterat i under 500kr skillnad på priserna.

Om det inte var tydligt att mitt inlägg rörde "gaming" så vet jag inte vad som är tydligt längre.

Står ju till och med speltitlar i inlägget.

Visa signatur

i7-10700KF | RTX 3060 Ti Phoenix | 32 GB HyperX 3200Mhz

Permalänk
Medlem

Om det skulle komma ett mellanklasskort med 32GB vram så skulle det bli en succe i AI kretsar. Det skulle inte ta lång tid för alla tools att uppdateras till att stödja AMD.
Ingen bryr sig hur snabb kretsen är när det är vram som bestämmer hur stora saker du kan köra.

Jag har kört en hel del olika AI prylar med AMD och det är nog mest ljud-baserade saker där AMD har haft dåligt stöd för mig. Typ TTS och STT.

Visa signatur

R&D Elektronik & Radioingenjör