Nvidias svar på för lite videominne: Komprimerade texturer

Helt rimlig princip, men skulle kanske snarare gissa att konsumentkort inte fortsätter att få mer minne i samma utsträckning som hittills, snarare än chockexemplet med 6090 med 4GB.

(Det låter ju, som du också konstaterar, i grund och botten bara som den vanliga marknadssegmentering som alla de där bolagen sysslar med hela tiden.)

Det gör det visst. Senast var det dlss4 med transformer model som funkar på så gamla kort som 2xxx serien. Det enda som inte spillt över hittills är frame generation och multi frame generation. Sen får vi väl se vad det blir av just denna funktion, det kan man väl bara spekulera i.

640kB VRAM är tillräckligt -- Jensen Huang, 2025

Så mot potentiellt mer strömförbrukning kan man nöja sig med mindre VRAM? Billigare för Nvidia, dyrare för kunden.

Texturer är redan väldigt komprimerade, typ din liknelse vid mp3. Om vi spinner vidare så är detta komprimering som kräver att du lyssnar på din musik under vatten (TAA) annars börjar dina öron blöda.

fake frames handlar om dlss4, framegen.

Min folihatt viskar i mitt öra att detta bara är Nvidias ursäkt för 12gb eller mindre. Tekniken kommer först efter korten är utdaterade ändå troligen. Varför ge korten mer VRAM idag när vi kan lova bättre saker längre fram?

Troligtvis är denna teknik riktad mot arbetslaster där ex AI har flaskhalsar i I/O och minne mer än i GPUns beräkningskraft. Sen att man säger att det ska hjälpa oss i spel är mer av en eftertanke?

Både ja och nej. Tar du en bild med en kamera som tar både jpeg och raw samtidigt, så kommer raw bilden se suddig ut. För den behöver bli behandlad i program efteråt. Men om du tar typ en bild med en Hasselblad mellanformatskamera på 100 MP och med 16 bitars och sedan komprimera den till 4% av ursprungliga bilden raw eller jpeg så blir det knappast en bra bild.

Ja 5090 är en nerskuren gpu som inte dög till AI kort eller Quadrokort. T.ex 1/4 av L3 cachen är väck osv. Om det kommer en onerskuren GPU så kommer den att heta 5090 Ti.

Anledningen till att varken Nvidia eller ATI ökar mängden minnen på korten är för att det skulle skära in i deras försäljning av vida mer lönsamma Quadrokort och Fireprokort som har 2x mer minne än konsumentkorten och dessutom är det ECC-minne. Ett 5090 Quadrokort lär kosta typ 100 000 - 120 000 kronor när det kommer. Intel har inte visat någon vilja till att vilja bryta med den här affärsmodellen. Dessutom kräver deras GPUer att moderkortet stödjer resizeable bar tekniken, vilket betyder att de inte platsar i äldre moderkort som saknar stöd för detta. Det ser onekligen illa ut på grafikkortsfronten.

Fast vem köper grafikkort här för spel.
Vi vill ha virtuella Ai katter och 32GB grafik minne är ett minimum till dessa. Nvidia lösning hjälper ej oss.

Näää, jag som vill ha en virtuell Ai katt!

Fast tycker det låter väldigt smart och bra. Varför fläska på med mer minne om man kan göra det mindre med mjukvara? De befintliga korten kommer hålla längre. Fast det kräver såklart att spelen kör med tekniken, så det ligger i framtiden.

Det är väl inte första gången NVIDIA kommer med komprimerade texturer heller? Har för mig att dom kört med det länge? Men detta är väl ett steg till misstänker jag.

Jo men allt HBMminne är bokat för AI-acceleratorer. Jag har läst att det är slutsålt överallt. Den här AI-hypen drivs av enorma mängder spekulativt kapital från investeringsfirmor som kan låna upp miljarder dollar. När ett lån sker skapas det mer skuldpengar och den här ökande penningmängden dumpas in i AI-företag som inte har några problem med att köpa GPU-liknande kretsar med enormt mycket högre prestanda än vad som finns i grafikkort för konsumenter. ATIs bästa AI-krets har 288 gigabyte HBM minne och allting utom rasterkretsar för den är inte menad att ha en monitor kopplad till sig. Det går åt massor av fysiskt och mänskligt kapital till att konstruera och bygga dessa kretsar för AI beräkningar och de suger upp all HBM-produktionskapacitet som finns. Lägg märke till att Nvidia använde en EPS-kontakt istället för den opålitliga 12-2V6 till sitt AI-flaggskepp. De bästa ingenjörerna går till AI-kretsprojekten för det är de som är de stora kassakorna för grafikkortsföretagen, inte grafikkortskretsar.

The Radeon Instinct MI325X is a professional graphics card by AMD, launched in October 2024. Built on the 5 nm process, and based on the Aqua Vanjaram graphics processor, the card does not support DirectX. Since Radeon Instinct MI325X does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The Aqua Vanjaram graphics processor is a large chip with a die area of 1017 mm² and 153,000 million transistors. It features 19456 shading units, 1216 texture mapping units, and 0 ROPs. Also included are 1216 tensor cores which help improve the speed of machine learning applications. AMD has paired 288 GB HBM3e memory with the Radeon Instinct MI325X, which are connected using a 8192-bit memory interface. The GPU is operating at a frequency of 1000 MHz, which can be boosted up to 2100 MHz, memory is running at 2525 MHz.
Being a oam module card, the AMD Radeon Instinct MI325X does not require any additional power connector, its power draw is rated at 1000 W maximum. This device has no display connectivity, as it is not designed to have monitors connected to it. Radeon Instinct MI325X is connected to the rest of the system using a PCI-Express 5.0 x16 interface.

The H200 SXM 141 GB is a professional graphics card by NVIDIA, launched on November 18th, 2024. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H200 SXM 141 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. It features 16896 shading units, 528 texture mapping units, and 24 ROPs. Also included are 528 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 141 GB HBM3e memory with the H200 SXM 141 GB, which are connected using a 5120-bit memory interface. The GPU is operating at a frequency of 1590 MHz, which can be boosted up to 1980 MHz, memory is running at 1313 MHz.
Being a sxm module card, the NVIDIA H200 SXM 141 GB draws power from an 8-pin EPS power connector, with power draw rated at 700 W maximum. This device has no display connectivity, as it is not designed to have monitors connected to it. H200 SXM 141 GB is connected to the rest of the system using a PCI-Express 5.0 x16 interface. The card measures 267 mm in length, 111 mm in width, and features a sxm module cooling solution.

Inte riktigt, varje material består av flera olika texturer som har olika funktioner. Man har t.ex. en textur med färg, en med normalvektorer, en som anger hur grov utan är, o.s.v. Vanligtvis är dessa texturer relaterade till varandra. Om du kollar på exemplet på Github så ser du t.ex. att samtliga texturer för det materialet har samma brickmönster.

Om det inte vore för den här produktdifferentieringen skulle alla konsumentGPUer ha en version med 2x mer minne än vad de har idag. T.ex 5090 skulle lanserats med 64 GB. Den här minnesmängden är reservad för Quadrokort som kostar över 100 000 kronor. Dessutom har dessa kort ECC-minne.