Ny teknik kan ge grafikkort med 4 TB minne

Permalänk
Melding Plague

Ny teknik kan ge grafikkort med 4 TB minne

High Bandwidth Flash kombinerar hög hastighet och stort utrymme.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Inaktiv

Perfekt. Låter intressant.

Permalänk
Medlem

Hoppas verkligen inte detta kommer till gaming/konsumentsidan! Men skulle ju passa väl med Nvidias textur-komprimering, komprimera dina texturer så bevarar du din write endurance

"Med RTX NTC kan ditt grafikkort hålla i upp till fem års dagligt spelande, utan får du bara 2 år!"

Visa signatur

Gamingrigg: MEG x570 ACE, 5950X, Ripjaws V 32GB 4000MT/S CL16, 6800XT Red Devil LE, HX1200i.
Laptop: XPS 9570 x GTX 1050 x 8300h + 16GB Vengeance 2666Mhz + Intel AX200
Valheim server: i7-8559 + Iris Plus 655 + 32GB + 256GB
Printers? Yes. Ender 5, Creality LD-002R, Velleman VM8600, Velleman K8200

Permalänk
Medlem

TBW: yes.

De är allt bra roliga. Hur många terabyte data skrivs till vanligt GDDRx under en timmas spelning?

Permalänk
Medlem

DETTA är faktiskt intressant, till skillnad från Nvidias dumheter. 😋

Visa signatur

| Corsair Obsidian 500D | Intel Core i7-3770K 3.9GHz med Corsair iCUE H115i Elite Capellix XT | Asus Z77 Sabertooth | Corsair Vengeance Pro Black 4x8GB 1866MHz CL9 | 2x EVGA GeForce GTX TITAN X 12GB, SLI | X-Fi Titanium Fatal1ty Pro | Samsung 870 EVO 2TB, Samsung 870 EVO 1TB, 2x Seagate Barracuda 2TB | Corsair AX860i | DELL P991 Trinitron | Windows XP/10 Dual-Boot |

Permalänk
Medlem
Skrivet av Shiprat:

Hoppas verkligen inte detta kommer till gaming/konsumentsidan! Men skulle ju passa väl med Nvidias textur-komprimering, komprimera dina texturer så bevarar du din write endurance

"Med RTX NTC kan ditt grafikkort hålla i upp till fem års dagligt spelande, utan får du bara 2 år!"

Det vore väl toppen. Särskilt med en variant där man har en del av detta för lagring av grafikdata som inte behöver skrivas om eller ändras ofta (gissar att det är ganska mycket) och sen en del av vanligt grafikminne för de snabba delarna.

Säg 16 GB vanligt och 32 GB sånt här minne.

Visa signatur

Moderkort: Gigabyte X570 Aorus Master | CPU: AMD Ryzen R9 5900X | CPU-kylare: Noctua NH-D15 chromax.black | RAM: Corsair Vengeance LPX 64 GB (4x16) DDR4-3600 CL18 | GPU: Gigabyte RTX 4080 Eagle OC | SSD: 2 x Samsung 970 EVO Plus 1 TB NVMe + Kingston A400 480 GB + Samsung QVO860 1 TB | PSU: EVGA SuperNOVA G2 1000 W Gold | Chassi: Lian Li O11 Dynamic XL | Skärm: BenQ PD3200U @ 3840x2160 + ASUS ROG Strix XG32VQ @ 2560x1440 | Tangentbord: Corsair K68 RGB Cherry MX Red | Mus: Logitech MX Master 2S

Permalänk
Medlem

Nvidia kör en 970 igen och släpper ett kort i framtiden med 3,5 TB HBM och 0,5 TB långsammare minne.

Visa signatur

Skriv jätteintressant information här.

Permalänk
Medlem
Skrivet av underd0g76:

TBW: yes.

De är allt bra roliga. Hur många terabyte data skrivs till vanligt GDDRx under en timmas spelning?

Lustiga är att jag tror att det är ännu mer för AI på den nivå detta vore relevant för. Men i datacenter-miljö är det inte orimligt att byta ut korten eller minnet regelbundet om man får mer kapacitet till bra pris. För gaming vore det ju trist

Minneshyra à la Renaults batterihyra kanske? Köp kortet, hyr minnet och antingen få det bytt efter viss procent degradering eller köp ut det efter ett par år om du använder snålt?

Visa signatur

Gamingrigg: MEG x570 ACE, 5950X, Ripjaws V 32GB 4000MT/S CL16, 6800XT Red Devil LE, HX1200i.
Laptop: XPS 9570 x GTX 1050 x 8300h + 16GB Vengeance 2666Mhz + Intel AX200
Valheim server: i7-8559 + Iris Plus 655 + 32GB + 256GB
Printers? Yes. Ender 5, Creality LD-002R, Velleman VM8600, Velleman K8200

Permalänk
Medlem

Koppla in en liten kloss på moderkortet istället för 4st DDR minnen, spara lite plats kanske

Permalänk
Medlem

Allt som behövs är ju grafikkort med ett knippe extra minnesplatser.
Antalet platser beroende på bussbredden på GPU'n.
Dagens DDR5 har visserligen rätt taskig bandbredd jämfört med GDDR7 men om man kör 8xDDR5 på en 512bit bus så kan man iaf matcha GDDR6/6X men med potentiellt upp till 4TB om man har råd.
Latensen blir lidande såklart, men idag verkar ju minnesmängd vara viktigt för alla AI hemmapulare.
Och för i runda slängar 10kkr skulle du idag kunna plutta i 256GB.

Tänk om någon tillverkare tänkte på den möjligheten!
Eller vänta nu, det gjorde vi ju en gång i tiden.
Har gott om gamla ISA/PCI/AGP grafikkort där minnet enkelt kunde uppgraderas.

Permalänk
Medlem

Och Nvidia kommer att endast erbjuda 2TB och säga att det räcker så länge som texturer komprimeras ordentligt.

Visa signatur

Teknik är en drog..
Förövrigt anser jag att Carthago borde ödeläggas.

Permalänk
Medlem

Jag skulle ge ALLT för detta kortet just nu

Permalänk
Medlem

Visa inte det här för nVidia, då spontanantänds(Heh!) dom.

Permalänk
Medlem
Skrivet av cyklonen:

Det vore väl toppen. Särskilt med en variant där man har en del av detta för lagring av grafikdata som inte behöver skrivas om eller ändras ofta (gissar att det är ganska mycket) och sen en del av vanligt grafikminne för de snabba delarna.

Säg 16 GB vanligt och 32 GB sånt här minne.

Undrar om 32GB finns som target alls. Även då blir det främst rimligt om man bara spelar typ ett enda spel. Och då ska det vara två olika minnesbussar med allt vad det innebär. Säkert åtminstone något fall av att utvecklare får hjärnsläpp och lyckas skriva sönder sektorer.

VRAM-chips är inte så dyra, för 32GB extra känns det helt orimligt. Säg 16GB +1TB så kan jag gå med på att det skulle se användbart ut.

Anekdot: på mitt första jobb byggde jag Windows embedded, ofta med EWF så att image laddades I ram och writes to disk behövde efterfrågas manuellt. Detta för pcs som var del av maskinkontrollsystem. En kund köpte detta på tidiga IDE SSD's på 16GB, SLC med lie special sauce som skyddade flash mot skrivfel och strömspikar etc.. De bad mig att lämna en liten partition på några meg för en .txt loggfil som skulle skrivas löpande.

Deras IT fick möjlighet att ändra image via EWF. De bestämde sig för att lägga in ett antivirus per policy, men märkte att de fick slut på ram när det kördes så de la AV's tempfiler osv på loggfilspartitionen. Den var för liten så det skrevs och skrevs över oändligt. Efter något halvår började diskar som borde tåla typ vad som helst komma tillbaka sönderskrivna.

Frågade varför de inte tagit upp AV i ursprunglig spec - det var för att datorerna aldrig ansluts till internet. Så inget internet, hela OS read only, och ändå tyckte någon att AV måste in because policy, och började bricka diskar

Visa signatur

Gamingrigg: MEG x570 ACE, 5950X, Ripjaws V 32GB 4000MT/S CL16, 6800XT Red Devil LE, HX1200i.
Laptop: XPS 9570 x GTX 1050 x 8300h + 16GB Vengeance 2666Mhz + Intel AX200
Valheim server: i7-8559 + Iris Plus 655 + 32GB + 256GB
Printers? Yes. Ender 5, Creality LD-002R, Velleman VM8600, Velleman K8200

Permalänk
Medlem

Tja, för kort som bara kör en grej hela tiden, och kan ladda in allt som behövs i minnet, och sedan bara läsa, så funkar det nog bra.
Men jag undrar om det kanske inte finns andra metoder för att jobba på det viset, tex en SSD M.2 på kortet. Kanske till och med i hybrid läge, så att SSD'n används som layer 2 för det som finns i minnet.

Permalänk
Medlem

Låter inte som det kommer användas av Nvidia i brådrasket då det skulle skära i deras vinstmarginaler om det inte kommer någon konkurrent som nyttjar det och då faktisk konkurrerar. NVIDIA DGX GH200: 100 TB Ram gpu setup. Den skulle kunna skalas till petabyte men då minskar behovet av fler gpu'er där inte beräkningskraft en behövs. Så visst förr eller senare kan det hjälpa ai-laster och prisnivåerna sjunka. Men de täljer guld idag så varför bry sig om detta annat än om det går producera något billigare och behålla prislappen

För vardagsbruk och gaming ... Lär inte hända något här.

Sedan bör det gå komma runt att köpa dyra gpu'er för utveckling bara en igpu kan nyttja valfri mängd system ram. Tex en pc med 256 GB ram där os får 32 eller 64 GB och igpu får resten. Då skulle det gå köra relativt stora modeller på en pc för tusenlappar i rent utvecklingssyfte istället för företagsgpuer för miljonbelopp/tiotals miljoner.Men har inte sett någon som mixtrar med amd igpu på detta sätt då dessa saknar ai-hårvara ännu. Men nästa produkt lansering eller ännu nästa kommer i bästa fall ha hårdvaru stödet ... Frågan är bara om det finns ramverk/apier som löser den biten. Givetvis förstår jag varför de separerar detta till udda dyra produkter/klasser av produkter då det finns köpstarka företag som inte vill hamna efter fomo så att säga.

Permalänk
Medlem

Frågan är vad priset för dessa landar på kontra GDDR7 och GDDR6?

Visa signatur

Ryzen 7 5800x, lg 27gl850, rx 9070 xt

Permalänk
Medlem

Inget är nytt under solen som man brukar säga:
https://www.techpowerup.com/gpu-specs/radeon-pro-ssg.c2998

Permalänk
Medlem

Och Unreal Engine 5 kommer fortfarande orsaka microstutters hela tiden nonstop i alla spel.

Visa signatur

Core i9 12900K | RTX 3090 FE | Odyssey G80SD |

Permalänk
Medlem
Skrivet av EDC:

Låter inte som det kommer användas av Nvidia i brådrasket då det skulle skära i deras vinstmarginaler om det inte kommer någon konkurrent som nyttjar det och då faktisk konkurrerar. NVIDIA DGX GH200: 100 TB Ram gpu setup. Den skulle kunna skalas till petabyte men då minskar behovet av fler gpu'er där inte beräkningskraft en behövs. Så visst förr eller senare kan det hjälpa ai-laster och prisnivåerna sjunka. Men de täljer guld idag så varför bry sig om detta annat än om det går producera något billigare och behålla prislappen

För vardagsbruk och gaming ... Lär inte hända något här.

Sedan bör det gå komma runt att köpa dyra gpu'er för utveckling bara en igpu kan nyttja valfri mängd system ram. Tex en pc med 256 GB ram där os får 32 eller 64 GB och igpu får resten. Då skulle det gå köra relativt stora modeller på en pc för tusenlappar i rent utvecklingssyfte istället för företagsgpuer för miljonbelopp/tiotals miljoner.Men har inte sett någon som mixtrar med amd igpu på detta sätt då dessa saknar ai-hårvara ännu. Men nästa produkt lansering eller ännu nästa kommer i bästa fall ha hårdvaru stödet ... Frågan är bara om det finns ramverk/apier som löser den biten. Givetvis förstår jag varför de separerar detta till udda dyra produkter/klasser av produkter då det finns köpstarka företag som inte vill hamna efter fomo så att säga.

På diverse ställen på reddit har folk mixtrat en hel del med APUs för AI senaste par åren, och RPi är ju relevant inom AI just på grund av samma koncept.
Är väl en stor del också av marknadsföringen med Strix point (Ryzen AI Max), men redan nu existerande Ryzen AI 36x och 37x är ju byggda för detta. Det är också varför Mac mini/studio är populära för AI grejer.

Visa signatur

Gamingrigg: MEG x570 ACE, 5950X, Ripjaws V 32GB 4000MT/S CL16, 6800XT Red Devil LE, HX1200i.
Laptop: XPS 9570 x GTX 1050 x 8300h + 16GB Vengeance 2666Mhz + Intel AX200
Valheim server: i7-8559 + Iris Plus 655 + 32GB + 256GB
Printers? Yes. Ender 5, Creality LD-002R, Velleman VM8600, Velleman K8200

Permalänk
Medlem
Skrivet av underd0g76:

TBW: yes.

De är allt bra roliga. Hur många terabyte data skrivs till vanligt GDDRx under en timmas spelning?

Men du kan ju bara ladda in alla spel du har direkt på grafikkortet, inget behöver skrivas över för varje bildruta som idag

Det borde faktiskt vara ganska okej

Permalänk
Medlem
Skrivet av Shiprat:

Undrar om 32GB finns som target alls. Även då blir det främst rimligt om man bara spelar typ ett enda spel. Och då ska det vara två olika minnesbussar med allt vad det innebär. Säkert åtminstone något fall av att utvecklare får hjärnsläpp och lyckas skriva sönder sektorer.

VRAM-chips är inte så dyra, för 32GB extra känns det helt orimligt. Säg 16GB +1TB så kan jag gå med på att det skulle se användbart ut.

Fast jag ser det "nya" minnet som en mellanlagring som är oerhört mycket snabbare än lagring på annat håll, som hårddisk/SSD, men billigare och långsammare än äkta grafikminne. Dimensioneringen görs ju efter ett rimligt antagande vad gäller behov. 1 TB är ju 5-6 gånger storleken på hela spel i dag, och även med okomprimerade texturer och modeller lär det inte behövas ens i närheten av så mycket ens på flera års sikt.

Visa signatur

Moderkort: Gigabyte X570 Aorus Master | CPU: AMD Ryzen R9 5900X | CPU-kylare: Noctua NH-D15 chromax.black | RAM: Corsair Vengeance LPX 64 GB (4x16) DDR4-3600 CL18 | GPU: Gigabyte RTX 4080 Eagle OC | SSD: 2 x Samsung 970 EVO Plus 1 TB NVMe + Kingston A400 480 GB + Samsung QVO860 1 TB | PSU: EVGA SuperNOVA G2 1000 W Gold | Chassi: Lian Li O11 Dynamic XL | Skärm: BenQ PD3200U @ 3840x2160 + ASUS ROG Strix XG32VQ @ 2560x1440 | Tangentbord: Corsair K68 RGB Cherry MX Red | Mus: Logitech MX Master 2S

Permalänk
Medlem
Skrivet av Svensktiger:

Inget är nytt under solen som man brukar säga:
https://www.techpowerup.com/gpu-specs/radeon-pro-ssg.c2998

Det där är väl bara vanlig HBM dock, inte HBF, alltså inte flashminne utan vanlig RAM? Hade inte koll på kortet men ser ut att vara basically samma som Vega Frontier, eller snarare så att Vega Frontier edition förmodligen var en lite gaming-sminkad version av detta pro-kort.

AMD skulle kunna göra en easy PR win just nu genom att notera hur många som blev hype över ryktet med 9070XT 32GB och släppa ett typ 9070 X Frontier (limited edition) med 32GB som i övrigt var ett vanligt XT, för att liksom bekräfta att de lyssnar och hör att folk förväntar sig och skulle välkomna lite mer effort från deras sida. Tvivlar på att de fångar den bollen dock

Edit: fel av mig, missade 2TB i "card notes"

Visa signatur

Gamingrigg: MEG x570 ACE, 5950X, Ripjaws V 32GB 4000MT/S CL16, 6800XT Red Devil LE, HX1200i.
Laptop: XPS 9570 x GTX 1050 x 8300h + 16GB Vengeance 2666Mhz + Intel AX200
Valheim server: i7-8559 + Iris Plus 655 + 32GB + 256GB
Printers? Yes. Ender 5, Creality LD-002R, Velleman VM8600, Velleman K8200

Permalänk
Medlem
Skrivet av Shiprat:

Det där är väl bara vanlig HBM dock, inte HBF, alltså inte flashminne utan vanlig RAM?

"2TB of Solid State Graphics memory" är väl inte HBM?

Visa signatur

Desktop spel m.m.: Ryzen 9800X3D || MSI X870 Tomahawk Wifi || MSI Ventus 3x 5080 || Gskill FlareX 6000 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Arbetsstation: Ryzen 7945HX || Minisforum BD790i || Asus Proart 4070 Ti Super || Kingston Fury Impact 5600 65 GB || WD SN850 2TB || Samsung 990 Pro 2TB || Fractal Ridge
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Medlem
Skrivet av cyklonen:

Fast jag ser det "nya" minnet som en mellanlagring som är oerhört mycket snabbare än lagring på annat håll, som hårddisk/SSD, men billigare och långsammare än äkta grafikminne. Dimensioneringen görs ju efter ett rimligt antagande vad gäller behov. 1 TB är ju 5-6 gånger storleken på hela spel i dag, och även med okomprimerade texturer och modeller lär det inte behövas ens i närheten av så mycket ens på flera års sikt.

Med tanke på att flash ändå degraderar väldigt, väldigt mycket snabbare än DRAM så skulle jag verkligen inte köpa något med 32GB ändå.

Som sagt, undrar om detta skulle vara då mycket billigare att motivera att bygga om för att ha en till nivå av minne istället för att bara slänga på mer VRAM.

Min poäng är alltså inte att det är meningslöst totalt, bara att det verkar onödigt för så små storlekar.

Ser med snabb titt att GDDR6 är nere i typ 3$/8GB nu, Nvidia använder väl GDDR7 framöver men AMD verkar ju köra på GDDR6. Även om denna flashlösning är gratis så känns det inte värt det för 32GB jämfört med att bara packa mer VRAM isåfall.

Edit: glömde länk- Dram exchange

Skrivet av evil penguin:

"2TB of Solid State Graphics memory" är väl inte HBM?

My bad! Missade den delen, skumt att den står i "card notes" och inte i spec

Visa signatur

Gamingrigg: MEG x570 ACE, 5950X, Ripjaws V 32GB 4000MT/S CL16, 6800XT Red Devil LE, HX1200i.
Laptop: XPS 9570 x GTX 1050 x 8300h + 16GB Vengeance 2666Mhz + Intel AX200
Valheim server: i7-8559 + Iris Plus 655 + 32GB + 256GB
Printers? Yes. Ender 5, Creality LD-002R, Velleman VM8600, Velleman K8200

Permalänk
Medlem
Skrivet av Shiprat:

My bad! Missade den delen, skumt att den står i "card notes" och inte i spec

Mjo, antar att det helt enkelt är en så pass ovanlig egenskap att den inte finns i formuläret.

Visa signatur

Desktop spel m.m.: Ryzen 9800X3D || MSI X870 Tomahawk Wifi || MSI Ventus 3x 5080 || Gskill FlareX 6000 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Arbetsstation: Ryzen 7945HX || Minisforum BD790i || Asus Proart 4070 Ti Super || Kingston Fury Impact 5600 65 GB || WD SN850 2TB || Samsung 990 Pro 2TB || Fractal Ridge
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Medlem

Någon som kan förklara för en oinsatt i ämnet kring minnen, varför det "bara" finns max 32GB nu i den värsta gamingGPUn och inte mer? Vad är skillnaden på minnena i GPU kontra säg SSD?

Permalänk
Medlem
Skrivet av ncox:

Någon som kan förklara för en oinsatt i ämnet kring minnen, varför det "bara" finns max 32GB nu i den värsta gamingGPUn och inte mer? Vad är skillnaden på minnena i GPU kontra säg SSD?

Det är DYYYYYYYYYYYRT!
Och sen tar det också plats på grafikkretsen med minnesbuss. Vill man ha hög bandbredd krävs det stor yta/bredd för minnesanslutningarna.

Visa signatur

Moderkort: Gigabyte X570 Aorus Master | CPU: AMD Ryzen R9 5900X | CPU-kylare: Noctua NH-D15 chromax.black | RAM: Corsair Vengeance LPX 64 GB (4x16) DDR4-3600 CL18 | GPU: Gigabyte RTX 4080 Eagle OC | SSD: 2 x Samsung 970 EVO Plus 1 TB NVMe + Kingston A400 480 GB + Samsung QVO860 1 TB | PSU: EVGA SuperNOVA G2 1000 W Gold | Chassi: Lian Li O11 Dynamic XL | Skärm: BenQ PD3200U @ 3840x2160 + ASUS ROG Strix XG32VQ @ 2560x1440 | Tangentbord: Corsair K68 RGB Cherry MX Red | Mus: Logitech MX Master 2S

Permalänk
Medlem
Skrivet av ncox:

Någon som kan förklara för en oinsatt i ämnet kring minnen, varför det "bara" finns max 32GB nu i den värsta gamingGPUn och inte mer? Vad är skillnaden på minnena i GPU kontra säg SSD?

Produktsärskillnad. Att lägga till mer ram kostar inte så mycket mer, men quadro och fireprokort säljs för 100 000 kronor styck nya, och de kommer med 2 ggr mer ram än konsumentkort. Varken Nvidia eller AMD/ATI vill lansera kosumentkort med dubbla rammängden för att de inte vill att företag köper sådana kort istället för deras "professional user" kort. Så det är helt konstgjort med andra ord.

Permalänk
Medlem
Skrivet av underd0g76:

TBW: yes.

De är allt bra roliga. Hur många terabyte data skrivs till vanligt GDDRx under en timmas spelning?

Dags för Intel att damma av Optane?

Visa signatur

Desktop spel m.m.: Ryzen 9800X3D || MSI X870 Tomahawk Wifi || MSI Ventus 3x 5080 || Gskill FlareX 6000 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Arbetsstation: Ryzen 7945HX || Minisforum BD790i || Asus Proart 4070 Ti Super || Kingston Fury Impact 5600 65 GB || WD SN850 2TB || Samsung 990 Pro 2TB || Fractal Ridge
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304