Djupdykning: Nvidia Turing under luppen – arkitekturen bakom Geforce RTX 2000-serien

Permalänk
Medlem
Skrivet av Icte:

Mycket bra artikel!

Att Nvidia börjar lägga till Tensor cores i deras konsument kort är ett stort plus för mig! Slipper lägga 30000 kr på Titan V och istället kan ta del av färre Tensor cores för en lägre prislapp, vilket för min del är perfekt - snabbar upp träningen av ANN betydligt

Har det fortfarande inte framkommit hur många Tensor och RT cores som kommer att ingå i 2080 Ti, 2080 och 2070? Eller har jag missat detta?

Såvida då inte Nvidia får för sig att förhindra folk att använda korten till saker som de hellre vill att man skall köpa deras dyrare kort som inte är till för vanligt folk.

Varför skulle de kannibalisera försäljningen av deras mycket dyrare kort?

Permalänk
Inaktiv
Skrivet av L'ombra:

Känner att jag behöver uppgradera min sarkasmdetektor.

Jag är knappast sarkastisk. AMD har kunnat möta Nvidia med bra prestanda för pengarna men det har inte varit fallet sedan Hawaii tyvärr. Men de är en garant för att hindra Nvidia att höja priserna när de känner för det.

Permalänk
Medlem

hoppas AMD släpper nått vettigt 2019 så det blir lite krig om kunderna igen.dom är prisvärda och har oftast haft bra strömförbrukning men senaste korten var katastof på förbrukningen gentemot nvidia som lyckats bra där.
jag skiter personligen i vad kort drar då jag inte spelar 24/7 och även om fallet vore så så är priskillnaden relativt liten. det jag ser är värme utvecklingen. mitt 1080 kort med en bra kylare är knäpptyst även under tunga laster.

Visa signatur

Ryzen 5900X @ Stock, MSI Suprim X 3080 @ game mode.

Permalänk
Medlem
Skrivet av tvelander:

Det är knappast slutet för AMD. Turing är en flopp. Nvidia har satsat på en teknik som verkligen inte är mogen för marknaden. Prestandan finns helt enkelt inte där.

Hur i hela världen kan du svara på det?

Eller hur, var märkligt skrivit!

Samt det där med att Navi kommer snart, läste på reddit AMD nyss om att 7nm är på rak kurs men att det lät som att Navi för konsumenter verkar vara ett år bort.... Jag vet inte om jag orkar vänta så länge.

Skickades från m.sweclockers.com

Visa signatur

SpelDator: | Asus ROG Strix XG438Q 4K 120hz| AMD Ryzen 5 5600X 3.7 GHz 35MB| B450 I AORUS PRO WIFI| MSI Radeon RX 6800 16GB | Corsair Force MP510 1920GB M.2 NVMe | Samsung EVO 860 2TB | Seagate Guardian BarraCuda 2.5 5TB| Corsair 32GB (2x16GB) DDR4 3600MHz CL18 Vengeance LPX Svart| Ghost S1 MK2| Corsair SF750 750W 80+ Platinum| Logitech MX Sound| WD My Passport V2 USB 3.0 4TB| Buffalo Mediastation Ultra-Thin Portable Blu-Ray writer| Logitech Logitech G604 Lightspeed

Permalänk
Medlem
Skrivet av filbunke:

Såvida då inte Nvidia får för sig att förhindra folk att använda korten till saker som de hellre vill att man skall köpa deras dyrare kort som inte är till för vanligt folk.

Varför skulle de kannibalisera försäljningen av deras mycket dyrare kort?

Ja jag är lite orolig för det också. Visserligen har 2080 Ti färre Tensor Cores än både Quadro RTX 6000 och Titan V (544 vs. 576 respektive 640) och man har kunnat använda CUDA kärnorna i GTX korten för programmering, men man vet aldrig om NVIDIA lägger in en spärr från att använda Tensor kärnorna utanför spel.

Återstår att hoppas på det bästa och se!

Visa signatur

12c/24t 4.0GHz (Zen2) • 2x16GiB 3200MHz C14 • RTX 2080 FE 1965MHz 7000MHz • X570 I PW • Ghost S1 MKII

Permalänk
Medlem
Skrivet av Dinoman:

Herregud vilka massiva kretsar.

Ska Nvidia behålla lönsamheten per krets så förstår jag varför de tar så hutlöst betalt.

Att det som har varit budget/mellankortskretsen nu är nästan lika stor som förra generationens toppkrets är så man tappar hakan.

Det är mycket kretsyta som går åt för Tensor och RT-kärnorna man får hoppas att man kan ha nytta av dem även om man inte vill spela med DLSS eller RTX.

Cirka 40% större än RX vega 64 men tar 3x~ så mycket betalt. Njah, det är nog ingen större brist på marginal.

Nog för att kostnad per "die" inte skalar linjärt med ökad kretsyta så tror jag de har gott om marginal.

Visa signatur

Ryzen 5900X | 32GB G.Skill CL14 3866MT/s | 7900 XTX | Asus Strix X470-F

Permalänk
Medlem
Skrivet av anon114264:

Jag är knappast sarkastisk. AMD har kunnat möta Nvidia med bra prestanda för pengarna men det har inte varit fallet sedan Hawaii tyvärr. Men de är en garant för att hindra Nvidia att höja priserna när de känner för det.

Amd har ju lyckats bra på CPU-sidan på senare tid, där man är uppe och konkurrerar med Intel, även om man inte riktigt når hela vägen fram på alla fronter. På GPU-sidan däremot har vi en helt annan situation där Nvidia sitter som ohotad kung och kapar åt sig än större marknadsandelar. Att konkurrera med Intel och X86-arkitekturen är nog enklare och bättre för AMD med de resurser de besitter än att konkurrera med Nvidia på grafiksidan. AMD har ju trots allt begränsade resurser och borde kanske sälja av grafikdelen eller samarbeta med ett företag som kan investera mer i den sektorn. Konkurrens är ju alltid bra för oss kunder (om man inte låst in sig på G-sync som jag har )

Visa signatur

9900K | Gigabyte Z390 Auros Pro Wifi | 32 GB Corsair V LPX 3200 | 1TB Evo Plus 2TB 660P | 3090 Asus Tuf Oc | Acer XB271HU

Permalänk
Medlem
Skrivet av anon114264:

Det är knappast slutet för AMD. Turing är en flopp. Nvidia har satsat på en teknik som verkligen inte är mogen för marknaden. Prestandan finns helt enkelt inte där.

AMD kommer snart ut med riktigt prisvärda Navi-korten som kommer ta Nvidia på sängen.

Samma sak kan sägas om AMDs HBM2, till skillnad från "raytracing" har HBM noll fördelar för konsumenten och är endast ett plåster för AMDs värdelösa arkitektur för att hålla nere energikonsumtionen.
Ryktet är fortfarande att RTX2080 presterar som ett 1080ti och ryktet för Navi är en krets för mellansegmentet för Gamestation och kryssboxen om ett halvår, plus ett halvår i AMD tid.

Jag är den första i kön om AMD släpper något prisvärt som inte är skräp, så jag kan köpa en freeSync skärm och slippa Nvidia skatten.
Men exakt hur AMD ska sälja GPUer utan raytracing i det högre segmentet är frågan, svaret på frågan är nej

Permalänk
Medlem

Steve Burke på Gamers Nexus demonterade sitt innan Nvidia skickade ut ny info om att man inte fick göra det. Om någon vill se hur det ser ut.

Permalänk
Medlem

@Fulci: Nej han la upp videon efter att andra började demontera sina kort om rätt ska vara rätt:

"NVIDIA told us that we couldn't take apart the new RTX 2080 Ti at the last minute, but then others posted tear-downs and that eliminated the requirement to adhere to this weird rule.."

Så skyll inte på Steve

Visa signatur

9900K | Gigabyte Z390 Auros Pro Wifi | 32 GB Corsair V LPX 3200 | 1TB Evo Plus 2TB 660P | 3090 Asus Tuf Oc | Acer XB271HU

Permalänk
Medlem

Lite väl dyrt för mig tror jag . Annars brukar jag byta graffekort efter 2 år och prolle var 4 år . Denna gången sitter jag lite i en räv sax dock då jag även behöver en ny skärm (Har bara dvi ) . Blir kortet väldigt bra blir det väldigt dyrt .

Visa signatur

Dator 1 5800x 32 GB ram B550 plus TUF Kingston 3000 2048 GB EVO 870 QVO 4TB ASUS 370 ti TUF RM 750 X Corsair 4000D Airflow Noctua NH-D15S WIN 10 ASUS PG279Q skärm

Permalänk
Medlem
Skrivet av cyprus:

@Fulci: Nej han la upp videon efter att andra började demontera sina kort om rätt ska vara rätt:

"NVIDIA told us that we couldn't take apart the new RTX 2080 Ti at the last minute, but then others posted tear-downs and that eliminated the requirement to adhere to this weird rule.."

Så skyll inte på Steve

Ah ok, jag läste lite snabbt bara och kollade på videon.

Permalänk
Medlem

Själv hoppas man på att Tensorkärnorna kanske kommer förverkliga nVidia G-Assist

Skickades från m.sweclockers.com

Permalänk
Medlem

Spontant låter RT "Cores" fortfarande bara som en speciell pipeline precis som att ints inte är i samma pipeline som floats var tidigare, plus några hårdvarurutiner för att slippa all shader overhead.

Detta skulle också förklara varför man är begränsad till 1080@30fps, pipelines och scheduler får kämpa om hårdvaruresurser istället för att bara skala upp en 720/1080 textur renderad med RT över en 4k bild.

Tycker fortfarande att det är intressant teknik men det känns som att fler hade haft nytta av den separata pipeline ints fick + tensor kärnor, RT tekniken är mer intressant för generell rendering i typ filmer etc tills vidare.

Skickades från m.sweclockers.com

Visa signatur

"Oh glorious cheeseburger… we bow to thee. The secrets of the universe are between the buns..."
"All my farts come straight from hell, you're already dead if you notice a smell"

Permalänk
Medlem
Skrivet av Dinoman:

Herregud vilka massiva kretsar.

Ska Nvidia behålla lönsamheten per krets så förstår jag varför de tar så hutlöst betalt.

Att det som har varit budget/mellankortskretsen nu är nästan lika stor som förra generationens toppkrets är så man tappar hakan.

Det är mycket kretsyta som går åt för Tensor och RT-kärnorna man får hoppas att man kan ha nytta av dem även om man inte vill spela med DLSS eller RTX.

Början på en artificiell hjärna. Funktionsmässigt närmar man sig den biologiska hjärnan med olika uppsättningar neuroner för olika funktioner.

Nvidia betalar inte mycket för kretsar 1,2% ökning i produktionskostnad rättfärdigar inte en 300% ökning i konsumtions-pris. Fast även Titan Z sålde ju slut, så nvidia kan antagligen ta nästan vilket överpris de vill sålänge konsumenterna är dumma nog att betala.

NVIDIA har ju total marknadsmonopol, det finns ingen som helst konkurrens på grafikkortsmarknaden tyvärr.

Klart man kan köpa konsollprestanda (AMD) men PC gamers tenderar i att köpa den högsta prestandan tillgänglig, hellre än budgetprestanda.

Man kan ju bygga en PC med AMD's underlägsna konsollprestanda, till samma pris som en konsoll och har då skapat sig en konsoll som med högre total prestanda, och som inte är bunden till vilken konsoll speltitlarna är bundna till. Plus att man får en PC på köpet med allt vad det innebär. Avkallet är såklart enkelheten med konsoll, och att de tillgängliga speltitlarna är väldigt väl optimerade för den specifika hårdvaran i en konsoll.
Vi har både konsoller och pc's men det händer i princip aldrig att någon av oss fem i detta hushållet startar en konsoll, även om möjligheten är en armlängd bort.

Skickades från m.sweclockers.com

Permalänk
Medlem
Skrivet av wowsers:

Spontant låter RT "Cores" fortfarande bara som en speciell pipeline precis som att ints inte är i samma pipeline som floats var tidigare, plus några hårdvarurutiner för att slippa all shader overhead.

Detta skulle också förklara varför man är begränsad till 1080@30fps, pipelines och scheduler får kämpa om hårdvaruresurser istället för att bara skala upp en 720/1080 textur renderad med RT över en 4k bild.

Tycker fortfarande att det är intressant teknik men det känns som att fler hade haft nytta av den separata pipeline ints fick + tensor kärnor, RT tekniken är mer intressant för generell rendering i typ filmer etc tills vidare.

Skickades från m.sweclockers.com

Får kanske vänta tills korten finns tillgängliga innan vi kan skapa oss en riktig uppfattning?
Man kanske får sätta upp ett prestanda mål för sitt konsumptionsmönster, och sikta på det?
Nu kommer RTX medföra helt nya funktioner, och det brukar väl dröja minst 2 generstioner innan nya funktioner är implementerade och kan utvärderas. Vill man vara såkallat "beta testare" som denna generationer kanske ändå får anses vara, åt nvidia, så kostar det dig en rejäl slant.

Barn som går sista året på gymnasiet brukade ställa sig frågan, köpa lägenhet eller skaffa körkort? Nu finns en tredje väg Körkort, Lägenhet, eller Grafikkort

Permalänk
Medlem
Skrivet av Yuxor:

Barn som går sista året på gymnasiet brukade ställa sig frågan, köpa lägenhet eller skaffa körkort? Nu finns en tredje väg Körkort, Lägenhet, eller Grafikkort

Jag undrar vad det är för körkort som kostar som att köpa en lägenhet?
Nu är inte "att köpa en lägenhet" något som har ett fast pris...
Men säg att köpa en bostadsrätt för en miljon kronor.
Ska man få ett körkort för bil att kosta 1Mkr så ska man nog inte ha körkort...
Att skaffa ett "vanligt körkort" så bör man hamna långt under miljonen även om man tar för bil och motorcykel och lastbil med släp och buss med släp. Vilket ändå inte är så vanligt att ha alla behörigheter på ett körkort.
Om vi tar "skaffa körkort" som en symbolisk term för att utveckla färdigheter/kompetenser/kunskaper så bör det gå att spendera mer än 1Mkr om man har pengarna och tiden.

Annars har/hade Linus Tech Tips ett projekt om att bygga en dyr PC
A case WORTHY of a $100,000 PC?
Building the $100,000 PC Pt. 2 - SO MANY PCIe CARDS

Fast det är mer än bara ett eller två grafikkort.

Permalänk
Medlem
Skrivet av anon114264:

Det är knappast slutet för AMD. Turing är en flopp. Nvidia har satsat på en teknik som verkligen inte är mogen för marknaden. Prestandan finns helt enkelt inte där.

AMD kommer snart ut med riktigt prisvärda Navi-korten som kommer ta Nvidia på sängen.

Snubben har ju helt klart inte läst artikeln, eller läst men inte fattat vad som skrivs, eller ännu värre, ignorerar fakta.

Det är många förbättringar som kommer att höja prestandan jämfört med 10 serien. Plus att den har raytracing. (vägra säga strålspårning)
Så prestandan finns! det kommer bli bättre än 10 serien. plus ögon godis.

Meanwhile så har AMD fortfarande inget att komma med. Navi när den väl släpps, kommer kanske kunna konkurera i prestanda,, men det kommer inte bli billigt. Frågan är väl om AMD ens kommer att kunna konkurera mot billiga 10x-gen kort. (i prestanda kanske,, men inte i pris)
AMD's hopp inför framtiden blir ju dubbelmackor med flera mindre GPUer, för så länge dom kör vidare på GCN så kommer dom ligga efter. Som det ser ut just nu är det ju tveksamt om Navi ens kommer att släppas (snart), och om den gör det, så kommer den bli tok dyr pga en dyr 7nm process. lägg till dyra gddr6 minnen eller HBM dito, så ser man ju ganska snabbt att vad AMD än kommer att släppa, inte blir billigt.
Och sedan är ju frågan om Navi ens kommer att ha raytracing,, jag misstänker att det närmaste AMD kommer till raytracing är användarna som sitter med Ray-ban brillor för att inte bli bländade av all nvidia grafik. ("The future's so bright, I gotta wear shades")

Det är knappast slutet för AMD, så långt kan jag hålla med, men det ser inte ljust ut framöver. tyvärr!

Permalänk
Medlem
Skrivet av GuessWho:

Jag undrar vad det är för körkort som kostar som att köpa en lägenhet?

Mja,, nu var ju lägenheter bra mycket billigare på den tiden, och sen får man ju anta att en Bil ingår i kostnaden för att "skaffa körkort".

Permalänk

[quote postid="17553988" userid="128282" name="Lordsqueak"]
Mja,, nu var ju lägenheter bra mycket billigare på den tiden, och sen får man ju anta att en Bil ingår i kostnaden för att "skaffa körkort".

Bilen behöver ju inte ingå i kostnaden utan många kör ju mammas eller pappas bil i början tills dem har råd med egen bil.. plus körkort gör ju det enklare att få jobb klart hade jag tagit körkortet pga framtida bruk och ett graffekort kort kanske varar i 2år medans körkortet livet ut om man inte gör några dumheter. Med 2år menar jag att ett nytt kommer förmodligen då och då vill man byta igen..

Skickades från m.sweclockers.com

Permalänk
Medlem
Skrivet av Lordsqueak:

Mja,, nu var ju lägenheter bra mycket billigare på den tiden, och sen får man ju anta att en Bil ingår i kostnaden för att "skaffa körkort".

Att skaffa körkort har också varit billigare och enklare förr.

Köpa bil...
Ja många köper begagnad bil.
Då kan det ändå finnas hyfsat utbud under 100kkr.
Beroende på vad man är ute efter.

Sen finns det de som har bilar som kostar mer än andra har hus för.

Skickades från m.sweclockers.com

Permalänk
Medlem

Att ni använder JPEG för era bilder fullständigt våldtar jämförelsen mellan AA-metoderna.
Dags att hoppa in i 2018 och gå över till PNG?

Visa signatur

11600K@5.1 GHz + 32GB Corsair Vengeance RGB PRO 3200@3400 MHz + MSI RTX 2080 Super Gaming X Trio +
WDC Blue SN550 1TB + Black OEM SN730 500GB + Kingston A1000 480GB + A2000 500GB + NV2 1TB + 2TB R10 + RGB most of THE THINGS! + Corsair 4000D Airflow + 2*ZyXEL NSA326 2*3TB @ R1 + Netgear RN2100 4*3TB @ R10 + RN204 4*4TB @ R5 + Synology DS216j 2*4TB @ SHR R1 + DS418 4*8TB @ SHR R6
| tmp: R5 3600@4.2 GHz + 32GB 2666@3066MHz + 1060 6GB@2100/4500MHz + 1 TB NV2 & 512GB SN730

Permalänk
Medlem

Jag tycker den coolate delen i den nya arkitekturen måste ju vara DLSS. Ska bli kul att se hur det presterar och vad det ger för fördelar mot vanlig AA i framtiden. Vore ju coolt som de säger om man har en 1080P skärm och endå kunna köra med 4K DLSS utan att förlora någon större prestanda.

Visa signatur

13900KS | 32GB 6400 DDR5 | 4090 FE | Samsung G8 Oled
ASUS ROG Strix Z790-F Gaming | Fractal Torrent White | Corsair HX1200

Permalänk
Medlem
Skrivet av Jacob:

Nvidia har gett Turings Tensor-kärnor stöd för en rad olika precisioner, från FP16 som väntas bli vanligast i spel men stöd finns även för FP8 och FP4. Varje kärna kan utföra 128 FP16-operationer/frekvens, ett värde som dubbleras till 256 vid FP8 och 512 vid FP4.

Det måste ju rimligen vara 128 FP16-operationer/klockcykel. Hade det varit per frekvens hade antalet operationer per sekund minskat med ökad klockfrekvens..

Personligen hade ni jättegärna kunnat gå in ännu djupare på hur tensorkärnorna, och rt-kärnorna fungerar. Vad är det för matematiska operationer de är specialdesignade för? Varför lämpar de sig så mycket bättre för detta än cuda-kärnorna? Hur skilljer de sig rent hårdvarumässigt?

Men ändå mycket trevlig artikel. Jag önskar fler och djupare djupdykningar!

Skickades från m.sweclockers.com

Permalänk
Trollfabrik 🫶🏻
Skrivet av DevilsDad:

Det måste ju rimligen vara 128 FP16-operationer/klockcykel. Hade det varit per frekvens hade antalet operationer per sekund minskat med ökad klockfrekvens..

Personligen hade ni jättegärna kunnat gå in ännu djupare på hur tensorkärnorna, och rt-kärnorna fungerar. Vad är det för matematiska operationer de är specialdesignade för? Varför lämpar de sig så mycket bättre för detta än cuda-kärnorna? Hur skilljer de sig rent hårdvarumässigt?

Men ändå mycket trevlig artikel. Jag önskar fler och djupare djupdykningar!

Skickades från m.sweclockers.com

Så klart, du har helt rätt! Fastnade faktiskt där länge och försökte hitta rätt ord i all stress som uppstod.

Kul att det uppskattas! Ska försöka lägga mer tid på sånt här framöver.

Visa signatur

Kontaktas enklast via PM. Önskas svar i forumet citera mina inlägg eller pinga @Jacob. Finns även på Twitter.

"Science and technology have progressed to the point where what we build is only constrained by the limits of our own imaginations." – Justin R. Rattner