DirectX 12 med Ashes of the Singularity

Har i andra inlägg här redan sagt att 3DMark är en benchmark så det är inte nödvändigtvis representativt för spelprestanda. Till och med Futurmark själva har sagt att deras erfarenhet efter att ha jobba med DirectX benchmarks i ca 20 år är att det normalt tar 2 till 3 år efter släpp av nytt 3DMark innan man ser spel som faktiskt använder lika mycket finesser från DX.

En av huvudpoängerna med 3DMark är tydligen att tidigt få ut ett program som använder de flesta av nyheterna i de senaste GPUerna och de flesta nyheterna som senaste DX-version möjliggör. Microsoft, AMD, Nvidia och Intel är alla intresserade av detta.

När du skriver "async compute", menar du DX12 finesser eller det AMDs PR-avdelning menar med termen "async compute"? Som DX12 definierar tekniken, vilket också är i linjer med hur datorvärlden i stort definierar asynkrona arbeten, så stödjer ALLA GPUer som idag har DX12 "async compute".

Om man i stället definierar "async compute" som AMD gör så håller jag med dig till 100 %, men den definitionen är och lär så förbli GCN den enda "fullständiga" implementationen. Med det vore som att säga att ingen förutom Intel stödjer Hyperthreading, vilket är en tekniskt korrekt utsaga men totalt irrelevant då det viktiga är om och hur man implementerar SMT (där Intel råkar kalla sin implementation för Hyperthreading). Det som är så olyckligt här är att AMD valt att kalla sin implementation för samma sak som DX12 kallar underliggande teknik och dessa två definitioner är absolut inte identiska!

Sen kan man ställa sig frågan hur cripplat "async compute" stödet kan vara i Time Spy då det så här långt är den applikation som får ut mest av att applicera "async compute" (d.v.s. störst delta mellan prestanda med DX12 fast utan "async compute" vs prestanda i DX12 med "async compute").

Och verkar inte prestanda i Doom med Vulkan på Fury X ligga närmare 1070 än 1080? Digital Foundary

Råder inga tvivel om att Fury X vinner långt mer på Vulkan, har sett en del mätningar just på Doom där 1060 presterar bättre i OpenGL än Vulkan. Är också helt övertygad att Pascal inte kommer få speciellt många procent extra boost i Doom när patchen för att köra AA och postprocessing parallellt med 3D-beräkningar (det AMD kallar "async compute") kommer, så resultaten ovan lär inte ändra sig speciellt mycket framåt.

Läs vad man skriver på sidan 12, fram till nu är det maximala man fått ut av "async compute" (på GCN då Pascal inte var lanserad när detta GDC event hölls), man har så här långt sett maximalt 10 % boost från "async compute". Time Spy får närmare 15 % på 390X samt Fury X vilket alltså är mer än något annan lyckats med så här långt.

Och det just för att det ett syntetiskt test där ett av huvudsyftena att demonstrera saker som "async compute", programmerad av folk som varit framgångsrika på "demo-scenen", som jag tror att det man får ut i Time Spy ligger väldigt nära maximalt vi kommer att se i spel.

Det som är fetmarkerat är det kritiska i hela diskussionen! Mycket pekar på att Maxwell/Pascal redan har så mycket logik att den kan hålla sina beräkningsenheter aktiva även när man kör saker sekventiellt. Även Maxwell ju kapacitet att köra saker parallellt, men då det krävs statiskt partitionering av SMs så får man ett viss "spill" vilket i praktiken verkar betyda att antal fall när parallell körning ger ett positivt tillskott är väldigt få (det finns fall, men de verkar vara begränsade till saker man typisk använder CUDA och inte DX12/Vulkan till).

Varför fungerar "async compute" överhuvudtaget? Jo, precis som för SMT så krävs det att man har outnyttjade resurser för att tekniken ska ge ett positivt tillskott. Det är också precis orsaken till att 480 ser en mindre vinst av "async compute" jämfört med bl.a. 390X och Fury X, 480 har saker som instruciton prefetching och vertex cache vilket ökar utnyttjandegraden av existerande resurser redan innan man blandar in "async compute".

Tittar man på kapaciteten hos t.ex. 1060 mot 480 (eller mellan 970 och 390) så är den ganska mycket högre för AMD trots att korten presterar likvärdigt i spel. Men precis som du skriver så går det absolut att skriva rena GPGPU-program där relativ prestanda är mycket närmare relativ fördelning av kapacitet. D.v.s. det går verkligen att få ut kapaciteten även ur GCN om man har "rätt" typ av problem, GCN-korten har däremot inte lika mycket logik för att hålla beräkningsenheterna väldigt högt belagda i spel som Nvidia.

Så rent teoretiskt kan det bli en rejäl boost för GCN i framtiden, men det kräver att spelen börjar använda andra tekniker som då råkar passa GCNs fördelning av resurser perfekt. Som spel ser ut idag kan "async compute" ge en visst boost, som det ser ut nu runt 10 %. Utöver det måste det till en förändring i renderingsteknik eller motsvarande.

Min största invändning i hela den här debatten är de som försöker få Maxwell/Pascal designen till något dåligt för den inte vinner lika mycket (eller något alls i Maxwells fall) på "async compute". Men orsaken är ju att det redan finns så mycket logik i kretsen att den kan hålla tillgängliga beräkningsenheter väldigt högt belagda vare sig man använder "async compute" eller ej.

GCN verkar ha saknat väldigt mycket av den logiken, där har man i stället lagt långt mer krut på att få en riktigt hög kapacitet som sedan kräver att programmen är skrivna på ett visst sätt för att få ut den kapaciteten i faktiskt beräkningskraft. Så här långt (d.v.s. med DX11) har det inte varit en framgångsrik design, det kan vara det med DX12/Vulkan men tror ändå att optimeringar likt de man stoppade in i Polaris 10 är ett måste då de flesta speltitlar inte är skrivna av gurus så saker kommer inte vara optimalt designat.

Ja, nvidia-korten håller sin logik upptagen från start och har inte så mycket mer att hämta medans kapaciteten inte har använts i AMD-korten än. Det är ungefär det jag sagt hela tiden också, så förstår inte riktigt hur svårt det kan vara att se att det hela tiden har handlat om koden som körs på korten. Du verkar vägra inse att att nvidias GPU'er är mer eller mindre sekventiella i förhållande till AMD's GCN GPU'er om vi nu ska hård-dra det. Async compute är inte ens aktiverat i Doom för nvidia-kort, för det stöds inte på det viset man vill använda det och så det var framtaget (AMD's fullständiga implementation som tillåter full parallellism)! Nvidia gick officiellt ut med att dom skulle "aktivera" async compute, något som aldrig hände eller blev graft försenat. Man kan också läsa flera artiklar om över hur nvidia "jobbar med att implmenetera stöd för detta". Det är nonsens då det skulle ha vart i bruk för länge sedan. Det är cripplat och en ungefär lika bra lögn som att GTX-970 skulle ha 2MB L2 cache, 64-ROPS och full minnesbandbredd till sina 8 minneskapslar, vilket det marknadsfördes med.

3DMark testet är INTE en fingervisning över hur asynkron beräkning går till i spel som då är behov av stor parallellism. Det handlar mer eller mindre om en SMT-implementation hos pipelinen som du hela tiden refererar till vilket kan ge boost i lättare tillämpningar. Med dom termerna så är i så fall en AMD GPU en CMT i en grov jämförelse då den fullt ut kan allokera sina beräkningsenheter till compute+grafik i princip kompromisslöst.

Ett spel som idag använder AMD's ACE och streamprocessorer fullt ut är djupt parallelliserat och inte samma sak. Detta kommer till PC också och CPU-overhead kommer minska ytterliggare hos AMD-korten i spel under DX12/Vulkan, något som drivrutinen har att säga till om mycket fortfarande.

Du kan läsa mer om allt här som någon orkat reflektera djupare över, något jag misstänkt under en lång tid:

http://www.overclock.net/t/1605674/computerbase-de-doom-vulka...

3D Mark does not use the same type of Asynchronous compute found in all of the recent game titles. Instead.. 3D Mark appears to be specifically tailored so as to show nVIDIA GPUs in the best light possible. It makes use of Context Switches (good because Pascal has that improved pre-emption) as well as the Dynamic Load Balancing on Maxwell through the use of concurrent rather than parallel Asynchronous compute tasks. If parallelism was used then we would see Maxwell taking a performance hit under Time Fly as admitted by nVIDIA in their GTX 1080 white paper and as we have seen from AotS.

GCN can handle these tasks but performs even better when Parallelism is thrown in as seen in the Doom Vulkan results. How? By reducing the per Frame latency through the parallel executions of Graphics and Compute Tasks. A reduction in the per-frame latency means that each frame takes less time to execute and process. The net result is a higher frame rate. 3DMark lacks this. AotS makes use of both parallelism and concurrency... as does Doom with the new Vulkan patch. See below...

If 3D Mark Time Fly had implemented a separate path and enabled both concurrency and parallelism for the FuryX... it would have caught up to the GTX 1070. No joke.

If both AMD and nVIDIA are running the same code then Pascal would either gain a tiny bit or even lose performance. This is why Bethesda did not enable the Asynchronous Compute + Graphics from the AMD path for Pascal. Instead... Pascal will get its own optimized path. They will also call it Asynchronous Compute... people will think it is the same thing when in reality... two completely different things are happening behind the scene.

See why understanding what is actually happening behind the scenes is important rather than just looking at numbers? Not all Asynchronous Compute implementations are equal. You would do well to take note of this.

Här kan vi också se ingame på exakt samma bana i 4K @ Ultra med "Nightmare textures" upplöning att Fury X pumpar mer FPS än GTX1080. Då är detta GTX 1080 överklockat till 2037Mhz och har 8GB minne...

GTX1080:
https://www.youtube.com/watch?v=nSQnJOD1EVc

Fury X:
https://www.youtube.com/watch?v=27zvYGSGrng

Absurd? Först påstår du att min förklaring är absurd när Time Spy inte alls är den största vinsten man sett på GCN kort. Jag är ingen programmerare och aldrig påstått mig vara en sådan, men du envisas med mycket vi egentligen redan är eniga om, och jag trots allt postar resultat, länkar och förklarar varför jag trott det jag trott, och det har träffat väldigt bra med verkligheten. Hurvida reagerar du om jag har rätt inom kommande tid med dess speltitlar som är på väg och en framtida jämförelse med dagens grafikkort? Jag är ganska säker på min sak och har vart länge.

Nvidia's logik är byggd efter en 8 år gammal API i stora drag. Ser bra ut från start men tappar i längden vilket man ser på samtliga av sista generationer.

Jag litar inte på någon så, utan jag refererar till folk som delar samma uppfattning som mig då jag grävde mer och mer i det jag påstod för att dela här vilket verkar göra dig upprörd. Jag har läst hela den tråden till det inlägget och inte bara hans inlägg. Gör det du också och du kan se mycket av det som jag försöker få sagt. Det står mycket intressant där, alltifrån kod till hårdvara och lite mer info ang 3DMark och dess test som du stenhårt vill ha som en standard över hur korten beter sig i spel med async compute.

3DMark använder sig av nvidia's tolkning av asynkron beräkning, vilket INTE är samma som AMD's GCN baserade lösning. Den ökning du ser i just 3DMark gynnar mest just Pascal för att det har load-balancing över sina beräkningsenheter, men inte Maxwell. Den enda gången man kommer att vilka köra asynkron compute på Pascal är när man inte kan hålla dess beräkningsenheter upptagna, vilket redan så är fallet i dom flesta fall. Testet i 3DMark är snarare ett mycket grafikintensivt test och betydligt mindre compute. Testa kör compute+graphics på Maxwell och se vad som händer i t.ex Doom. Nä just det, vi har inget sånt aktiverat och nvidia "jobbar" på att få full compute+graphics med Pascal. Tror inte det kommer att ske heller, precis av samma anledning att dom sa samma sak med Maxwell. Möjligtvis med kommande Volta.

Nvidia är som alla vill påstå så värst vassa med drivrutiner, men det tar en hemskt lång tid att få just detta att fungera ironiskt nog, men det fungerar inte tillfredsställande så det är enkelt, det finns inte logik till det, för dess prestanda minskar när du ska göra renderingspass på detta vis istället som på deras traditionella sätt, mer sekventiellt, och göra AA/geometri t.ex dedikerat istället för shaders. AMD korten har massiv shaderkapacitet och möjlighet att räkna på alla denna typ av data. I alla kommande titlar så får bägge aktörerna som sagt sin egna vendorcode för att utnyttja bägge arkitekturerna fullt ut, men nvidia har inte så mycket att vinna på detta, möjligtvis mindre CPU-overhead som redan var bra sedan innan på grund av tonvis lagt arbete på sina drivers.

Alla spelutvecklare kommer att följa AMD's tolkning av asynkron beräkning och GCN, för den är en långt mycket bättre implementation. Både Pascal och GCN får en prestandaökning, men titta på ett praktiskt test istället som ID-softwares nya grafikmotor i Doom som rullar på med Vulkan så ser du en riktig ökning. Bägge körs i det spelet med sin egna specifika vendorcode som gynnar bägge till fullo. Fury X presterar hur bra då enligt in-game videos som jag visade? Det säger det mesta, och du vill gärna definiera vad som är logiskt och inte baserat på hur man ska sköta renderingspass tidigare för att nvidia haft makten att definiera detta tidigare, det är iaf så jag uppfattar dig. Det är snarare nvidia som saknar logik att utnyttja parallellism hörredu.

Utan att vara programmerare så förstår jag en hel del man lärt sig på vägen kring detta när man är mer duktig på hårdvara och ser hur ofantligt dåligt GCN utnyttjats och varför. Jag kan göra det enkelt du som vill snacka kod då. Varför används hårdvaran exemplariskt i consoler och uppvisar bättre grafik och FPS än någonsin tidigare? Betänk då att det är exakt samma arkitektur som du påstår saknar logik. För vadå? DX11? Jag har redan svaret, men det verkar inte riktigt lika uppenbart för somliga än. På ditt vis så ska man som nvidia implementera logik för att utnyttja DX11 bra. Och inte nog med det, utan man måste, som nvidia också gjort, lägga ner tonvis av arbete på drivrutiner för att få det att fungera, speciellt i multithreading. En sak som verkar vara svårare för dig att hålla isär är hårdvara och mjukvara, vad GPU'erna är kapabla till. Det är egentligen det som är intressant, men det är lite svårt för AMD som är så mycket mindre finansiellt att få hela industrin att vända som redan har hoppat på det gröna tåget och dess ekosystem med att isolera mycket som möjligt. Bara initiativet GPUopen är fantastiskt samman med standarder som Mantle, async compute, Freesync.

Jag önskar jag hade mer tid att gå in på djupet, så lägger mer tid numera på att läsa än att skriva. Du fick två youtube länkar ingame som visar något helt otroligt. Allt praktiskt, realtid, in-game...

Snälla bokmärk den här tråden och se hur kommande spel kommer bete sig på respektive arkitektur som utnyttjar bägge arkitekturerna till fullo med Vulkan/DX12. Bara det att många licensierar ID's motorer och det bara är början... Det ska bli MYCKET intressant.

För mig är det ganska enkelt.
AMD pushar som fan för DX12, Nvidia gör snarast tvärtom.
ARK är en Gameworkstitel.
http://wccftech.com/ark-survival-evolved-dx12-patch-performan...
11 månader senare saknas fortfarande DX12.
Vi behöver inte titta på tekniken, för att se vart hän det lutar.

Och i en värld där pengar regerar, hur kan du på något sätt kritisera Nvidia för att göra fel här? Har man investera massor i både kisel och drivers för att kunna prestera nära kapacitet även när man använder ett så handikappat API som DX11 är det ju en marknadsmässig fördel mot den enda realistiska konkurrent man har som haltar under DX11 (och än mer under OpenGL, så om det var upp till Nvidia hade nog alla spel kör OpenGL...).

Som aktieägare i Nvidia bör man rimligen kräva att de gör vad som är i deras makt att hålla DX11 relevant. Nu lär det ändå bli som det alltid blivit, det kommer ta runt tre år innan majoriteten av speltitlarna är byggd för den nya DX-versionen (d.v.s. för DX12, två år kvar...).

Även AMD inser ju att man lutade sig allt för mycket mot att saker skulle optimeras i programvara. Det fungerar på konsoler då tiden utvecklarna inventerar gör mot en specifik maskinvara som miljoner kunder har, PC är en så homogen plattform att det blir allt för dyrt att göra den typen av optimering utom i väldiga specialfall. Tycker därför det är helt rätt att man i Polaris 10 "offrat" en del av transistorbudget till mer L2-cache, bättre prefetcher och specialdesignad cache för geometri.

Men rent tekniskt har AMD ändå ett problem i att den enklare GP106 kretsen i 1060 presterar helt jämnt med Polaris 10 i 480. Den senare har trots allt 30 % fler transistorer och har också 30 % högre shader-kapacitet, något som man inte riktigt fått betalt för i spelresultat undantaget Doom där det ska bli intressant att se hur mycket "async compute" ger för Pascal (min gissning är max 5 %, men kan ju finnas andra potentiella optimeringar om man specifikt gör en backend för Pascal).

Ekonomin har aldrig intresserat mig speciellt mycket, är tekniken i sig som är intressant. Faktum är att spelande på PC är inte heller speciellt intressant, byggde en spel PC för ca ett år sedan men har konstaterat att det spelade som blir av är på konsol för mig. Så lär bli en PS4 Neo i höst och garanterat en Xbox One: Scorpio nästa år. Kanske köper en ny GPU så man har något att testa lite DX12/Vulkan kod på...

Jag kritiserar inte Nvidia för att de vill tjäna pengar, vem vill inte det.

Vad jag säger är att Nvidia är ointresserade av DX12 och att den rimliga orsaken till detta är att de inte tjänar så mycket på det nya gränssnittet.
AMD är däremot betydligt mer intresserade och "puschar" hårt för DX12, orsaken är troligttvis är att deras kretsar går betydligt bättre i DX12 än i DX11.

Vi behöver inte göra någon djupgående analys av kretsarna, för att veta vem som vinner mest, det har redan AMD och Nvidia gjort åt oss.

Sedan kan man givetvis fundera på om AMD inte kunnat vinna ännu mer om det gjort vissa saker annorlunda, tex högre antal ROPS, men faktum kvarstår, mycket talar för att AMD kommer att tjäna på DX12.