::: Radeon Fury / Fiji XT diskussionstråd :::

Hade varit intressant att se Yoshman intervjua en ingenjör från AMD. Deras designval framstår som ytterst märkliga efter att han förklarat sin syn på det hela.

Det finns nu en otroligt intressant video där bl.a. David Kanter (extremt kunnig kring CPU/GPU-design, driver RealWordTech) ger sina insikter om Fiji-arkitekturen.

Om man inte orkar se hela 1h55min så finns det några riktiga guldkorn. Dels där man beskriver hur och varför man TechReport gör sin "frametime" analys
https://youtu.be/28CECF_Cieo?t=1034

Det som jag fann mest intressant är när Jeff Kampman (TR) och David Kanter diskuterar hur man kan förklara de resultat man sett givet den design AMD valt i Fury X
https://youtu.be/28CECF_Cieo?t=2489

Två saker förklarades där:

• De resultat som AMD släppte strax innan release var verkliga uppmätta resultat, men inställningarna var väldigt tweekade. Man körde utan anisotropic filtering, man körde med post-processing AA och alla ljuseffekter på max (något som äter shader kraft). Så den tabell som finns som första post i denna tråd är nog helt korrekt, men det är med inställningar nog ingen skulle använda i praktiken

• Man nämner att L2-cachen, som jag undrade lite om ovan, typiskt ger stor effekt för vissa saker man gör i shader program (t.ex. post-processing AA). Att då öka L2 är helt vettigt i Fiji (för att kunna mata alla GCN-cores), fast av en lite annan anledning än i Maxwell (där det främst är för att avlasta VRAM-bussen från ROPs (och även CUDA-cores) och därmed öka perf/W)

Man spekulerar också lite kring varför man inte ökade ROPs och framförallt inte ökade triangelkapaciteten, den senare kan vara att AMD lite kallt räknar med att de flesta spel kommer vara konsolportar och förutsatt att man inte lägger massor med tid på att putsa på alla 3D-modeller så kommer det inte vara fler trianglar i de flesta PC-spel än det är på PS4/XBO, som båda kör GCN 1.0 (geometrikomplexitet är något som typiskt inte ändras av upplösning, kan ändras av vissa andra inställningar).

Är nog inte helt fel tänkt av AMD och om det är så blir det kritiskt för Nvidia att få in GameWorks effekter i PC-spel då detta ger ett enkelt (->billig) sätt att tillföra effekter som ökar geometrikomplexiteten rejält (t.ex. HairWorks), detta är viktigt för Nvidia då deras styrka relativt AMD just nu är geometri medan det omvända gäller för shader-prestanda.

Sedan pekar @Petterk på en sak: detta är en "mellanprodukt", inte minst för 28nm börjar sätta allt fler käppar i hjulen både för AMD och Nvidia då kretsstorleken börjar bli ohållbar. I Fiji minskade AMD ner kraften för DP, inte lika mycket som Nvidia gjort i Maxwell, men det är uppenbart att man kommit till en punkt där något måste tas bort för att man ska kunna lägga dit något nytt.

Edit: slutklämmen är också intressant. Man har varit på 28nm _väldigt_ länge nu, men finns flera orsaker till att det vi kan få se 14/16nm bli en än större långkörare.

28 nm är inte mer än ca 280 väteatomer i bredd, detta skall användas för att realisera nästan 9 miljarder transistorer, det blir bara besvärligare och besvärligare att krympa linjebredden, jag fattar inte att de kunnat komma så långt som de kommit i dag.

Att vi kan köpa de grafikkort vi kan, är ett smärre mirakel.

Det finns lite mer att ge, men det finns ingen brådska eller något uppenbart behov att gå under (eller om Intel får som de vill 5-7 nm) ~10 nm. Ska vi ner på nivå där vi behöver sveptunnelmikroskop och arrangera enstaka atomer/grupper så finns det förmodligen ingen ekonomi för det hela (vi talar fortfarande om nm-storlek där) och äldre fotolitografi kommer leva vidare även när det börjar användas sveptunnelmikroskop för viss tillverkning. Vi ska ju gå över till 450 mm wafers också, vilket inte lär hända fören nästa årtionde. Säg att Intel lyckas med 7 nm och 450 mm wafers, då finns det nog få ekonomiska incitament att utveckla något som konkurrerar med det. Efter det steget är det oklart hur och med vad de ska tillverka mindre kretsar ändå. Det går inte att driva vidare litografin längre än ~5 nm. DRAM och NAND har de kört flera kretsar inkapslat i samma kapsel väldigt länge, och nu börjar de med 3D-stackar. Även om det blir mycket kisel man stoppar in i slutändan så finns det ekonomi i det hela och det kan göras på massiv skala.

Det finns ju risk att Intels 10 nm även försenas ett bra tag. Intels 14 nm ligger väldigt långt framme, Samsungs och Globalfoundries (gamla Common Platform där IBM ingick numera del av GloFo) nuvarande 14nm-process (14LPE/LPP) kan dock förbättras en hel del, och kör ju 20 nm BEOL. Grafikkort behöver ju dock en high-performance-process, vilket är det som uteblivit vid 20 nm hos TSMC exempelvis, vilket ju gör 14/16 till nästa steg. 20 nm på SoCs såg vi inte många månader innan vi fick 14 nm.

Kan vi få stanna på nästa steg en längre period igen? Det ser ju mer eller mindre ut som det. Åtminstone för vissa kretstyper. Varför nästa steg känns så viktigt är ju däremot för att vi inte riktigt kan förvänta oss nya designer innan dess, det som finns idag är och känns som trimmade varianter av äldre kretsar – där all ny teknik ännu inte kommit in heller. All teknik betyder inte att stoppa in mer transistorer, kräver massor minne och breda bussar osv. Så mycket kommer hända även om tillverkningsprocesserna blir mer långlivade. Idag har ju också mobiler miljarder med transistorer bara i SoC:n. Inte för att det ger dig några hoverboards eller flygande bilar.

Man ska nog vänta till några till rapporterar samma sak innan man ska tro på det. Det är dock inte helt orimligt att Fury X kommer tjäna på att överklocka minnet i vissa lägen, något som kan te sig lite ologiskt givet den massiva bandbredden.

Tittar man på hur minneshierarkin är uppdelad, låt oss använda R9 390x som referens, så visa specifikationerna saker som bredd ("antal bitar"), frekvens (egentligen transfers/s då verkliga frekvensen är lägre) och aggregerad bandbredd.

För Fury X är bredden 4096-bitar, frekvensen 1.0GHz och total bandbredd 512GB/s
För 390x är bredden 512-bitar, frekvensen 6.0GHz och total bandbredd 384GB/s

Sett till total bandbredd borde Fury X överhuvudtaget inte ha detta som flaskhals. Om man däremot tittar på enskilda minnestransaktioner måste man borra lite djupare i hur minnet är organiserat. Varje minnesaccess kommer att gå till en viss minneskrets, data läses/skrives genom en "minneskanal".

Fury X har 128-bitars bredd per kanal, totalt 32 kanaler där varje kanal då får 16GB/s bandbredd.
390x har 32-bitars bredd per kanal, totalt 16 kanaler där varje kanal då får 24GB/s bandbredd.

Allt VRAM är multiplexat över de tillgängliga kanalerna, vad jag läst så delar både AMD och Nvidia upp minnet i 1kB regioner över kanalerna, så M+0 - M+1024 går till kanal#0, M+1024 - M+2048 går till kanal#1 osv. Man får alltså bara full bandbredd när minnesaccesserna sprider sig jämt över alla kanaler, är det en ojämn distribution (t.ex. p.g.a att det data man jobbar med är relativt litet) så har 390x i praktiken tillgång till mer bandbredd än Furu X.

Överklockning av RAM ger högre bandbredd per kanal, så om man råkar ha ett fall där accesserna inte är väldigt jämt utspridda så skulle överklockning av HBM faktiskt kunna ge en bump i prestanda. Är accesserna väl utspridda tvivlar jag starkt på att man ser någon som helst skillnad, 512GB/s är galet mycket bandbredd för något som inte är en ren cache.

Om du kör utan anisotropic filtering, utan MSAA och utan vissa typer av skuggeffekter så är ROPs överhuvudtaget inte en flaskhals på någon av dagens high-end GPUer. Däremot är det nog fortfarande möjligt att VRAM-bandbredd är en flaskhals om man rejält skruvar upp upplösningen.

Anisotropic filtering och MSAA ger multiplikator effekter på hur mycket last rastreringssteget "ser", men däremot ökar inte alls VRAM-bandbredden speciellt mycket då dessa saker har väldigt hög lokalitet -> cache kommer hantera majoriteten av alla minessaccesser som kommer från detta. Finns en anledning varför L2-cache sitter ihop med ROPs både i AMDs och Nvidias designer, trots att L2-cachen även är användbart för beräkningssteget (GCN/CUDA-cores).

Z/frame-buffer komprimering ökar inte kapacitet på ROP, de minskar trycket på VRAM-bussen. Givet bandbredden Fury X har så lär komprimering inte hjälpa supermycket, något som går att visa med syntetiska tester. Notera hur mycket mer Maxwell tjänar på svart textur (som är trivial att komprimera) mot slumpmässig textur (som i princip inte alls kan komprimeras), en viss vinst finns ändå vilket skulle kunna förklaras med högre L2-cache-hit-rate tack vare kompression

Så du kan inte dra slutsatsen att rastreringsenheterna aldrig är en begränsning för det ser bra ut i de 4k tester som gjorts. Kör man med lite lägre upplösning och hög MSAA/anisotropic filtering är det nog till och med sannolikt att dessa blir en flaskhals. De resultat som AMD "läckte" precis innan release är av allt att döma genuina, där var man signifikant snabbare än 980ti genom att köra 4k utan MSAA, utan anisotropic filtering och väldigt dyra ljusberäkningar. Att man kunde få dessa resultat ger också en vink om att drivarna kanske inte är så stor flaskhals, är ju inget som direkt påverkar kostnaden i drivarna bara för att MSAA/AF är avslaget.

Givet vad som är känt idag: peka på något som bevisar att drivarna signifikant håller tillbaka prestanda. Det närmaste jag hittar är att "lag-spikarna" i Fury X är rätt höga (högre än "vanliga" 980 även i 4k enligt TechReports mätningar). Anta att detta är drivers, i så fall är det inte specifikt till Fiji för där har man ändå klart bättre resultat än för 290x som vid det här laget borde ha rätt bra drivare. Är fullt möjligt, till och med troligt, att man kan förbättra detta genom drivare men finns fortfarande en (liten) risk att det faktiskt är ett HW-problem.

Latens mot VRAM har normalt sett väldigt lite påverkan på prestanda i "vanlig" grafik. För GPGPU finns fall när det spelar roll, som t.ex. mining.