AMD:s nya proffskort AI PRO R9700 släpps på måndag

Permalänk
Melding Plague

AMD:s nya proffskort AI PRO R9700 släpps på måndag

Dubbelt så mycket grafikminne som RX 9070 XT – och dubbelt så högt pris.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk

Som de flesta företag så tar de väldigt mycket mer betalt när de kan det. Det syns tidigast på Apple där priserna från grund modellen av tex MacBook skenar iväg, men det är likadant överallt med skillnaden att man ofta kan uppgradera själv.

Min åsikt om kortet det är säkert bra för företag eller personer med enskild firma eller något där de kan använda kortet i sitt arbete för att sedan ta bra betalt.

Vad som krävs av t.ex. LLM är flummigt. Jag påstår extrem dyr dator för att få en LLM som hjälper mer än stjälper en. Andra säger att de kan köra en liten LLM på en väldigt billig dator och denna LLM gör dem så mycket mer produktiv.

*edit*
Tror någon här att en 50 000kr dator med detta grafikkort och en lokal LLM hade gjort dem mer produktiv?

Permalänk
Medlem

Vi är alltså tillbaka till 9700 Pro...lite annan prisklass idag än förr dock!

Permalänk
Medlem
Skrivet av Lidodido:

Vi är alltså tillbaka till 9700 Pro...lite annan prisklass idag än förr dock!

Ja helt klart! Men just det kortet minns jag med värme. 3300kr köpte jag det för, och kunde maxa alla spel i 3 år. Spelade om hela Max Payne för det blev ett helt annat spel med full grafik (gick från ett GF3Ti200). Lite högljudd fläkt på kortet men shit vad det levererade!!

(Strax över 5000kr idag justerat för inflation)

Lade till justering för inflation
Permalänk
Medlem
Skrivet av Lidodido:

Vi är alltså tillbaka till 9700 Pro...lite annan prisklass idag än förr dock!

Skillnaden är att den här gången betyder Pro* nånting...

* (aka "den tilltänkta köparen bryr sig inte så mkt om priset")

Permalänk
Medlem

32 gb vram för 1300 dollar? Om resterande delar av grafikkortet håller måttet så torde väl detta vara ett vettigt kort för den pengen tänker jag? Kör llm här hemma med unreal engine men även med mätprogrammet QGIS och drar ca 10-15 gb vram i idle med mitt RX7900XT 20 gb vram kort i UE med gott resultat. Kan bara hoppas att detta tvingar ner prisbilden även hos Nvidia-laget, men det kräver ju givetvis att folk röstar med plånboken istället för att vaska pengar i vanlig ordning.

Visa signatur

Star citizen - swedish umbrella. En svensk union för er spelare och organisationer som tycker om demokratiska val.
https://robertsspaceindustries.com/orgs/SWEUMB
Discord:
https://discord.com/invite/j5AkGERJz3

Permalänk
Medlem
Skrivet av ipac:

Skillnaden är att den här gången betyder Pro* nånting...

* (aka "den tilltänkta köparen bryr sig inte så mkt om priset")

Gjorde det då också mer prestanda mot icke pro varianten.

Visa signatur

Ryzen 9800X3D @ Stock, MSI Suprim X 3080 @ game mode.
YT kanal där jag meckar bilar: https://www.youtube.com/@saab900turboT16

Permalänk
Medlem
Skrivet av Nikodemous:

32 gb vram för 1300 dollar? Om resterande delar av grafikkortet håller måttet så torde väl detta vara ett vettigt kort för den pengen tänker jag? Kör llm här hemma med unreal engine men även med mätprogrammet QGIS och drar ca 10-15 gb vram i idle med mitt RX7900XT 20 gb vram kort i UE med gott resultat. Kan bara hoppas att detta tvingar ner prisbilden även hos Nvidia-laget, men det kräver ju givetvis att folk röstar med plånboken istället för att vaska pengar i vanlig ordning.

Hur är det ett vettigt pris när du betalar 700 dollar för bara VRAM? VRAM är den billigaste komponenten på en GPU om du inte räknar typ kondensatorer etc.
Tvärtemot vad folk tror dock, 99% tror att VRAM är den dyraste/en av dem dyraste delarna, det är ett finurligt trick av tillverkarna så att dem kan driva upp priserna på GPU med 400% precis som man drivit upp priset på diamanter

Permalänk
Medlem
Skrivet av Aka_The_Barf:

Gjorde det då också mer prestanda mot icke pro varianten.

Du missade poängen. Finns inget Pro med olika prestandanivåer.

Nu får Pro sin rätta betydelse. Dvs "inte riktat mot privatperson-konsument".

Och det är därför man kan dubbla priser ijmf med icke-Pro (dvs 9070XT).

Permalänk

1300 USD är väl ett superbra pris för ett kort upplåst för professionell mjukvara?

32 GB från Nvidia ligger på över 6000 USD.

Visa signatur

Spelburk: R7 5700X | 6700 | 32GB RAM | MSI B350M PRO-VDH

Permalänk
Medlem
Skrivet av Jagers:

Hur är det ett vettigt pris när du betalar 700 dollar för bara VRAM? VRAM är den billigaste komponenten på en GPU om du inte räknar typ kondensatorer etc.
Tvärtemot vad folk tror dock, 99% tror att VRAM är den dyraste/en av dem dyraste delarna, det är ett finurligt trick av tillverkarna så att dem kan driva upp priserna på GPU med 400% precis som man drivit upp priset på diamanter

Jo det är ju sånt som gör att AMD kan höja sin förtjänstmarginal.
Om de kan öka tillverkningskostnad lite och försäljningspris mycket så får de större marginaler.

Men ur ett kundperspektiv,
För vissa användare så kanske att få tag på ramchips separat och modda ett grafikkort till mer minne ett rimligt alternativ. Men tror andelen som vill/vågar/kan göra sånt är liten.

Så av färdiga lösningar som inte kräver lödning/moddning.
Nvidias GeForce RTX 5090 har också 32GB VRAM, men kostar betydligt mer.

Köpa en Strix Halo burk med 64GB RAM och köra en 32/32 split där 32GB används som vanligt RAM och 32GB används som VRAM är ett alternativ.
Men säg framförallt om man skulle ha en dator som är okej bortsett från grafikkort,
att då bara köpa en sånt här grafikkort och sätta in i befintlig dator låter mer attraktivt.

Sen finns Strix Halo med upp till 128GB minne och åtminstone på Frameworks burk med AMD Ryzen AI Max+ 395 - 128GB
Så går det att göra en 32/96 split där du använder 32GB som vanligt RAM och 96GB som VRAM.
Då är ju 96GB mycket mer än 32GB ...

Sen så har ju Nvidia lanserat DGX Spark som deras motsvarighet till Strix Halo och DGX Spark kan också fås med 128GB delat minne.

Så inte helt tydligt vilken som är den bästa lösningen ur ett kundperspektiv.
Att det finns alternativ åtminstone.
Men än så länge tenderar det till att om man vill ha mer än 16GB grafikminne så kostar det.

Permalänk
Medlem
Skrivet av Kärlekstrollet:

1300 USD är väl ett superbra pris för ett kort upplåst för professionell mjukvara?

32 GB från Nvidia ligger på över 6000 USD.

I så fall så verkar RTX PRO 6000 prisvärt i jämförelse.
Kostar väl runt 10 000 USD, men har 96 GB VRAM med mycket bandbredd och mycket GPU kraft.

Dyrt så klart.
Men jämfört med att betala mer än hälften för att få en tredjedel så verkar det förhållandevis mer prisvärt.

För runt 100kkr så kan även en Mac Studio med Apple M3 Ultra-chip med 32‑kärnig processor och 256 GB enhetligt minne vara ett alternativ.
Eller för runt 150kkr så får man en med 512 GB enhetligt minne och 4 TB SSD.

Permalänk
Medlem
Skrivet av ipac:

Du missade poängen. Finns inget Pro med olika prestandanivåer.

Nu får Pro sin rätta betydelse. Dvs "inte riktat mot privatperson-konsument".

Och det är därför man kan dubbla priser ijmf med icke-Pro (dvs 9070XT).

Vad som är RÄTT betydelse är nog upp till var och en faktiskt. Finns många produkter med pro bakom sig som är helt riktade mot privat personer och då menas det ofta att det helt enkelt är lite bättre så mycket beror på sammanhanget.

Visa signatur

Ryzen 9800X3D @ Stock, MSI Suprim X 3080 @ game mode.
YT kanal där jag meckar bilar: https://www.youtube.com/@saab900turboT16

Permalänk
Medlem
Skrivet av Aka_The_Barf:

Vad som är RÄTT betydelse är nog upp till var och en faktiskt. Finns många produkter med pro bakom sig som är helt riktade mot privat personer och då menas det ofta att det helt enkelt är lite bättre så mycket beror på sammanhanget.

Suck...

Slutsatsen är iaf att dåtids 9700 Pro är ej jämförbar med nutids 9700 Pro då "Pro" fått en ändrad betydelse.

Permalänk
Medlem
Skrivet av GuessWho:

Jo det är ju sånt som gör att AMD kan höja sin förtjänstmarginal.
Om de kan öka tillverkningskostnad lite och försäljningspris mycket så får de större marginaler.

Men ur ett kundperspektiv,
För vissa användare så kanske att få tag på ramchips separat och modda ett grafikkort till mer minne ett rimligt alternativ. Men tror andelen som vill/vågar/kan göra sånt är liten.

Så av färdiga lösningar som inte kräver lödning/moddning.
Nvidias GeForce RTX 5090 har också 32GB VRAM, men kostar betydligt mer.

Köpa en Strix Halo burk med 64GB RAM och köra en 32/32 split där 32GB används som vanligt RAM och 32GB används som VRAM är ett alternativ.
Men säg framförallt om man skulle ha en dator som är okej bortsett från grafikkort,
att då bara köpa en sånt här grafikkort och sätta in i befintlig dator låter mer attraktivt.

Sen finns Strix Halo med upp till 128GB minne och åtminstone på Frameworks burk med AMD Ryzen AI Max+ 395 - 128GB
Så går det att göra en 32/96 split där du använder 32GB som vanligt RAM och 96GB som VRAM.
Då är ju 96GB mycket mer än 32GB ...

Sen så har ju Nvidia lanserat DGX Spark som deras motsvarighet till Strix Halo och DGX Spark kan också fås med 128GB delat minne.

Så inte helt tydligt vilken som är den bästa lösningen ur ett kundperspektiv.
Att det finns alternativ åtminstone.
Men än så länge tenderar det till att om man vill ha mer än 16GB grafikminne så kostar det.

Såklart sätter AMD priset till vad de tror kunder är villiga att betala. Hur mycket extra det kostar dem är helt ointressant. Kunder har visat att de är villiga att betala riktigt fett för grafikkort. Att vissa gnäller på forum (inklusive jag själv ibland) påverkar inget alls. När man köper en vara accepterar man priset till 100% och visar tillverkaren att priset är helt rätt. Om fler än tillverkaren tror köper varan är priset för lågt. Enkel marknadsekonomi.

Permalänk
Medlem
Skrivet av ipac:

Suck...

Slutsatsen är iaf att dåtids 9700 Pro är ej jämförbar med nutids 9700 Pro då "Pro" fått en ändrad betydelse.

Ja så är det men det var ju inte FEL att använda pro förut vilket du hävdade? Inget att sucka åt. Allt handlar om kontext.

Visa signatur

Ryzen 9800X3D @ Stock, MSI Suprim X 3080 @ game mode.
YT kanal där jag meckar bilar: https://www.youtube.com/@saab900turboT16

Permalänk
Medlem

ATI Radeon 9700 Pro

AMD AI PRO R9700

Jag förstår inte problemet.

Stavfel
Visa signatur

ASUS Prime RX 9070 XT 16GB OC | AMD Ryzen R7 5700X3D | Noctua NH-D15S | Asus TUF Gaming B550-Plus | Kingston Fury 2x16GB 3600 CL 16 Renegade | Samsung 990 Pro 1TB | Corsair HX1000i | Corsair Frame 5000D | Xiaomi G34WQi | Corsair K95 Platinum | Corsair Sabre RGB PRO Wireless | Corsair HS65 |

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Som de flesta företag så tar de väldigt mycket mer betalt när de kan det. Det syns tidigast på Apple där priserna från grund modellen av tex MacBook skenar iväg, men det är likadant överallt med skillnaden att man ofta kan uppgradera själv.

Min åsikt om kortet det är säkert bra för företag eller personer med enskild firma eller något där de kan använda kortet i sitt arbete för att sedan ta bra betalt.

Vad som krävs av t.ex. LLM är flummigt. Jag påstår extrem dyr dator för att få en LLM som hjälper mer än stjälper en. Andra säger att de kan köra en liten LLM på en väldigt billig dator och denna LLM gör dem så mycket mer produktiv.

*edit*
Tror någon här att en 50 000kr dator med detta grafikkort och en lokal LLM hade gjort dem mer produktiv?

Mycket spekulationer i denna post.
1. Du kan tycka det är ett kort som iten är prisvärt. men det är för att du inte är kundgruppen. För de som är det låter detta som något väldigt prisvärt jämfört med alternativen. Närmaste konkurent ligger på dubbla priset nästan. Toppen med konkurens.

2. Man kör inte lokal Ai i syfte att bara bli effektivare. Då är de stora tjänsterna bättre. Man använder lokal AI om man vill äga sin data eller bygga något där man har kontroll över data. Personligen har jag en Threadripperserver nu som byggs av begagnade RTX 3090. Jag har 4 nu men har ambition att dubbla till 8 då jag precis uppdaterat till En EPYC turin 9755 server med 12 kanals DDR5. Min poäng är att om man är lite kreativ kan man kör väldigt bra modeller lokalt. Jag vill kunna köra modeller som GLM 4.6 lokalt i 50+ tokens per sekund. Det kommer jag använda till att experimentera och bygga egna lösningar för att hantera kontext. Jag tror "context engineers" kommer vara otroligt eftertraktat i framtiden. De är de som skapar förutsättningarna för AI. Jag kommer aldrig vara med att utveckla spetskompetensen på AI men oavsett hur smart AIn är så är det superviktigt att kunna ge den rätt kontext. Det är ett lokalt problem och kan därför inte enkelt lösas utan behöver just lokal kompetens. Egentligen är min slutsats att lokal AI idag är så pass kompetent att med en bra "context engineer" så är den ett otroligt kraftfullt verktyg, speciellt då företag inte riskerar att läcka informationen. Framtiden kommer inte vara de stora AI tjänsterna för större företag utan lokal AI där du med få restriktioner kan använda all data (tex GDPR, affärshemligheter...)

Permalänk
Medlem
Skrivet av Aka_The_Barf:

Gjorde det då också mer prestanda mot icke pro varianten.

Skrivet av ipac:

Du missade poängen. Finns inget Pro med olika prestandanivåer.

Nu får Pro sin rätta betydelse. Dvs "inte riktat mot privatperson-konsument".

Och det är därför man kan dubbla priser ijmf med icke-Pro (dvs 9070XT).

Ja, precis. Ett klart mer relevant bruk av "Pro"; där produkten faktiskt hör till ett annat marknadssegment.

Men ja, "Pro" har ju använts på så många underliga sätt utan någon egentlig betydelse att ingen riktigt förväntar sig att det ska betyda något längre.

Visa signatur

Desktop spel m.m.: Ryzen 9800X3D || MSI X870 Tomahawk Wifi || MSI Ventus 3x 5080 || Gskill FlareX 6000 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Arbetsstation: Ryzen 7945HX || Minisforum BD790i || Asus Proart 4070 Ti Super || Kingston Fury Impact 5600 65 GB || WD SN850 2TB || Samsung 990 Pro 2TB || Fractal Ridge
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Medlem
Skrivet av evil penguin:

Ja, precis. Ett klart mer relevant bruk av "Pro"; där produkten faktiskt hör till ett annat marknadssegment.

Men ja, "Pro" har ju använts på så många underliga sätt utan någon egentlig betydelse att ingen riktigt förväntar sig att det ska betyda något längre.

beroende på vart det används så kan pro betyda olika saker och inget är mer fel än något annat egentligen. handlar som sagt om vad det handlar om.
Precis som du säger så är namnet rätt urvattnat idag. Oftast ses det som en extra bra sak av något. Pro är för övrigt en rätt barnslig/lekfull benämning och har någon aldrig sett någon enterprise sak heta det, då heter det snarare bara enterprise och det är min uppfattning.

Visa signatur

Ryzen 9800X3D @ Stock, MSI Suprim X 3080 @ game mode.
YT kanal där jag meckar bilar: https://www.youtube.com/@saab900turboT16

Permalänk
Medlem
Skrivet av Aka_The_Barf:

beroende på vart det används så kan pro betyda olika saker och inget är mer fel än något annat egentligen. handlar som sagt om vad det handlar om.
Precis som du säger så är namnet rätt urvattnat idag. Oftast ses det som en extra bra sak av något. Pro är för övrigt en rätt barnslig/lekfull benämning och har någon aldrig sett någon enterprise sak heta det, då heter det snarare bara enterprise och det är min uppfattning.

"Fel" skulle väl inte jag heller kalla det, däremot håller jag fast vid att det är en användning utan egentlig betydelse.

När det faktiskt är en produkt för professionellt bruk så betyder det något, i andra fall är det mest trams för att det ska låta bättre.

Visa signatur

Desktop spel m.m.: Ryzen 9800X3D || MSI X870 Tomahawk Wifi || MSI Ventus 3x 5080 || Gskill FlareX 6000 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Arbetsstation: Ryzen 7945HX || Minisforum BD790i || Asus Proart 4070 Ti Super || Kingston Fury Impact 5600 65 GB || WD SN850 2TB || Samsung 990 Pro 2TB || Fractal Ridge
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Medlem

Får inte detta kort lite ändrade drivrutiner som är specialinriktade och bättre support?
Det var vad som ingick i priset förr.

Visa signatur

CPU: I9 10900KF -Kylare: Arctic Freezer 360 - Moderkort: ASRock Velozita Z590 PG.
GPU: RX 9070 XT Reaper @2 st 120mm cf-v12hp hydro dynamic fläktar. 👍
RAM: 32GB DDR4 3466 MHz Ballistix Elite. HÅRDDISK: 4 st SSD, 2 Mekaniska.
MONITOR:1 Samsung Odyssey Neo G8 4K 240Hz. MONITOR:2 Xiaomi Mi 34" 3440x1440 144Hz. Tv:3 Samsung 48" 3D. Nätagg: Asus TUF 1000w Gold Atx 3.1. Allt i ett Cooler Master CM Storm Stryker.

Permalänk
Medlem
Skrivet av Danne980:

Mycket spekulationer i denna post.
1. Du kan tycka det är ett kort som iten är prisvärt. men det är för att du inte är kundgruppen. För de som är det låter detta som något väldigt prisvärt jämfört med alternativen. Närmaste konkurent ligger på dubbla priset nästan. Toppen med konkurens.

2. Man kör inte lokal Ai i syfte att bara bli effektivare. Då är de stora tjänsterna bättre. Man använder lokal AI om man vill äga sin data eller bygga något där man har kontroll över data. Personligen har jag en Threadripperserver nu som byggs av begagnade RTX 3090. Jag har 4 nu men har ambition att dubbla till 8 då jag precis uppdaterat till En EPYC turin 9755 server med 12 kanals DDR5. Min poäng är att om man är lite kreativ kan man kör väldigt bra modeller lokalt. Jag vill kunna köra modeller som GLM 4.6 lokalt i 50+ tokens per sekund. Det kommer jag använda till att experimentera och bygga egna lösningar för att hantera kontext. Jag tror "context engineers" kommer vara otroligt eftertraktat i framtiden. De är de som skapar förutsättningarna för AI. Jag kommer aldrig vara med att utveckla spetskompetensen på AI men oavsett hur smart AIn är så är det superviktigt att kunna ge den rätt kontext. Det är ett lokalt problem och kan därför inte enkelt lösas utan behöver just lokal kompetens. Egentligen är min slutsats att lokal AI idag är så pass kompetent att med en bra "context engineer" så är den ett otroligt kraftfullt verktyg, speciellt då företag inte riskerar att läcka informationen. Framtiden kommer inte vara de stora AI tjänsterna för större företag utan lokal AI där du med få restriktioner kan använda all data (tex GDPR, affärshemligheter...)

Context engineer vetefan om det kommer bli ett yrke. Däremot håller jag med dig om att små nischade lokala AI kommer bli det som säljer i framtiden. Ser redan nu skillnaden på att använda en LLM och att använda den tillsammans med en MCP server som hanterar din domän. Nästan ingen hallucination kvar i svaren.

Visa signatur

Processor: Motorola 68000 | Klockfrekvens: 7,09 Mhz (PAL) | Minne: 256 kB ROM / 512 kB RAM | Bussbredd: 24 bit | Joystick: Tac2 | Operativsystem: Amiga OS 1.3