AMD skryter om Ryzens AI-prestanda

Permalänk
Melding Plague

AMD skryter om Ryzens AI-prestanda

Enligt AMD:s egna tester ger Ryzen 7 7840U 79 procent högre AI-prestanda vid 15 watt än Core Ultra 7 155H vid 28 watt.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk

Har inte koll på CPU nyheterna och deras "AI" - pratar vi om tensorer som på Nvidia GPUer?
Hur meningsfullt är detta med avseende på den snabba utvecklingen att ha CPU som är anpassat till den nuvarande marknaden? Känns som att det blir obsolete inom noll-tid?

Visa signatur

--------------------------

Permalänk
Medlem

Men-eeehh.. varför ai på cpu öht? Har säkert fem, men änns lika meningsfullt som ray-tracing på cpu
Klart att man alltid vill säga att man är bättre än någon annan (än om det inte alltid är sant..)

Permalänk

Det är inom Ai som utvecklingen går snabbast nu. Frågan är när mer vanliga tekniknördar börjar köra det mer lokalt och prestandan är ett problem? Troligtvis snart, just nu känns det nischat. Forumet är inte precis fylld med trådar som jag måste köpa en ny laptop, för den gamla är för slö i Ai.

Permalänk

Vad använder man denna AI till? Vilka program stöder NPU-acceleratorn?

Permalänk
Datavetare

Om någon vill jämföra mot sin egen dator så lämnar AMD inte tillräckligt med information. Dock har man på denna sida testat just 7840U och även dess 780M (och orsaken att AMD inte nämner den är för den konstigt nog långsammare än CPU).

Programmet i fråga kan laddas ner här

Här är tabellen

Spec

Result

Apple M1 Pro CPU

14.8 tok/s

Apple M1 Pro GPU

19.4 tok/s

AMD Ryzen 7 7840U CPU

7.3 tok/s

AMD Radeon 780M iGPU

5.0 tok/s

AMD Ryzen 5 7535HS CPU

7.4 tok/s

GeForce RTX 4060 Mobile GPU

37.9 tok/s

AMD Ryzen 7 7800x3d CPU

9.7 tok/s

GeForce RTX 4080 GPU

78.1 tok/s

Skulle vara väldigt kul om någon sitter på en 155H laptop och kunde testa både med CPU (som vi får anta presterar som AMD hävdar) och GPU (i Blender presterar faktiskt GPUn i 1x5H riktigt bra mot de AMD iGPUer som idag finns med i Blender benchmark).

Men undrar i detta fall om det är rätt sak att lyfta givet att AMD trots att får rätt bra stryk av Apples 3 år gamla platform (M3 Max ligger ~50 tok/s). Så man är ett B-lag ställd mot Apple och ett C-lag ställd mot Nvidias GPUer.

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem
Skrivet av Yoshman:

Om någon vill jämföra mot sin egen dator så lämnar AMD inte tillräckligt med information. Dock har man på denna sida testat just 7840U och även dess 780M (och orsaken att AMD inte nämner den är för den konstigt nog långsammare än CPU).

Programmet i fråga kan laddas ner här

Här är tabellen

Spec

Result

Apple M1 Pro CPU

14.8 tok/s

Apple M1 Pro GPU

19.4 tok/s

AMD Ryzen 7 7840U CPU

7.3 tok/s

AMD Radeon 780M iGPU

5.0 tok/s

AMD Ryzen 5 7535HS CPU

7.4 tok/s

GeForce RTX 4060 Mobile GPU

37.9 tok/s

AMD Ryzen 7 7800x3d CPU

9.7 tok/s

GeForce RTX 4080 GPU

78.1 tok/s

Skulle vara väldigt kul om någon sitter på en 155H laptop och kunde testa både med CPU (som vi får anta presterar som AMD hävdar) och GPU (i Blender presterar faktiskt GPUn i 1x5H riktigt bra mot de AMD iGPUer som idag finns med i Blender benchmark).

Men undrar i detta fall om det är rätt sak att lyfta givet att AMD trots att får rätt bra stryk av Apples 3 år gamla platform (M3 Max ligger ~50 tok/s). Så man är ett B-lag ställd mot Apple och ett C-lag ställd mot Nvidias GPUer.

Exakt detta. Vem bryr sig om 10% av en modern gpu, det är ju inte så mycket att skryta om

Permalänk
Medlem

Det nya marknads-tricket ai fortsätter.. gäsp

Permalänk
Skrivet av medbor:

Exakt detta. Vem bryr sig om 10% av en modern gpu, det är ju inte så mycket att skryta om

Frågan är hur och när denna Ai kommer användas?
För mig känns det som att tillverkare just nu håller på att förbereda inför framtida behov. Lite som att de började slänga in 32bitars instruktioner i cpun och datanördar sa att de bara bara var bortkastade resurser som ej används till något vettigt, speciellt inte spel under dos som var 16bitars. (Pentium Pro med dens 32 bitars instruktioner hånskrattade mina polare åt, värsta skiten var det)

Så jag ser att en lite ökning kanske är bra från att gå från riktigt dåligt till mindre dåligt. Med nya Windows 12 så kanske kommer viss Ai in lokalt, kanske kommer denna Ai gå segt på de äldre cpuerna för vanligt arbete och alla dessa laptops har ej externa gpus.

Många har även laptops länge. Jag har såna som är över 10år som är som nya bortsett från prestandan. Där min poäng är att Ai prestandan idag kanske inte spelar så stor roll men om 2 år kanske något går segt i Windows 12.

Permalänk
Datavetare
Skrivet av Dinkefing:

Vad använder man denna AI till? Vilka program stöder NPU-acceleratorn?

Just nu är det i praktiken bara ett par demos som använder NPU, saknas helt enkelt vettig stöd i Windows än så länge. Men det jobbar man på (fast är rätt mycket alpha-status verkar det som).

  • NPU support in DirectML is only available for Intel® Core™ Ultra processers with Intel® AI Boost at this time.

  • NPU support in DirectML is currently only compatible with a subset of machine learning models that have been targeted for support. Some models may not run at all or may have high latency or low accuracy. We are working to improve the compatibility and performance of more models in the future.

  • Models that are functional and were not selected for this developer preview may have some stability and reliability issues. We are continuing to expand coverage for additional models suitable for NPU.

Sen verkar AMD, Intel, Apple och Qualcomm i alla fall initialt ha liknande mål med sina NPUer. Huvudmålet är inte att NPU kommer ge maximal prestanda, GPU kommer i närtid vara snabbare. Däremot kommer NPU ge bäst perf/W (viktigt för bärbara).

Ska man tro Intels data kring Lunar Lake är NPUn där ca dubbelt så snabb som CPU medan iGPUn är ca 3 gånger så snabb som CPU på saker som detta. Dock har NPU bättre perf/W jämfört med GPU. Stämmer med hur "Apple Silicon" uppför sig också, NPUn är inte alls lika snabb som GPU-delen, den är i nivå med instegsvarianten av GPU (samma NPU i Pro/Max). Dock drar NPUn långt under 10 W medan GPU-delen drar ~40 W (M3 Max) och ~10 W i instegsmodellen.

Klicka för mer information
Visa mer
Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem

Frågan är om rubriksättningen är lite konstig? Jag ser det som att nyheten handlar om att Intel försöker marknadsföra sin cpu som ai stark men att AMD vill sätta någon käppar i hjulet för dom och kontrar med egna tester som visar att deras cpu är starkare och lägre strömförbrukning. Ser inget skryt i det hela om det inte är lögn från AMDs sida?

Att man sedan blandar in gpu och så vidare är väl en annan femma och poängen försvinner.

Visa signatur

Intel Pentium 2 MMX 233 @263 MHz, 192 mb, Nvidia TNT 16mb, 40gb hdd

Permalänk
Medlem

Jag är emot att man lägger några större mänger transistorer i CPU:n för det ändamålet. OM transistorerna är specialiserade för ändamålet och inte används till något annat.

Det är ungefär som iGPU vs dGPU. Det är helt okej att ha en mindre mängd transistorer för ett basalt svagt stöd, men vill man ha något ordentligt så kan man köpa kort och stoppa i PCI-platserna.

Visa signatur

Hur många datorer är för många?