Microsoft event med Qualcomm Snapdragon X

Permalänk
Datavetare
Skrivet av jaqob:

Nu har Anandtech kommit med en Architecture Deep Dive. Väl läsvärd, men sammanfattningen är väl i princip att CPU och NPU verkar vettiga, men att GPU:n är lite av en besvikelse. Dock forfarande utan tredjepartsbenchmarks, även om sådana börjar dyka upp.

En intressant sak är att CPU:n verkar ha viss hårdvarusupport för att emulera x86.

Så i stort sätt samma "x86 emuleringsacceleration" som Apple gjort. Kanske inte världens överraskning givet att det är samma chefsarkitekt bakom båda
Ändå viktigt att få med TSO stöd, blir svårt att få vettig effektivitet i multitrådade x86 applikationer som översätts till ARM64 annars.

Får se om forskarna tar tag i denna CPU, Qualcomm hävdar ju att de inte är mottagliga för Spectre.

Stämmer det blir de i så fall först med att bygga en modern wide OoO CPU som inte är mottaglig för den sårbarheten.

Sen angående GPU. Givet hur lite Qualcomm nämt den var det rätt uppenbart att den inte kommer slå några rekord.

Stämmer detta

ligger man ändå rätt exakt där man kunde hoppas. D.v.s. i nivå med Intels 8 core Arc i Meteor Lake och AMDs Radeon 780m (topp iGPU för Phoenix Point, 7000-serien, och Hawk Point, 8000-serien).

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem
Skrivet av Yoshman:

Så i stort sätt samma "x86 emuleringsacceleration" som Apple gjort. Kanske inte världens överraskning givet att det är samma chefsarkitekt bakom båda
Ändå viktigt att få med TSO stöd, blir svårt att få vettig effektivitet i multitrådade x86 applikationer som översätts till ARM64 annars.

Får se om forskarna tar tag i denna CPU, Qualcomm hävdar ju att de inte är mottagliga för Spectre.
https://images.anandtech.com/doci/21445/SDX_CPU_GPU%20Architecture%20Overview_15.jpg
Stämmer det blir de i så fall först med att bygga en modern wide OoO CPU som inte är mottaglig för den sårbarheten.

Sen angående GPU. Givet hur lite Qualcomm nämt den var det rätt uppenbart att den inte kommer slå några rekord.

Stämmer detta
https://images.anandtech.com/doci/21445/SDX_CPU_GPU%20Architecture%20Overview_28.jpg
ligger man ändå rätt exakt där man kunde hoppas. D.v.s. i nivå med Intels 8 core Arc i Meteor Lake och AMDs Radeon 780m (topp iGPU för Phoenix Point, 7000-serien, och Hawk Point, 8000-serien).

De mätningarna ser ju onekligen helt ok ut, men verkar gälla X1E-84-100. Har det bekräftats att någon laptop kommer använda den SKUn?

Jag har verkligen sett fram emot att kunna köpa en vettig arm-baserad laptop utöver Apples, men av vad vi vet i dagsläget, finns det någon riktigt bra anledning att inte välja t.ex. Ryzen AI 9 HX 370 idag? Skulle möjligtvis kunna vara batteritiden.

Ska bli väldigt intressant att se tester nästa vecka, men magkänslan just nu är "Lite för lite, lite för sent och lite för dyrt". Men bara att hoppas att det går tillräckligt bra för att vi ska få se X2 så småningom.

Permalänk
Medlem
Skrivet av Yoshman:

Får se om forskarna tar tag i denna CPU, Qualcomm hävdar ju att de inte är mottagliga för Spectre.
https://images.anandtech.com/doci/21445/SDX_CPU_GPU%20Architecture%20Overview_15.jpg
Stämmer det blir de i så fall först med att bygga en modern wide OoO CPU som inte är mottaglig för den sårbarheten.

"Mitigations built into hardware" står den där slajden, så jag vet inte om man verkligen ska tolka det som att den inte är mottaglig.

Låter för mig mer som att den nog i grunden har en design som är lika mottaglig som allt annat, men att den har någon form av mitigering inbyggd som plåstrar över det (förhoppningsvis då i alla dess former, men antar att det för marknadsfolket skulle räcka att någon Spectre-variant är mitigerad).

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Datavetare
Skrivet av evil penguin:

"Mitigations built into hardware" står den där slajden, så jag vet inte om man verkligen ska tolka det som att den inte är mottaglig.

Låter för mig mer som att den nog i grunden har en design som är lika mottaglig som allt annat, men att den har någon form av mitigering inbyggd som plåstrar över det (förhoppningsvis då i alla dess former, men antar att det för marknadsfolket skulle räcka att någon Spectre-variant är mitigerad).

"Lös Spectre" betyder i praktiken: behövs inte explicit hantering i programvara, utan allt sköts i CPU (oavsett hur det görs) så faller det ändå under en fullgod lösning.

De andra vet hur man ska lösa problem rent teoretisk. Problemet är att det inte går utan rejäla omdesigner av mikroarkitektur.

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem
Skrivet av Yoshman:

"Lös Spectre" betyder i praktiken: behövs inte explicit hantering i programvara, utan allt sköts i CPU (oavsett hur det görs) så faller det ändå under en fullgod lösning.

De andra vet hur man ska lösa problem rent teoretisk. Problemet är att det inte går utan rejäla omdesigner av mikroarkitektur.

Det jag ville åt var mest att det som står på den där slajden inte känns som att det behöver betyda något så drastiskt, och att de öht pratar där om att "mitigera Spectre" tycker jag snarast antyder motsatsen till att de har en arkitektur som är immun.

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Medlem

Varför denna fokus på AI? Bara för att det är ett buzzword som gör att folk köper mer?
Vad gör den faktiskt bra för AI? Vad för typ av AI handlar det om? Copilot? Vad kan den gör? Kommer det fler laptops utan någon specifik fokus på AI?

Permalänk
Medlem
Skrivet av m4gnify:

Varför denna fokus på AI? Bara för att det är ett buzzword som gör att folk köper mer?
Vad gör den faktiskt bra för AI? Vad för typ av AI handlar det om? Copilot? Vad kan den gör?

Jo, AI är ett buzzword.
Vänta bara på att Arla ska börja tillverka en ny mjölk framtagen av AI.
Men AI i den här tråden som handlar om Snapdragon X?

För det första kallas de nya datorerna för Copilot+, där den klassiska windows-tangenten är utbytt mot en copilottangent och Copilot är ett AI-verktyg som kommer förinstallerat.
Men det är gamla nyheter, säkert flera veckor gamla (det jag hatar mest med AI är att allt går så j***a snabbt).

Det nya är windows recall, d.v.s. att windows tar en bild av din datorskärm var femte sekund och spar sedan bilden i tre månader i en okrypterad databas på din hårddisk.
Microsoft Recall är ingen AI-funktion i grunden, det är bara en databas med foton.
Däremot kommer givetvis bilddatabasen att användas av AI-verktyget Microsoft Copilot, så du t.ex. kan be den visa den där furrybilden som du googlade fram förra veckan.
Oh, jag glömde det viktigaste! Eftersom databasen inte är krypterad är det inte bara Copilot som kommer åt den, utan även hackare - det är något som Microsoft inte tänkte på, så nu kommer de nya datorerna att levereras utan Recall (men med Copilot).

Skrivet av m4gnify:

Kommer det fler laptops utan någon specifik fokus på AI?

Det är enkelt att svara på.
Nej.

Du känner säkert till att din dator har två processorer: CPU och GPU.
De nya Snapdragon-processorerna kommer med en tredje processor: NPU, som specifikt är tänkt att användas av AI (även om folk säkert kommer att komma på andra användningsområden i framtiden).

Problemet är inte att Qualcomm gjort en processor med inbyggd NPU.
Problemet är att Microsoft numera har som krav att framtidens windowsprocessorer ska ha inbyggd NPU.
Det betyder att det bara är en tidsfråga innan Intel och AMD har inbyggd NPU i sina processorer - och när den dagen kommer är det bara AI som gäller.

Permalänk
Datavetare
Skrivet av evil penguin:

Det jag ville åt var mest att det som står på den där slajden inte känns som att det behöver betyda något så drastiskt, och att de öht pratar där om att "mitigera Spectre" tycker jag snarast antyder motsatsen till att de har en arkitektur som är immun.

Om vi kollar vad man påstår på slide:en

"Side-channel mitigations built into hardware. Against all known attack vectors"

Vad är exakt problemet i Spectre? Det är inte att man kan läcka data direkt, alla CPU-modeller gör faktiskt en korrekt återställning av sitt logiska tillstånd när de upptäcker en felaktig spekulation.

Problemet är istället att, i fallet Spectre, mikroarkitekturtillståndet påverkas ibland på ett sätt som inte återställs (för det har ingen påverkan på att efterföljande beräkningar).

När mikroarkitekturtillståndet har påverkas på ett sätt som är databeroende + man kan hitta en annan kodsekvens som den som utför attacken på något sätt kan anropa med önskad indata så kan "rätt konsekvens" ("gadget") ge indirekt information (d.v.s. data via side-channel) som i sin tur gör att man kan räkna baklänges för att få information om data som användes i felspekulationen (data som man egentligen inte borde ha access till).

"Lösningen" på detta problem i nuläget är att man måste utföra en väldigt specifik ritual efter att hanterat känslig data för att omöjliggöra side-channels av spectre-typ. Det är alltså en programvarulösning.

Det Qualcomm hävdar är ju att de kan göra detta i HW, vilket i praktiken då betyder att de inte behöver SW-lösningar, vilket i sig då medför: första OoO designen som inte påverkas av Spectre.

Om det stämmer är det stort, har länge varit rätt dystra tongångar om att det alls skulle vara realistiskt att fixa Spectre i HW utan väldigt stor negativ påverkan på prestanda.

Det skrivet: även om Spectre är rejält illa i att den dels drabbar alla OoO-designer från alla CPU-tillverkare + att den teoretiskt är möjlig att utnyttja via t.ex. JavaScript så kräver utnyttjande av denna i praktiken en speciell anpassning för när nog varje CPU-modell. Det som fungerar på t.ex. 13600k kommer inte fungera på 7600X eller M3 (och vice-versa). Så i praktiken är det rätt svårt att utnyttja, men är ett damoklessvärd som vore väldigt skönt att bli av med!

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Datavetare
Skrivet av jaqob:

De mätningarna ser ju onekligen helt ok ut, men verkar gälla X1E-84-100. Har det bekräftats att någon laptop kommer använda den SKUn?

Jag har verkligen sett fram emot att kunna köpa en vettig arm-baserad laptop utöver Apples, men av vad vi vet i dagsläget, finns det någon riktigt bra anledning att inte välja t.ex. Ryzen AI 9 HX 370 idag? Skulle möjligtvis kunna vara batteritiden.

Ska bli väldigt intressant att se tester nästa vecka, men magkänslan just nu är "Lite för lite, lite för sent och lite för dyrt". Men bara att hoppas att det går tillräckligt bra för att vi ska få se X2 så småningom.

Skulle säga att Ryzen AI 9 HX 370 inte är en direkt konkurrent mot Snapdragon X Elite, Apple M3 eller ens kommande Intel Lunar Lake. Alla de senare är direkta konkurrenter mot varandra, de riktar alla in sig på den absolut mest kompakta bärbara med TDP i 15-25 W spannet.

Ryzen AI 9 HX 370 är mer i segmentet kompakta speldatorer och "är OK att offra lite vikt och batteritid för ett x86-beteende mer lik en stationär". Den är mycket mer en konkurrent mot Apple M3 Pro (M3 Max ligger på en helt annan nivå, ingen har ett svar på den idag) och kommande Intel Arrow Lake H-serie.

Visst hade det känts mycket bättre om Qualcomm fått ut Snapdragon X Elite i början av året. Då hade den varit odiskutabelt bästa Windows-plattform i sitt segment. Intel (Lunar Lake) och AMD (deras svar i detta segment är väl Kraken Point) ser ut att rejält minska gapet i perf/W (men är rätt hundra på att de kommer ha en bit kvar), Intels GPU i Lunar Lake ser ut att bli ett rätt stort steg upp ("upp till 50 % snabbare", medan Snapdragon X Elite är på Meteor Lake nivå enligt slides).

Men sitter själv och kör en del ARM64 Windows 11 som utvecklare (så Visual Studio, Rider, VS Code, Terminal, webbläsare, etc) och är faktiskt imponerad över vilket enormt stort steg Microsoft gjort i sitt ARM64 stöd i Windows 11.

Det fungerar super och är ännu mer "WTF" att se en M3 Max dra jämt och inte helt sällan vara snabbare än 13900K i att köra unit-tester, kompilering etc. Det när M3:an då kör MacOS+Parallells+Win11/ARM64+VS/ARM64, inte bara när man kör MacOS+dev.env där.

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem
Skrivet av Yoshman:

Om vi kollar vad man påstår på slide:en

"Side-channel mitigations built into hardware. Against all known attack vectors"

Vad är exakt problemet i Spectre? Det är inte att man kan läcka data direkt, alla CPU-modeller gör faktiskt en korrekt återställning av sitt logiska tillstånd när de upptäcker en felaktig spekulation.

Problemet är istället att, i fallet Spectre, mikroarkitekturtillståndet påverkas ibland på ett sätt som inte återställs (för det har ingen påverkan på att efterföljande beräkningar).

När mikroarkitekturtillståndet har påverkas på ett sätt som är databeroende + man kan hitta en annan kodsekvens som den som utför attacken på något sätt kan anropa med önskad indata så kan "rätt konsekvens" ("gadget") ge indirekt information (d.v.s. data via side-channel) som i sin tur gör att man kan räkna baklänges för att få information om data som användes i felspekulationen (data som man egentligen inte borde ha access till).

"Lösningen" på detta problem i nuläget är att man måste utföra en väldigt specifik ritual efter att hanterat känslig data för att omöjliggöra side-channels av spectre-typ. Det är alltså en programvarulösning.

Det Qualcomm hävdar är ju att de kan göra detta i HW, vilket i praktiken då betyder att de inte behöver SW-lösningar, vilket i sig då medför: första OoO designen som inte påverkas av Spectre.

Om det stämmer är det stort, har länge varit rätt dystra tongångar om att det alls skulle vara realistiskt att fixa Spectre i HW utan väldigt stor negativ påverkan på prestanda.

Det skrivet: även om Spectre är rejält illa i att den dels drabbar alla OoO-designer från alla CPU-tillverkare + att den teoretiskt är möjlig att utnyttja via t.ex. JavaScript så kräver utnyttjande av denna i praktiken en speciell anpassning för när nog varje CPU-modell. Det som fungerar på t.ex. 13600k kommer inte fungera på 7600X eller M3 (och vice-versa). Så i praktiken är det rätt svårt att utnyttja, men är ett damoklessvärd som vore väldigt skönt att bli av med!

Du argumenterar utifrån sakfrågan angående vad som skulle behövas för någon variant av en ideallösning, det är inte vad jag ifrågasätter. Det jag ifrågasätter är att det marknadsfolket skrivit i den där slajden verkligen betyder det där.

Vi kan hoppas att du har rätt i din tolkning, men jag är verkligen skeptisk.

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Datavetare
Skrivet av evil penguin:

Du argumenterar utifrån sakfrågan angående vad som skulle behövas för någon variant av en ideallösning, det är inte vad jag ifrågasätter. Det jag ifrågasätter är att det marknadsfolket skrivit i den där slajden verkligen betyder det där.

Vi kan hoppas att du har rätt i din tolkning, men jag är verkligen skeptisk.

Har ingen aning om det är en ideallösning, mer än "det är bättre att lösa det i HW än i SW". Men detta säger ändå något rätt specifikt ur ett tekniskt perspektiv, framförallt det markerad

"Side-channel mitigations built into hardware. Against all known attack vectors"

Kan naturligtvis vara så att ingen med teknisk kompetens har granskat vad som står där, det lär i så fall slå tillbaka på Qualcomm!

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem
Skrivet av Yoshman:

Har ingen aning om det är en ideallösning, mer än "det är bättre att lösa det i HW än i SW". Men detta säger ändå något rätt specifikt ur ett tekniskt perspektiv, framförallt det markerad

"Side-channel mitigations built into hardware. Against all known attack vectors"

Kan naturligtvis vara så att ingen med teknisk kompetens har granskat vad som står där, det lär i så fall slå tillbaka på Qualcomm!

Vad jag menade med "någon variant av en ideallösning" var i princip bara att den sköts helt i hårdvaran utan någon ytterligare interaktion samtidigt som den fixar alla de där problemen.

Den tredje punkten är "intressant" i form av att den antyder att de har någon obfuskeringslösning på plats som löser någonting, möjligen vad påståendet i sin helhet handlar om(?), men vad de skriver är ju alldeles för vagt för att bedöma vad det innebär:

Citat:

Use of internal block-ciphers for micro-architectural obfuscation

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Datavetare
Skrivet av evil penguin:

Vad jag menade med "någon variant av en ideallösning" var i princip bara att den sköts helt i hårdvaran utan någon ytterligare interaktion samtidigt som den fixar alla de där problemen.

Den tredje punkten är "intressant" i form av att den antyder att de har någon obfuskeringslösning på plats som löser någonting, möjligen vad påståendet i sin helhet handlar om(?), men vad de skriver är ju alldeles för vagt för att bedöma vad det innebär:

Min gissning är att det sista är en vink kring hur man "löst" detta.

En "säker" lösning vore att ha en "gömd" CPU-cache som används för all spekulering, bara det som faktiskt "retires" hamnar i den "synliga" cachen. Detta är både en komplex och möjligen inte supersnabb lösning.

Ett annat sätt att lösa problemet är att göra det praktiskt omöjligt att "räkna baklänges" när man använder sin "gadget" för att lura ut information om det data som felspekuleringen använde. Tror det är just denna väg man tagit här.

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem

Det här kanske inte rör prestandan eller hårdvaran så mycket. Men hur ser ARM vs Intel och AMD ut i affärsmodellerna? ARM är börsnoterat sedan september 2023, men som många här säger så är varje Intel-CPU just Intel, varje AMD är just AMD. Medan ARM är Qualcomm, Mediatek och väldigt många fler som släpper "armbaserade" processorer.

En viss skillnad finns här och hur tjänar ARM pengar per såld enhet? Jag är inte särskilt insatt i företagsekonomi, men börsvärdet på ARM Holdings är oerhört mycket lägre än Intel och AMD.

Permalänk
Medlem
Skrivet av Morax:

Det här kanske inte rör prestandan eller hårdvaran så mycket. Men hur ser ARM vs Intel och AMD ut i affärsmodellerna? ARM är börsnoterat sedan september 2023, men som många här säger så är varje Intel-CPU just Intel, varje AMD är just AMD. Medan ARM är Qualcomm, Mediatek och väldigt många fler som släpper "armbaserade" processorer.

En viss skillnad finns här och hur tjänar ARM pengar per såld enhet? Jag är inte särskilt insatt i företagsekonomi, men börsvärdet på ARM Holdings är oerhört mycket lägre än Intel och AMD.

ARM är ett IP-bolag i grund och botten, de tillverkar inte processorer, de licensierar rättigheterna till designer (på olika nivå) och tillverkarna har möjlighet att göra omfattande anpassningar jämfört vad man kan köpa rättigheter till från ARM.
T.ex. då att Qualcomm behöver en licens för ARMs teknologi, men ingen kan köpa allt som Qualcomm byggt in i "Snapdragon X" från ARM.

ARM tjänar pengar på licensavtalen, men det är väl så att tillverkarna i många fall tjänar de största pengarna.

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Permalänk
Hedersmedlem
Skrivet av Yoshman:

Ett annat sätt att lösa problemet är att göra det praktiskt omöjligt att "räkna baklänges" när man använder sin "gadget" för att lura ut information om det data som felspekuleringen använde. Tror det är just denna väg man tagit här.

Skulle man inte kunna begränsa tillgången på högupplösta klockor (många attacker bygger väl på att man vet hur många cykler som gick åt för någon viss operation)?

Permalänk
Datavetare
Skrivet av Elgot:

Skulle man inte kunna begränsa tillgången på högupplösta klockor (många attacker bygger väl på att man vet hur många cykler som gick åt för någon viss operation)?

Man kan komma runt det genom att designa sin "egen" klocka genom att t.ex. köra någon slinga som man har rätt bra koll på exakt hur lång tid den tar. Tror det är så man kommer runt det i JS som jag har för mig inte ger access till väldigt högupplösta klockar, i alla fall inte i webbläsaren.

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer