Windows ML förenklar för lokal AI

Är detta skilt från DirectML?

Som uppväxt under eran där Nokia ägde mobiltelefonmarknaden, tänker jag osökt på när Samsung och Apple tävlade om innovation av vad vi alla ser som mobiltelefon idag. Tyvärr kom det av sig lite och i mitt tyckte kan ingen kalla sig branschledande. Båda gör bra mobiltelefoner. Vilken man föredrar är mer en personlig preferens.

Jag hoppas att Microsofts satsning ska gynna konkurrens och innovation när det gäller ARM så Apple tvingas till större prestandalyft från gereration till generation. Nu känns det verkligen som Apple håller tillbaka och att prestandaskillanden skulle kunna bli större.

Kan nog vara byggt ovanpå DirectML. Windows ML verkar vara ett lager ovanför och är inkluderat i Windows App SDK. Lite som XNA var ett lager ovanpå Direct3D förr. Så tolkar jag det i alla fall.

Undrar om detta även kan påverka Nvidias övertag kring generativ AI på Windows-plattformen?

Har sett modeller optimerade för exempelvis Apple Core ML där det också ser fördelning över CPU/GPU/NPU.

Men nära nog allt känns optimerat för Nvidia just nu, vilket gör att vi är inne i en ond cirkel (eller god för Nvidias aktieägare).

De ser ut som de dödar DirectML som produkt och Windows ML är ersättaren. Har nog en del logik från föräldern, men verkar inte ha det som ett direkt beroende.

https://github.com/microsoft/onnxruntime/issues/23783

Spännande framtid, så mycket arbete utförs idag manuellt för att folk har svårt att följa instruktioner och det blir praktisk omöjligt att koda för allt som folk hittar på med. Med mer Ai på klienten som går utnyttja i ens kod och det blir enklare.

Ta en enkel excelark som innehåller KattID, kattnamn, ålder, ras, kön, vaccination etc. Den som registrerar datan kan hitta på hur många olika sätt som helst att skriva in denna data och för utvecklaren blir det ett stort jobb att göra kontroller för allt.
AI måste då in i bilden på något sätt, speciellt när man inte har tillgång till interfacet där dataregisteraren skriver in sin data i, då det kan vara en .csv fil.

Så min gissning är att allt fler utvecklare kommer nyttja denna AI till småsaker som inte på något sätt är speciella.

Det känns lite som ett problem ändå. Som jag förstår Windows ML är dess abstraktionsnivå mer jämförbar med t.ex. PyTorch och Keras, d.v.s. något applikationer direkt jobbar mot, än CUDA, MPS och DirectML, som alla är exempel på back-ends för att ge HW-acceleration av det API-ramverken gör.

Uppenbara nackdelen med Windows ML är att det är Windows-specifikt, medans PyTorch, Keras, Tesorflow alla finns på MacOS, Linux och Windows (och i visas former även för iOS och Android).

Har knappt använt machine-learing alls på Windows, så har inte satt mig in i detaljerna. Men en sökning indikerar att det inte bara Windows ML som använder (eller tidigare använt?) DirectML som backend för GPU/NPU, det gör även PyTorch, Keras/Tensorflow.

På Windows kan alla dessa också använda CUDA, men det fungerar ju bara på Nvidia GPUer och poängen med DirectML verkar just vara att ge en uniform lågnivå backend för HW-acceleration.

Trist om man tappar ett generellt HW-abstraktionslager på Windows, för på Linux är det idag lite: kör CUDA om du vill vara någorlunda säker på att det faktiskt kommer fungera.

Du är nu nedgraderad från ägare inte bara till administratör utan nu bara som användare.

Är personligen inte insatt i ämnet, men det känns väldigt märkligt att döda ett mellanlager. Nu kanske man inte behöver använda hela delen utav Windows ML, utan kanske finns API punkter som motsvarar tidigare upplägg. Anser skaparen att en produkt är end of life, så är den ju det. Känns som att öppen sås världen kommer leta sig åt annat håll, till en mer "stabil" produkt.