Microsoft har gjort en stor affär av Copilot Plus-märkningen av datorer med inbyggd maskininlärningsacceleration och möjligheten att köra många AI-baserade funktioner direkt på datorn. Men trots att många av de nya datorer som säljs idag har en NPU eller ett rejält tilltaget grafikkort som kan hantera sådana arbetsuppgifter är det ont om mjukvara som faktiskt utnyttjar det.
Det här kan hoppas Microsoft kunna åtgärda med hjälp av Windows ML, en ny maskininlärningsmotor som försöker göra för AI vad DirectX har gjort för 3D-grafik. Med Windows ML är tanken att utvecklare ska kunna bygga sina program mot ett gemensamt programmeringsgränssnitt, och sedan hanterar systemet den specifika implementationen på en viss dator beroende på vilka resurser den har.
Windows ML abstraherar det komplicerade arbetet med att optimera maskininlärningsalgoritmer för olika arkitekturer. Olika moduler (”execution providers”) för olika hårdvara installeras automatiskt när de behövs och enbart för den hårdvara användaren har tillgänglig. Det kan till exempel vara en modul för ett Nvidia-grafikkort och en för NPU:n i en Intel-processor.
Utvecklare kommer även kunna styra hur mjukvaran väljer på vilken hårdvara en uppgift ska utföras, för att exempelvis optimera för effektivitet eller maximal prestanda. Företag som redan har börjat bygga in Windows ML i sina program är bland annat Adobe, McAfee och Topaz Labs.