Recall är en ny AI-funktion Microsoft ska släppa med de nya Copilot Plus-datorerna som börjar säljas om ett par veckor. Funktionen spelar in allt användarna gör på datorn. Copilot kan sedan söka i databasen och hjälpa dem komma ihåg saker som vilken webbplats det var de hittade den där intressanta artikeln på.

Microsoft har varit väldigt noga med att påpeka att Recall körs helt och hållet på datorn och inga data skickas till någon server i molnet. Till BBC förklarade företaget att en hackare skulle behöva fysisk åtkomst till datorn för att få tag i den sparade historiken. Men det stämmer inte, påstår säkerhetsforskaren Kevin Beaumont. I en tråd på X och ett blogginlägg går han igenom hur funktionen fungerar, och varför han anser att den är ett enormt misstag från Microsoft.

Så här fungerar Recall i korthet: Systemet tar konstanta skärmdumpar med några sekunders mellanrum. Skärmdumparna OCR-skannas och resultaten lagras sorterat per öppet program i en SQLite-databas. Databasen optimeras och är väldigt kompakt – efter några dagars testande var Kevin Beaumonts databas kring 90 KB.

Microsoft gör undantag för bland annat privata fönster i Edge, men inte mycket annat. Privata fönster i Chrome och andra webbläsare fångas, och likaså chattprogram som Signal och Whatsapp.

Kevin Beaumont skriver att han har hittat ett enkelt sätt att komma åt databasen, även för en annan användare på datorn. Det kräver inte rootbehörighet utan ett administratörskonto räcker. Eftersom databasen är så liten går det otroligt snabbt att exfiltrera den. När Kevin Beaumont testade med en välkänd trojan hann skadeprogrammet skicka iväg databasen innan Microsoft Defender stoppade den och satte den i karantän.

Recall är aktiverat som standard på de nya Copilot Plus-datorerna, och Microsoft jobbar på att kunna köra den på grafikkort på x86-maskiner. Kevin Beaumont målar upp vad som närmast är ett domedagsscenario när företag runt om i världen sparar allt de anställda gör och en liten säkerhetsbrist kan ge hackare enkel tillgång till allt de har haft öppet i datorn. Kunduppgifter, krypteringsnycklar, loginuppgifter till servrar. Allt i en kompakt, enkelt sökbar databas.

Kevin Beaumont uppmanar nu Microsoft att dra tillbaka funktionen och bygga om den så att den inte är en säkerhetsmardröm.