Microsoft täpper allvarlig brist i Copilot

Många säger ifrån, men många utvecklarna som är självlärda genom StackOverflow är idag är beroende av CoPilot i VSCode etc.

Detta är problem med alla lösningar däe man använder LLMer med input från en extern källa. Förenklat så kan LLMer kan inte skilja på prompten och ytterliggare kontext som skickas in. Så om man skriver kommandon i texten på ett mail som en LLM skall summera så utförs dem.

Ja, det låter lite som Microsoft på 90-talet; Skapa mjukvara med en massa nya funktioner helt utan säkerhetstänk.

Hmmm... Kanske tolkar dig fel, men jag håller nog inte med om ditt första uttalande. Jag ser ingen möjlighet att använda CoPilot alls, utom för hobbyprojekt.

För att ha nytta av CoPilot i vscode, måste du rimligen ge CoPilot tillgång till din källkod. Och - åtminstone där jag jobbar - är källkoden känslighetsklassad som affärshemligheter. Och om koden gör fel saker, får det monetära konsekvenser. Jag misstänker det är likadant på de flesta andra ställen.

Vad gäller resten: Det är förståeligt att man tänker sig att 'för att det här businessverktyget ska kunna göra nytta, måste det kunna interagera med alla delar av M365', vilket då även innefattar emailklienten.

Men jag håller med dig om att det är extremt märkligt att ingen verkar ha gjort en konsekvensanalys med efterföljande varningstext i jättelika bokstäver, utan på allvar tycker det är en bra idé att låta en LLM härja runt med färre tyglar och sämre insyn än de flesta medarbetare.

Det är lätt att föreställa sig att de skulle använda CoPilot på Pentagon eller nån 'Defense Contractor', och att flera medarbetare skriver memon om att det är 'problem med Ryssland'. CoPilot analyserar dem och hittar ett sätt att 'lösa' problemet...

Boom - SkyNet eller Matrix, fast de robotar som tar över är inte smarta mordmaskiner i metall, utan korkade clippy-gem som bara lever vidare tills sista batteribackuppen tagit slut.