Chat GPT kan generera svårupptäckta skadeprogram

The Creator

Om AI kan skapa denna typ av skadlig kod är väl den mest realistiska lösningen att AI även används för att utveckla skydd mot samma kod.

Det finns existensiella risker med AI, men det betyder inte att allt som har med AI att göra innebär gigantiska risker, vilket verkar vara på modet att hävda just nu.

Det känns som att nyheterna är lite antingen eller: å ena sidan är det slutet på all mänsklighet och terminator, å andra sidan innebär det möjligheter till nya fantastiska uppfinningar som kommer underlätta i vardagslivet samt den tredje klicken som betraktar ChatGPT och liknande som en förbättrad Google.

Och det finns två sidor på ett mynt.

Å ena sidan, AI-utvecklingen har lett till mer sofistikerad och effektiv antivirusmjukvara. Genom att använda maskininlärning kan antivirusprogram nu bättre identifiera och reagera på nya hot. De kan anpassa sig och lära sig från tidigare erfarenheter för att skydda system från skadlig programkod på ett mycket effektivare sätt än tidigare.

Å andra sidan, illvilliga aktörer använder också AI för att skapa mer avancerad skadlig programkod. Detta innebär att virus och andra skadliga program kan bli smartare, svårare att upptäcka och mer skadliga. De kan lära sig att kringgå säkerhetssystem och anpassa sig för att bli mer effektiva i sina attacker.

Sammanfattningsvis innebär AI-utvecklingen inom cybersäkerhet att det finns en ständig kapplöpning mellan de som försöker skydda system (genom antivirus) och de som försöker attackera eller exploatera dem (genom skadlig programkod). Båda sidor använder sig av de senaste framstegen inom AI för att få övertaget, vilket gör att det är viktigt att ständigt vara uppmärksam och uppdaterad inom cybersäkerhet.

Finns tydligen många sätt att kringgå ChatGPT filtret. Premium-versionen av ChatGPT uppdaterades förra månaden med uppdaterad data, men kör man gratis så borde DAN och alla de andra kringgående metoderna fungera än. Framtiden ser mörk ut.

Finns om man googlar, vet att USAF dementerat det hårt men likt allt annat är det lite för rimligt för att inte stämma..

Man anger även att själva armeringssekvensen såklart kräver ytterligare steg à la atomvapen men det är en kul historia ändå

Det man kan hoppas på är att AI/ML även kommer fungera bra för att detektera och neutralisera detta. En troligen ofrånkomlig nackdel kommer dock vara en jävla massa fler false positives, och det gör verkligen ingen glad.

Mycket bra, det behövs.

Har du missat de otroliga mängderna artiklar och rapporter om hur fantastiskt AI är och kommer att bli?

Ganska bra sammanfattande video som visar hur osmart ChatGPT är, den bara verkar smart och använder dina smarta och bra formulerade frågor att leta upp smarta svar

Den klarar inte ens enkla saker som en miniräknare klarar