Hackare lurar AI med ASCII-konst

Kan inte skaparna av ChatGPT bara be ChatGPT ta bort informationen om hur man gör bomber ur sitt "minne"?
Jag menar, varför bara blockera prompten men låta själva informationen vara kvar, om det nu är något man inte vill ska komma ut?

Bevisligen så finns ju svaren kvar, bara man "lurar" "AI'n"
Man kan ta bort delar ur en databas, eller?

Även om det inte nödvändigtvis är en databas i traditionell mening, så är det klart att AI har informationen.

Det man behöver skaffa sig kontroll över av både den och upphovsrättsliga orsaker, är datan man tränar modellen på. Vill man inte ha med recept på bomber och tveksamma råd om vad man ska göra när syrran fastnat i tvättmaskinen, kanske man inte ska mata den med hela reddit urskiljningslöst.

Filtrerar på output gör de redan, ibland börjar den skriva väldigt intressanta saker som den sedan kommer på att ”sorry, det här kan jag inte svara på”.

”behöver” inom stora citationstecken förresten, jag tycker det var roligare när de var ofiltrerade.

Bra förklaring, men jag förstår ändå inte riktigt varför det inte finns verktyg som kan filtrera bort eller ta bort saker man absolut inte vill att en AI ska kunna "berätta" om.

Vad tycker ni om Gemini nu när ni testat det ett tag? Jag föredrar fortfarande ChatGPT för det mesta.

En av de stora problemen med en LLM är att man inte kan träna bort data. Man kan bara göra andra svar mer sannolika. För att få bort data måste man träna om modellen från grunden och då inte inkludera något om det man ville ta bort.

Det här är ett annat jätteproblem med dagens LLM. Särskilt i kombination med svaret ovan. Blir snabbt en echo chamber.

Olika strategier o lösningar på båda problemen kommer dagligen men än så länge har ingen presenterat en lösning som fixar allt. Men är övertygad om att standarder kommer strax.

Om man i Italien frågar chat GPT hur gör man en Hawaiipizza, så kommer deras nationella insatsstyrka storma bostaden med allt de har.

Nå många exempel som nämns finns det redan förslag på internet på sedan hur länge som helst, långt före år 1995. Det man får från chat GPT är också ett sämre förslag på alla sätt och vis.

Det speciella är om folk vill ha tips på saker som inte folk redan har gjort detaljerade förslag på. Eller automatisera, ta alla telefonbedragare, snart är det Ai som ringer upp. Detta kan de göra väldigt billigt till väldigt många.

Detta vet myndigheterna om att detta kan komma ske, om de inte motverkar det som ta bort i princip gratis telefonsamtal, bättre med bankid etc.

Kan du ge några exempel?

AI sammanfattar extremt bra, men dra slutsatser är inte den starka sidan

Bygga bomber är samma kompetens som att kunna nåt om mjukvara? Alla IT-specialister är också bombmakare. Eller vad menade du?

Sen är väl hela poängen med forskningen ändå att alla skydd vi bygger in inte är tillräckliga utan man måste göra ett ordentligt förjobb med träningsdatan. Något som är långt ifrån praxis idag. Man släpper bara lös AI på så mycket dara det går i samband med träning utan vidare investering, där vidare investering hade varit filtrering av träningsdatan.

Tydligt hur mycket "I" som fortfarande saknas i det som kallas 'AI". Vilken läskunnig människa som helst skulle genomskåda detta direkt, även ett barn. Men AI tycks måsta skedmatas med specifika censurspärrar. AC nästa modeord, automatisk censur? Fast det är ju upptaget.

Det är väl inget konstigare än att vi människor skedmatas med etik och moral när vi växer upp? Precis som människan kan inte en AI veta vad som är rätt och fel om den inte tränats för det.