Svensk forskare: AI kan utrota mänskligheten

Mer relevant faktum är att istället för framtidsvisionen där maskinerna gör jobbet så att människan kan fokusera sig på konst, filosofi, forskning, livsnjutning osv så är nuvarande utveckling i AI fokuserad som så att det är just dessa områden som först kommer tas över av AI, vilket lämnar det manuella slitjobbet åt oss människor.

Tycker det är rätt magstarkt av de som säger sig veta 100% för eller emot påståenden om vad AI är eller inte är kapabelt till- sanningen verkar vara att ingen vet och att den riktiga kampen är om vem som får eller inte får tjäna enorma mängder pengar längs vägen tills den dagen då vi får reda på om det är en utopi eller dystopi som byggs med AI-assistance.

Läser gärna igenom om någon har konkret bevis åt ena eller andra hållet dock.

"OpenAI's brand new GPT-4 AI managed to ask a human on TaskRabbit to complete a CAPTCHA code via text message — and it actually worked. In other words, an AI just fooled a human into checking an "I'm not a robot" checkbox — a terrifying example of an algorithm being able to escape human control."

Jag vet inte varför, men jag kan inte sluta skratta

"The AI bot pretended to be a blind person and hired a human saying that it needed help navigating CAPTCHA tests to use the internet. Researchers from OpenAI's Alignment Research Center gave GPT-4 a budget and access to the website TaskRabbit - where it could hire online workers."

Att mänskligheten utrota sig själv antar jag.

Hade tänkt skriva något liknande. Absolut det mest störande i den här debatten (egentligen alla debatter) är 100%-säker-människor när det inte finns konkret evidens för något, om det gör det är jag också intresserad av att läsa. Istället har vi massa tyckare som vet med säkerhet vad som skapar självmedvetande osv. Själv tycker jag det är en otroligt spännande tid men känner en vag oro också, främst för hur det kan påverka arbetsmarknaden det kommande decenniet. Det mest ironiska är att det verkar ske omvänt som du skrev inledningsvis. Man hade liksom hoppats att robotar skulle ta över allt fysiskt arbete och låta oss vara kreativa. Nu får ai göra allt det roliga.

De kanske frågade en AI.

Om ni gillar poddar så kan jag varmt rekommendera Creepypodden’s senaste avsnitt som handlar om hur en 26-årings liv urartar totalt när han skapar en AI-bot som till en början endast ska hjälpa honom i arbetet.

Långt avsnitt men jag lyssnade precis färdigt här på balkongen i solen. 😎

Avsnittet finns på SR-play och är gratis: https://sverigesradio.se/play/avsnitt/2176802

Jo jag har läst Asimov mfl, men min poäng är att vi inte har någon aning om hur man skapar en "superintelligent" AI. Singulariteten är inte närmare nu än innan midjurny och chat GPT.
Visst kommer program som dessa att ändra samhället, precis som el och datorer gjorde.
Men visst, om så många människor som är mycket smartare än mig är så oroliga så måste jag ju ha missat något.
För mig känns det lika relevant att oroa sig för vad en warp drive civilisation skulle göra med jorden om de hittade den som att oroa sig för att AI tar över.
Men absolut om en nation t.ex skulle få ett enormt tekniskt försprång, någon slags super gpt som kan skära igenom krypteringar som smör skulle det ju kunna bli problem. Annars brukar ju teknik balansera ut sig, som kärnvapen t.ex

Strunta i hur lätt det är att förstå, hur rimligt är det?

Om jag hävdade att vi kommer få se superintelligenta spindlar så skulle du ju bara skratta åt mig, med all rätt.

Det du hävdar är ju dessutom kontra-evolutionärt. Du/ni hävdar något som vetenskapen själva skrattat åt så länge den har funnits.

Inte bara på den punkten. Hävdar man att en maskin utvecklad av människor blir mer intelligent än människor, så säger man ju indirekt att den maskinen kan skapa fler av sig själv, då hävdar man ju också att vi har skapat en evighetsmaskin, också något som vetenskapen under samma period (i.e så länge den har funnits) har hävdat är omöjligt.

Apropå att skapa något som är intelligentare än en själv så kommer jag alltid tillbaka till den av David Mamet briljant skrivna dialogen från Heist:

Det är…hybris, om man vill vara snäll, och idioti om man ska vara rak, att tro att vi kans skapa något som är intelligentare än oss själva, utifrån en ”intelligens” som bygger på att kopiera/”scrapa” oss.

Men om vi tar det där klippet då, så säger Ben Goertzel att ”..AI/maskiner kan bli mer etiska än människor…”.

Vad betyder det ens? Etik är ju något vi människor har hittat på.

Betyder det ungefär att vi inte behöver kunna definiera mänskligt medvetande (mot argumentet "vi vet inte hur vårt eget medvetande fungerar hur ska vi kunna skapat ett artificiellt?") innan AI kan konkurrera ut oss med metoder som delvis liknar våra egna?

Större risk att människan utplånar mänskligheten.

Jag vet inte vad av det jag skrev som skulle motsägs någon av dom där sakerna, du får gärna preciserar .

Varför är det så säkert att vi kan effektivisera den? Den här processen har alltså pågått i miljarder år, men nu helt plötsligt kommer något som kan ”effektivisera” den?

Så vi skapar den evolutionära processen? Vi är inte en del av den? Igen, den här processen har pågått i miljarder år, men nu säger ni att ni ska skapa en ny/egen eller ändra på den befintliga?

Det är också lite motsägelsefullt för du säger att vi kan ändra evolutionen för att vi förstår den, sen säger du att vi inte behöver förstå den?

Om vi inte behöver förstå den, kan den redan finnas? Kan evolutionen ha gjort dom här hoppen tidigare? (bara för att ta 2 exempel, det finns ju människor som säger att vi inte alls ”utvecklades från” apor eftersom apor fortfarande finns, och det finns människor som hävdar tidigare intelligenta(re) civilisationer, det är alltså helt rimligt enligt dig?)

Ganska enkel matte faktiskt!
Antingen så händer det, eller så händer det inte.
Dvs ca 50/50!
/s

(Någon ”forskare” resonerade så här på riktigt när han sa att det var 50% chans att jorden kunde gå under när CERN startade)