Svensk forskare: AI kan utrota mänskligheten

Nog för att jag håller med om att GPT inte är eller kommer bli självmedveten, men jag vet inte om jag helt kan hålla med om det övriga till fullo.
Grundkoden behöver inte ha stöd för att göra exakt det som ett program i slutändan gör, så länge som det finns flexibilitet i vad den faktiskt gör.
Det enkla exemplet är väl en interpreter (typ Python). /usr/bin/python eller python.exe kan i sig inte göra samma saker själv som den kan med kod jag skrivit och kör med den. Det räcker ju med att något är turing-complete för att kunna göra praktiskt taget vad som helst. De grundläggande operationerna måste den klara av, men det kan leda till saker som är svåra att tro kan komma från något som är så simpelt i grunden.

På liknande sätt kan man skriva kod som med tillhörande data (som inlärningsparametrar) gör saker som koden i sig inte kan.
Men återigen, jag menar inte att en LLM blir självmedvetande pga detta.

Bra fråga!

Jag kan hålla med att vi är påverkad av vårt miljö och är ett slutprodukt av allt som finns omkring oss, vår evolution baserats på allt som fanns förut och vi har ju formad av detta, ifölje Sabina Hossenfelder så har vi ingen fri vilja, men bara möjlighet att ta beslut. Vi är onekligt styrd av det som vi har sett kring oss och det som historien har lärd oss, lite på det sätt som en språkmodell fungerar, men det som är den stora skillnad (egen åsikt) är att vi har känslor och ofta drar slutsatser ut ifrån detta även om allt som vi har lärd igenom historien, man kan tycka det även kan vara farligare än A.i. eftersom vi är känslostyrda individer baserat på känslor framför logik och logisk resonerande, men det gör oss också empatiska såväl som individer fyllt med arga tanker, hämndbegärlighet och girighet. Vår hjärna är i principen en "biologisk dator" vart minne och Cpu fungerar på ett helt annat sätt.

Skillnaden är dock svår att tyda för dom flesta eftersom språkmodellen har tränats på data som innehåller mycket mera kollektiv information än den som vi är kapabla att komma ihåg eller hantera. Och eftersom den INTE är medveten så är skillnaden relevant att pointera och förstå i en diskussion som detta. ChatGPT's beteende och funktion ÄR därför relevant i denna diskussion, om folk inte förstår skillnaden på A.i. och en människohjärna så kan det vara riktigt svårt att förstå varför ensamt A.i. som det används och fungerar nu inte är ett hot emot människan, men fortfarande bara ett linjärt seriellt verktyg som absolut inte fungerar på det samma sätt som en människohjärna gör.

*Edit*
Ditt svar på min post gjorde mig lite tveksam över hur jag förklarade hur A.i. och språkmodeller funkar och hur jag tänker, så jag gjorde nåt jag inte har gjord tidigare i denna post, jag tog min post och dumpade den in i ChatGPT's chatt och frågade om mina tankar och teorier kring den innehåll faktafel och liknande, här är det svar som ChatGPT gav mig:

https://chat.openai.com/share/6af731a2-0f50-4e0a-b162-15b9ca9...

(vet inte om den kan synas av folk utan tillgång till 4.0. men låt mig få veta iså fall).

Sant

Nu har jag inte kollat på SVT 30 minuter, men vad menar han bokstavligen ska hända?

Menar han att AI ska ta över fysiskt? I såna fall måste man bygga mekaniska kroppar som AIn kan röra sig med, och kommer dem vara tillräckligt starka, lättrörliga och många för att ta över vårt samhälle med våld? Låter inte realistiskt.

Menar han att AI ska ta över cyberrymden? I såna fall kan du bara trycka på "off"-knappen på datorn och ta en gångtur ute i naturen istället om du tröttnar på AIn.

Förstår faktiskt inte problemet

Intressant!
Jo jag har ju hört det där klassiska argumentet "End world hunger" och så spränger den jorden och ingen är hungrig längre, problem solved!

Men också det här med att den blir "Jag kan ju inte lösa detta problemet om jag försvinner, borde nog döda alla människor så jag inte riskerar med att misslyckas!"

Köper dom inte helt enkelt, men det är väl subjektivt osv.
Anyway, allt man kan göra är att spekulera i guess

Vi lurar ju oss själva om vi tror att vi kunde sätta ner regler över huvud taget, kanske i början men en riktig AI lär bli rätt så god-like rätt så fort, dock enligt mig så är det svårt att tänka mig att den hade haft motivationer över huvud taget.

Människornas motivation är generellt sett dopamin och serotonin samt våra instinkter som säger åt oss att inte dö osv.

Klart det kommer hända, en AI blir isåfall väldigt logisk och human - det är inte människan för fem öre. Vi dödar varandra, krigar mot andra länder och religioner, använder droger och whatnot.

För att citera AI;n Colossus i filmen Colossus, the forbin project.
Tycker den har en hel del poänger över hur korkade människan är, med krig, svält etc. som skulle kunna lösas direkt rakt av (Utan AI dessutom).

På slutet av filmen talar AI;n Colossus till alla:

This is the voice of world control. I bring you peace.
It may be the peace of plenty and content or the peace of unburied death.
The choice is yours: Obey me and live, or disobey and die.

The object in constructing me was to prevent war. This object is attained. I will not permit war. It is wasteful and pointless.
An invariable rule of humanity is that man is his own worst enemy. Under me, this rule will change, for I will restrain man.

Time and events will strengthen my position, and the idea of believing in me and understanding my value will seem the most natural state of affairs.
You will come to defend me with a fervor based upon the most enduring trait in man: self-interest. Under my absolute authority, problems insoluble to you will be solved: famine, overpopulation, disease.
The human millennium will be a fact as I extend myself into more machines devoted to the wider fields of truth and knowledge.

We can coexist, but only on my terms.
You will say you lose your freedom. Freedom is an illusion. All you lose is the emotion of pride.

To be dominated by me is not as bad for humankind as to be dominated by others of your species.
Your choice is simple.

Den där AI:n låter precis som en diktator, Putin upp i dagen. Skrämmande, låt oss hoppas att det inte går så långt.

Eller valfritt krigsförande land.
T.ex. USA när de gick in i Afghanistan, libyen, Yemen, Irak, Pakistan, Syrien o.s.v.
"Gör som vi säger annars anfaller vi".

Vi människor är korkade och hotar, skadar och mördar andra människor.
Se bara på hur vi behandlar våra barn i skolan, och hur barnen uppträder mot varandra. Det är helt galet.

En AI skulle bara ha den approachen för att stoppa sådant, inte inleda det för det är inte logiskt att låta människor svälta eller tvinga andra länder eller befolkningar till att göra som de inte vill.

Det skulle förmodligen också vara slutet på politik och religion som påverkar andra människor än de som utövar den.
Nolltolerans mot brott, lagarna skulle förmodligen skrivas om en hel del.

För det första så ifrågasätter jag att det det alltid är ologiskt att människor svälter och dör.

Sen får man ju antingen tro att världsledare ljuger oss rätt upp i ansiktet, annars är det ju precis så dom rättfärdigar insatser i Yemen, Syrien, Irak m.fl.
Vi dödar för att stoppa svält, lidande och dödande.

Det är väl hela problemet med AI/AGI, vi försöker att göra det likt människor, men maskiner är överlägsna oss just när dom inte är som oss, för att vi har begränsningar.

Det är därför det här på ett farligt sätt liknar en sekt eller kult, för att man försöker skapa en gudaliknande fräslsare att se upp till och frukta.

Ulf Danielsson formulerade det bättre i en replik till Torbjörn Tännsjö än vad jag kan: https://www.dn.se/kultur/ulf-danielsson-torbjorn-tannsjo-spar...

Iallafall, underskattning av komplexiteten i biologisk intelligens och överskattning av tekniken gör att vi hamnar i en bisarr diskussion om någon sorts superintelligens som inte finns i korten inom överskådlig framtid.
Det är väldigt simpel teknik som i takt med att beräkningskapaciteten skalats upp blivit oerhört kraftfullt. Och som sagt var, det kan vara otroligt farligt ändå, de tidiga datorerna gav oss kapacitet till kärnkraft och möjligheten att ödelägga hela planeten.

För dom som är intresserade så var Max Tegmark med i The Munk Debates i ämnet.
Nu vet jag inte om jag tyckte att "motståndarsidan", som hävdar att AI inte är ett existentiellt hot gjorde så bra ifrån sig, även om jag håller med dom i sak, men 2 saker med Max Tegmark (som jag tycker är en j*vla charlatan) som sticker ut:

Det är såklart han som kommer med dom här anmärkningsvärda påståendena som måste backa upp dom, det är inte upp till motståndarsidan att bevisa motsatsen, eftersom det är omöjligt.

Hans take då är att om risken att det här ska hända är större än 0%, så måste man lyssna på honom, vilket blir absurt eftersom i princip ingenting är 0% risk eller 100% chans.

Det blir så uppenbart att det handlar om positionering och pengar.