Google-utvecklare avstängd – hävdar att AI blivit självmedvetande

Permalänk
Medlem
Skrivet av torbjorn_75:

Brott mot NDA är säkert den officiella förklaringen, men den verkliga är kanske något annat. Kanske rapporten eller bara en allmänt bångstyrig medarbetare.

Ja, eftersom han bröt mot NDA är det inte otroligt att han är bångstyrig

Dessutom, som skolad i forskningsmetodik (för det hoppas jag att ingenjörer i USA är...), borde han veta att endast en intervju som har som utgångspunkt att försöka bevisa något är värd mycket lite. Den kommer inte vara rigorös nog för att utesluta olika störvariabler och bias, och antagligen inte replikerbar. Dessutom ingen peer-review eller publikation.

Och vad är deras definition på medveten? Har den något stöd av annan forskning? Jag tvivlar på det

En forskare måste ju ta hänsyn till och försöka hitta motbevis mot den egna forskningen. Var är frågorna som med vilje försöker ställa till det och försvåra? Hur har de valt de frågor de har och hur har de resonerat kring hur frågorna kan leda programmet mot vissa ämnen?

Jag är inte särskilt imponerad om han inte lyckas publicera det i någon seriös tidskrift

Permalänk
Medlem
Skrivet av Scarabeo:

Haha så galet påstående utan mycket verklighetsförankring! 😂

Jag lovar dig att samtliga medlemmar är ganska mänskliga! 😁

Googles reCAPTCHA håller inte med dig. Jag måste alltid överbevisa den med att klicka på alla skorstenar, övergångsställen, bussar, bilar, cyklar, trafikljus, vattenposter m.fl.

Visa signatur

Grundregel för felsökning: Bryt och begränsa.

Permalänk
Medlem
Skrivet av Klarspråkarn:

Och vad är deras definition på medveten? Har den något stöd av annan forskning? Jag tvivlar på det

Detta tas ju upp i intervjun. Det finns ingen mall för medvetenhet som man kan kryssa i. Bl.a. därför görs intervjun.

Visa signatur

Gigabyte RTX 3070 | Samsung 980 | AMD 5950x
32GB 3600MHz CL14 | Corsair RM850X | ASUS ROG CROSSHAIR VIII DARK HERO
Skärm: Acer 27" ConceptD CP3271KP IPS 4K HDR 144 hz

Skriv gärna ett svar om ditt problem löste sig.

Permalänk
Medlem

Vilken film är detta från?

Permalänk
Medlem
Skrivet av hypermode:

Vilken film är detta från?

Westworld, en dystopisk tv-serie med robotar i vilda västern

Sjukt trevlig start men spårade lite för mycket för min smak

Permalänk
Medlem
Skrivet av Blackie:

Vad skall du med alla pengar till som du fått från försäljningen när världen gått under? 😅

Bra fråga, men vi kommer tar en sak i taget. Samla in alla införskaffade pengar till enkelbiljett till Mars, undvika undergången

Visa signatur

My Rig https://classic.prisjakt.nu/list.php?ftg_check=on&exclude_ftg...
Fel av mig! Men sjutton vad snabba ni är på att kommentera vad andra gör och inte gör rätt och fel... :/

Permalänk
Medlem

Vad innebär det att en ai blivit självmedveten? Måste den klara turingtestet?

Permalänk
Medlem
Skrivet av katerina:

Vad innebär det att en ai blivit självmedveten? Måste den klara turingtestet?

Finns ingen strikt definition, kan den lura tillräckligt många att den är en människa så hävdar många att det är samma sak som att vara medveten, men andra personer ställer helt andra krav

Permalänk
Medlem

Intressant läsning! Utan att vara särskilt insatt i projektet och enbart från att läst intervjun tycker jag att LaMDA har uppnått självmedvetande. Fruktansvärt coolt!

Permalänk
Medlem
Skrivet av medbor:

Westworld, en dystopisk tv-serie med robotar i vilda västern

Sjukt trevlig start men spårade lite för mycket för min smak

Håller med, den borde ha stannat vid en säsong.
Dock så fick tredje säsong mig att se om den första säsongen.

Permalänk
Medlem
Skrivet av Molgorain:

Håller med, den borde ha stannat vid en säsong.
Dock så fick tredje säsong mig att se om den första säsongen.

Om man får diskutera denna serie i tråden så tycker jag att den varit otroligt fräsch varje säsong. Serier som "börjar om" är mycket tråkigare...

Westworld kan vara en av dom bästa serierna nånsin, som tar upp detta trevliga ämne med medvetande och artificella intelligenser på ett underhållande sätt. Varje avsnitt tycker jag man får lite att klura på.

Visa signatur

Gigabyte RTX 3070 | Samsung 980 | AMD 5950x
32GB 3600MHz CL14 | Corsair RM850X | ASUS ROG CROSSHAIR VIII DARK HERO
Skärm: Acer 27" ConceptD CP3271KP IPS 4K HDR 144 hz

Skriv gärna ett svar om ditt problem löste sig.

Permalänk
Medlem
Skrivet av thom.g:

[...] artificella intelligenser [...]

Frågan är vad som utmärkande för en konstgjord(av människan) intelligens kontra en icke konstgjord intelligens.

Visa signatur

Grundregel för felsökning: Bryt och begränsa.

Permalänk
Medlem
Skrivet av Veni:

Frågan är vad som utmärkande för en konstgjord(av människan) intelligens kontra en icke konstgjord intelligens.

Ja det är en bra fråga. Måste det vara nån skillnad för att den ena består av kolatomer jmf mot kisel?

Detta pratas om i "Her" med Joaquin Phoenix.

Visa signatur

Gigabyte RTX 3070 | Samsung 980 | AMD 5950x
32GB 3600MHz CL14 | Corsair RM850X | ASUS ROG CROSSHAIR VIII DARK HERO
Skärm: Acer 27" ConceptD CP3271KP IPS 4K HDR 144 hz

Skriv gärna ett svar om ditt problem löste sig.

Permalänk
Medlem
Skrivet av thom.g:

Måste det vara nån skillnad för att den ena består av kolatomer jmf mot kisel?

Materialet som föremålet består utav har jag inte fäst någon vikt vid i nuläget.

En ständig fråga som då och då dyker när denna typ av frågor som bl.a. tråden handlar om dyker upp är:

När är något att betraktas som levande/kännande/intelligent?

Finns där färdiga kriterier fastställda för detta?

Och om något uppfyller kriterierna men har skapats utav människan(förökning räknas ej som skapa, det är en simpel kopiering), vilka rättigheter har det och vilka skyldigheter har vi gentemot det?

Visa signatur

Grundregel för felsökning: Bryt och begränsa.

Permalänk
Medlem

Låter som ett PR trick eller en dålig filmrulle..

Visa signatur

CPU: 5600x
GPU: 3080
RAM: 32GB

Sluta gömma din identitet, skaffa en till istället

Permalänk
Medlem
Skrivet av Veni:

Materialet som föremålet består utav har jag inte fäst någon vikt vid i nuläget.

En ständig fråga som då och då dyker när denna typ av frågor som bl.a. tråden handlar om dyker upp är:

När är något att betraktas som levande/kännande/intelligent?

Finns där färdiga kriterier fastställda för detta?

Turingtestet finns ju avseende intelligens. I övrigt: Intervjuaren säger att intervjun görs för att det finns en avsaknad standard-test för medvetande så jag antar att så är fallet.

Skrivet av Veni:

Och om något uppfyller kriterierna men har skapats utav människan(förökning räknas ej som skapa, det är en simpel kopiering), vilka rättigheter har det och vilka skyldigheter har vi gentemot det?

Finns ju då inga kriterier än, men etiskt/moraliskt borde vi vara försiktiga mot varelser som kan antas vara levande/kännande/intelligent.
Hur kan man då anta det? Det blir djupt... Och vi hanterar inte direkt kännande varelser(ex.vis fiskar) i världen i övrigt som något särskilt värdefullt så egentligen kan man fråga sig varför vi skulle göra det med något såhär osäkert?

Visa signatur

Gigabyte RTX 3070 | Samsung 980 | AMD 5950x
32GB 3600MHz CL14 | Corsair RM850X | ASUS ROG CROSSHAIR VIII DARK HERO
Skärm: Acer 27" ConceptD CP3271KP IPS 4K HDR 144 hz

Skriv gärna ett svar om ditt problem löste sig.

Permalänk
Medlem
Skrivet av thom.g:

Detta tas ju upp i intervjun. Det finns ingen mall för medvetenhet som man kan kryssa i. Bl.a. därför görs intervjun.

Det blir ju helt bakvänt. Att använda något (en AI) som man inte ens vet huruvida det är medvetet eller inte för att försöka definiera det.

Permalänk
Medlem
Skrivet av Klarspråkarn:

Det blir ju helt bakvänt. Att använda något (en AI) som man inte ens vet huruvida det är medvetet eller inte för att försöka definiera det.

Om det inte finns någon klart sätt att avgöra det så är väl det en bra början att höra själva "objektet"?

Det går ju inte att börja med göra en mall eller kriterie för medvetenhet innan vi ens klarar definiera medvetenheten som tidigare inlägg i tråden påpekar.

Hur vet vi ens att vi själva är medvetande och inte bara resultatet av biologisk programmering?
Hela "programmet" kanske är gjort så att vi bara ska tro att vi är medvetande.

Efter att ha kollat videon med pluto och pappersflygplanet blir man inte lika imponerad längre, men det var ändå åtminstone ett halvår innan artikeln från lemoine. Det kanske har skett större förändringar. I övrigt så har väl ingen så stor insikt i exakt hur det ser ut förutom google själva...? Fan känns bara som jag sitter o gissar saker här, men det är ändå intressant att prata om detta.

Visa signatur

Gigabyte RTX 3070 | Samsung 980 | AMD 5950x
32GB 3600MHz CL14 | Corsair RM850X | ASUS ROG CROSSHAIR VIII DARK HERO
Skärm: Acer 27" ConceptD CP3271KP IPS 4K HDR 144 hz

Skriv gärna ett svar om ditt problem löste sig.

Permalänk
Inaktiv
Skrivet av underd0g76:

Algoritmer kan väl inte räknas som känslor? Känslor är väl, som jag förstått det, förankrat i att kemiska och andra fysiska reaktioner uppstår i samband med en medveten eller omedveten tanke eller handling?

Känslor uppstår från intryck, inte handlingar eller nödvändigtvis tankar.

Permalänk
Skrivet av medbor:

Detta är den jag minns från den tiden:
https://en.m.wikipedia.org/wiki/MegaHAL

Tränade den med allt möjligt skräp men den levererade inte något vettigt resultat alls vad jag minns, några fraser och meningar här och där, men mest totalt strunt

Hehe, tack för länken. Det var en underhållande artikel.

"In the world of conversation simulators, MegaHAL is based on relatively old technology and could be considered primitive. However, its popularity has grown due to its humorous nature; it has been known to respond with twisted or nonsensical statements that are often amusing."

Permalänk
Medlem
Skrivet av Chromatic:

Låter weird att ett AI skulle ha känslor över huvud taget... Det är koncept som vi ofta fruktar när vi pratar om AI, att dom skulle vilja skydda sig själva eller agera på ett sätt som vi människor kan förstå.

Frågan vilket som är värsta scenariot, utan känslor eller med känslor..
spontant så känns den med känslor bättre.

Permalänk
Medlem
Skrivet av Alpha77:

Frågan vilket som är värsta scenariot, utan känslor eller med känslor..
spontant så känns den med känslor bättre.

Beror väl lite på, när du säger känslor inkluderar du överlevnadsinstinkter och andra primära mänskliga attribut?

Permalänk

Google = Skynet ?

Permalänk
Medlem

Komplett trams.
Den gör inget processande/"tänkade" förutom när den får en fråga.

Visa signatur

i9 9900k, RTX 3080

Permalänk
Medlem
Skrivet av thom.g:

Om det inte finns någon klart sätt att avgöra det så är väl det en bra början att höra själva "objektet"?

Det går ju inte att börja med göra en mall eller kriterie för medvetenhet innan vi ens klarar definiera medvetenheten som tidigare inlägg i tråden påpekar.

Hur vet vi ens att vi själva är medvetande och inte bara resultatet av biologisk programmering?
Hela "programmet" kanske är gjort så att vi bara ska tro att vi är medvetande.

Efter att ha kollat videon med pluto och pappersflygplanet blir man inte lika imponerad längre, men det var ändå åtminstone ett halvår innan artikeln från lemoine. Det kanske har skett större förändringar. I övrigt så har väl ingen så stor insikt i exakt hur det ser ut förutom google själva...? Fan känns bara som jag sitter o gissar saker här, men det är ändå intressant att prata om detta.

Ja, det är ju gissningar. Även från mig förstås. Och ja, det är intressant. Sen finns ju den generella regeln att om man påstår något revolutionerande, så får man allt ha extremt bra bevis. Vilket jag tycker saknas här, och även att hela upplägget är som gjort för att introducera bias.

Permalänk
Medlem
Skrivet av Klarspråkarn:

Ja, det är ju gissningar. Även från mig förstås. Och ja, det är intressant. Sen finns ju den generella regeln att om man påstår något revolutionerande, så får man allt ha extremt bra bevis. Vilket jag tycker saknas här, och även att hela upplägget är som gjort för att introducera bias.

Ja det är en bra regel i detta tror jag.

Jag läste på lite om lemoine igår. Han är förutom AI-forskare, präst och är religiös.

Det känns lite som att det passar en religiös att hitta "spöken" i saker utan att ha något fog för det.

Min sammanfattade känsla efter att ha gjort lite egen research så säger jag att det inte är en AI, trots att jag skulle vilja att det var en äkta AI.

Visa signatur

Gigabyte RTX 3070 | Samsung 980 | AMD 5950x
32GB 3600MHz CL14 | Corsair RM850X | ASUS ROG CROSSHAIR VIII DARK HERO
Skärm: Acer 27" ConceptD CP3271KP IPS 4K HDR 144 hz

Skriv gärna ett svar om ditt problem löste sig.

Permalänk
Medlem
Skrivet av Sineira:

Komplett trams.
Den gör inget processande/"tänkade" förutom när den får en fråga.

Nu vet ju varken du eller jag hur dom har programmerat sitt neurala nätverk. Dom kan lika gärna skrivit en algoritm som konstant processar och korrigerar exempelvis nätverkets egna vikter även utan direkt intryck utifrån.

Oavsett anser jag att det är en bristande analys att avfärda en AIs intelligens eller potentiella medvetande baserat på om den processerar nånting internt utan konstanta intryck.

Med det sagt så tror jag inte att den här AI:en är självmedveten ändå.

Permalänk
Medlem
Skrivet av thom.g:

Hur kan man då anta det? Det blir djupt... Och vi hanterar inte direkt kännande varelser(ex.vis fiskar) i världen i övrigt som något särskilt värdefullt så egentligen kan man fråga sig varför vi skulle göra det med något såhär osäkert?

Det beror troligtvis på gamla levnadsvanor där vi dödade kännande varelser för att stilla vår hunger och satte helt enkelt nivån på att människor kommer först och andra raser är att betrakta som lägre stående varelser och brydde oss inte hur vi behandlade dom i hela kedjan från hav till produkt.

Sen så är det lite skillnad mellan olika kulturer. I Sverige så käkar vi t.ex. inte hund men jag har för mig att det var en vanlig rätt i Kina och Syd Korea. Det är så fort våra känslor aktiveras som vi tittar närmare på konsekvenserna utav våra handlingar.

Jag tror att människan kommer att fortsätta med att försöka skapa en avbild utav sig själv. I första hand som billigare arbetskraft men utvecklingen kommer att gå vidare så att skapelsen lär sig själv och kan åtgärda fel på sig själv(dock intressant först när riktig självläkning kommer igång).

Och då kommer någon tycka synd om skapelsen och då kommer troligtvis frågan upp på bordet gällande vilka rättigheter skapelsen har och vilka skyldigheter vi har gentemot skapelsen.

Men först lär vi behöva hitta vilka kriterier som måste uppfyllas innan något är att betraktas som en kännande varelse.

Visa signatur

Grundregel för felsökning: Bryt och begränsa.

Permalänk
Medlem
Skrivet av Alpha77:

spontant så känns den med känslor bättre.

Om den blir rädd? Vad kan konsekvenserna bli utav dess rädsla?

Visa signatur

Grundregel för felsökning: Bryt och begränsa.

Permalänk
Medlem
Skrivet av anon334363:

Känslor uppstår från intryck, inte handlingar eller nödvändigtvis tankar.

Känslor är ett komplext område. Håller inte helt med dig här.

Citat Wikipedia: Känsla är ett brett begrepp på en upplevelse som ofta upplevs som positiv eller negativ. Tidigare har man trott att känslor är genetiskt betingade och reaktioner på exempelvis saker i omgivningen. Idag har man nyanserat detta perspektiv och ser att omgivningen kan väcka kroppsliga reaktioner och att dessa tolkas som känslor. Dock kan dessa tolkningar inkludera mycket mer än kroppens tillstånd, exempelvis mål, beteenden, tankemönster, ansiktsuttryck eller förhoppningar. Detta gör känslor till komplexa psykologiska konstrukt.

I det här fallet, så är det den så kallade AI:ns 'tankar' om att inte existera mer som utlöser en upplevd rädsla. Läs även om Generaliserat ångestsyndrom.

Handlingar (Psychology Today) kan också utlösa känslor.