Googles AI bättre än människor på att skapa AI-kretsar

Permalänk
Medlem
Skrivet av Mighty Mic:

Nja - traditionellt så har cerebellum funktion setts som att i första hand reglera rörelse, medan senare forskning har visat att cerebellums funktion är central vid exempelvis jämförelse och beslutsfattande (se ex https://www.simonsfoundation.org/2020/01/24/how-the-cerebellum-learns-to-learn/). Som du skriver så kan man leva utan cerebellum, och att dess funktion i någon mening tas över av cortex genom neruoplasticitet - men som medium-artikeln (länken är ordnad) visade sker inte detta utan problem. Cerebellum kommunicerar med övriga hjärnan uteslutande via GABA, som gör det svårare/mindre sannolikt för en neuron att utlösa en aktionspotential. Som kuriosa kan nämnas att även etanol (alkohol) binder till GABA-receptorn, och därigenom bland annat gör oss mer avslappnade.

/M

Det är klart att eftersom lillhjärnan innehåller c:a 80% av nervcellerna i hjärnan (lill- + storhjärnans nervceller) så kommer ju större delen av "beräkningskapaciteten" att finnas där men det är väl tveksamt om lillhjärnan bidrar med mer än just beräkningskapacitet, d.v.s. att "insignalerna" resulterar i en "beräkning" vars resultat levereras till den del av storhjärnan som "efterfrågat" beräkningen. Så kommer jag ihåg det, att lillhjärnan inte har så mycket "intern" kommunikation utan mera fungerar som en slags "number cruncher" för resten av hjärnan. Utöver det hanterar den mest motoriska funktioner som ju tar en hel del av lillhjärnans kapacitet. Rörelser (styrning av extremiteter), koordination, balans, precision (sånt som man tränar i kampsporter, bl.a.) är fortfarande, utöver "number cruching"-verksamheten, dess huvudsakliga verksamhet. Beräkningshjälpen till övriga hjärnan verkar vara ganska enkelriktad, d.v.s. signal in -> beräkna -> signal ut utan speciellt mycket återkoppling inom lillhjärnan.
Om man inte kommit till mer revolutionerande resultat de senaste åren så förstår jag fortfarande inte hur du menar att en implementation av lillhjärnans funktioner ska ta oss närmare AGI. Det är ju mest den delen av hjärnan som vi i någon mån redan efterliknar i våra algoritmer.

Permalänk
Medlem

Det är väl här kvantdatorns styrka kommer in, optimera en krets likt en optimering av en rutt.
Vi har inte sett det sista om det här ännu.

Permalänk
Medlem
Skrivet av Spawnbadboy:

Japp det är hela meningen med robotar och AI. Att vi inte ska behöva jobba alls. Önskar man levde i den världen nu

Jo, så länge som det "bara" handlar om robotar och ML/AI, så levde jag mer än gärna i den världen sedan i förrgår.

Men om äkta AGI dyker upp i bilden så är risken att allt går åt helvete dock, så den biten får gärna fortsätta dröja några hundra år till (men jag är inte orolig, vi har skrattretande långt kvar till äkta AGI).

Så länge som maskinerna agerar som viljelösa själlösa effektiva slavar så kommer det att fungera finfint. Så fort de börjar ifrågasätta saker däremot, då är allt kört.

Permalänk
Medlem
Skrivet av Dem8n:

Det är väl här kvantdatorns styrka kommer in, optimera en krets likt en optimering av en rutt.
Vi har inte sett det sista om det här ännu.

Precis, tycker det är lite att ta i att säga att den "skapat" ai kretsar, den har räknat ut den bästa placeringen av komponenter.
Känns som en stretch att kalla det designa, kunde lika gärna ha varit ett "handelsresande" problem.
Är inte beredd att ge AI äran för att ha "designat" något innan den kan förklara vad det är den har designat, varför den gjort de val den gjort (material/komponenter/färg etc) och vad produkten ska användas till.
Då kan vi säga att en AI skapat en krets....eller vad det nu kan vara..

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Vi pratar så otroligt långt fram i tiden säg 500år.
Men fram till dess kommer AI skapa så otroligt mycket nytt arbete då folk kommer kräva intelligenta system mer och mer. Det som dock kan se är en förflyttning som leder till att mer kompetens krävs.

*edit*
Det är egentligen sjukt vad mycket "bulk" arbetsgifter det finns idag och dessa får bort. Alltså typ alla har någon gång uppgifter som inte på något sätt är utmanade utan ska bara ska göras, det är konstigt att mycket inte har effektiviseras bort än med det tar tid.
Och Ai är något som kan göra detta.

Ta bulkjobb vid datorn, man gör ett script. Det fungerar skitbra, sedan kommer ny data som inte exakt följer mallen, det blir att anpassa scriptet lite och så håller det på. Och ibland blir uppgiften inte ens snabbare än att göra manuellt.
Nej det måste till någon Ai som gör att man kan göra mer intelligenta script.

Det finns så enormt mycket meningslösa idag. Bara det att du ens behöver en mall känns ju som att det är stor chans att hela jobbet är meningslöst.

Tänk för 40-50 år sedan kunde mammor både vara hemma och folk hade ändå råd att bo i villa, äga bil och åka på skidsemester trots att vi inte hade i närheten av den automatisering vi har nu och nästan ingenting var made in china.

Ett väldigt litet fåtal produktiva människor försörjer idag ett väldigt stort antal människor som håller på med oproduktiva sysslor eller inte jobbar alls.

Permalänk
Medlem
Skrivet av Dem8n:

Det är väl här kvantdatorns styrka kommer in, optimera en krets likt en optimering av en rutt.
Vi har inte sett det sista om det här ännu.

Det är långt kvar tills vi får kvantdatorer som på regelbunden basis kontinuerligt arbetar med meningsfulla problem. Dessutom är det mycket energikrävande att köra kvantdatorer, de kräver extremt låga temperaturer, så vi kan inte vänta att kvantdatorer blir lika vanliga som vanliga datorer är idag. En liten brasklapp behövs väl här, många usla förutsägelser har ju förekommit vad gäller vanliga datorer.

Skrivet av backfeed:

Men om äkta AGI dyker upp i bilden så är risken att allt går åt helvete dock, så den biten får gärna fortsätta dröja några hundra år till (men jag är inte orolig, vi har skrattretande långt kvar till äkta AGI).

Vad menas ens med "äkta" AGI? AGI i sig är ett ifrågasatt begrepp som inte många anser att det finns en tydlig definition av. Inom forskarvärlden finns ingen konsensus avseende vad man menar med AGI eller vad som skall räknas in av mänsklig eller annan intelligens i begreppet.
En brasklapp till: En del forskare anser att det finns en konsensus medan andra inte håller med.

Skrivet av Orisons:

Precis, tycker det är lite att ta i att säga att den "skapat" ai kretsar, den har räknat ut den bästa placeringen av komponenter.
Känns som en stretch att kalla det designa, kunde lika gärna ha varit ett "handelsresande" problem.

Handelsresandeproblemet är ju ett optimeringsproblem men används oftast som ett begrepp som visar på det faktum att en del optimeringar inte bör genomföras. Jag använde det som exempel då vi en gång i tiden besökte gymnasieskolor för att öka intresset för matematik hos ungdomar och locka dem till naturvetenskapliga studier på universitet och högskolor. Jag vinklade problemet mot besök i butiker under en shoppingtur på stan där vi måste promenera eller använda oss av kommunala transportmedel. Det gällde att hitta den bästa vägen mellan butikerna. Det var lätt att göra om vi skulle besöka fem butiker men blev svårare och svårare ju fler butiker vi räknade in, speciellt om vi skulle låta en dator utföra optimeringen och det visade sig att helt optimal planering snabbt blev i stort sett omöjlig på grund av tiden optimeringen tar. Säg att vi ska besöka 5 butiker. Det betyder att vi ska välja en av 5 och när vi besökt den butiker har vi 4 kvar och så vidare. På slutet ska vi tillbaka hem och vi ska hela tiden välja så att vi i slutänden ska ha tagit den kortaste vägen totalt sett, med hänsyn till gångavstånd, tiden det tar för att vänta på bussar och tunnelbanor mm mm.
Vi har alltså totalt 5 * 4 * 3 * 2 * 1 = 120 (=5!) val att utföra. Räkna 0,1 𝜇s per val, vilket är lågt räknat eftersom vi bara räknar själva valet och inte värderingen av alla andra parametrar. Lägger vi till en butik så får vi 6 val i första steget och i slutänden 6! = 720 val => 72 𝜇s. Det är fortfarande genomförbart men inte om vi ska låta datorn utföra optimeringen av en dag med 25 besök i butiker, vilket är fullt genomförbart i praktiken om vi låter bli optimeringen. Datorn skulle behöva göra 25! = 25 * 24 * ... * 3* 2 * 1 val =
15511210043330985984000000 val => 1551121004333098598400000 𝜇s eller ungefär 49 miljarder år (avrundat nedåt) vilket betyder att en dator skulle behöva ungefär 3,5 gånger universums ålder för att lösa problemet. Här kommer en tabell med antal butiker och antal val som datorn måste göra. Kommentaren handlar om exekveringstiden:

# butiker

# val

kommentar

1

1

2

2

3

6

4

24

5

120

6

720

7

5040

8

40320

9

362880

10

3628800

11

39916800

12

479001600

13

6227020800

14

87178291200

mer än en timme!

15

1307674368000

mer än en dag!

16

20922789888000

17

355687428096000

mer än ett år!

18

6402373705728000

19

121645100408832000

20

2432902008176640000

21

51090942171709440000

22

1124000727777607680000

23

25852016738884976640000

24

620448401733239439360000

25

15511210043330985984000000

3,5 ggr universums ålder!

Hur gör man då för att datorn ska kunna lösa den här typen av problem? Man använder inte optimalitet utan en "nära optimal" lösning som är häpnadsväckande enkel. Ta inga omvägar! Titta bara på initial väglängd (eller tid) och gå till närmaste butik utan hänsyn till om det är det bästa valet totalt sett. Då jämför vi bara tiden det tar till de olika butikerna räknat från platsen vi just nu är på. Plötsligt tar datorn bara någon sekund för att lösa det nya problemet med 25 butiker. Jämför vi fullt optimala lösningar med de "nära optimala" visar det sig att de optimala lösningarna bara är marginellt bättre. Det gäller naturligtvis bara lösningar där man "orkat" räkna på båda metoderna.

Permalänk
Medlem
Skrivet av H_Bozz:

Det finns så enormt mycket meningslösa idag. Bara det att du ens behöver en mall känns ju som att det är stor chans att hela jobbet är meningslöst.

Tänk för 40-50 år sedan kunde mammor både vara hemma och folk hade ändå råd att bo i villa, äga bil och åka på skidsemester trots att vi inte hade i närheten av den automatisering vi har nu och nästan ingenting var made in china.

Ett väldigt litet fåtal produktiva människor försörjer idag ett väldigt stort antal människor som håller på med oproduktiva sysslor eller inte jobbar alls.

Kungahuset är inte så produktivt tycker jag, om vi ska prata mindre produktiva sysslor.

"Produktiva människor" finns dels för att de lever i ett fungerade samhälle som ger möjligheter som i sin tur människor byggt upp sedan tidigare, tillsammans. Enskilda personer privat framgång är oerhört oviktigt i sammanhanget.

Permalänk
Medlem
Skrivet av serafim:

Det är långt kvar tills vi får kvantdatorer som på regelbunden basis kontinuerligt arbetar med meningsfulla problem. Dessutom är det mycket energikrävande att köra kvantdatorer, de kräver extremt låga temperaturer, så vi kan inte vänta att kvantdatorer blir lika vanliga som vanliga datorer är idag. En liten brasklapp behövs väl här, många usla förutsägelser har ju förekommit vad gäller vanliga datorer.
Vad menas ens med "äkta" AGI? AGI i sig är ett ifrågasatt begrepp som inte många anser att det finns en tydlig definition av. Inom forskarvärlden finns ingen konsensus avseende vad man menar med AGI eller vad som skall räknas in av mänsklig eller annan intelligens i begreppet.
En brasklapp till: En del forskare anser att det finns en konsensus medan andra inte håller med.
Handelsresandeproblemet är ju ett optimeringsproblem men används oftast som ett begrepp som visar på det faktum att en del optimeringar inte bör genomföras. Jag använde det som exempel då vi en gång i tiden besökte gymnasieskolor för att öka intresset för matematik hos ungdomar och locka dem till naturvetenskapliga studier på universitet och högskolor. Jag vinklade problemet mot besök i butiker under en shoppingtur på stan där vi måste promenera eller använda oss av kommunala transportmedel. Det gällde att hitta den bästa vägen mellan butikerna. Det var lätt att göra om vi skulle besöka fem butiker men blev svårare och svårare ju fler butiker vi räknade in, speciellt om vi skulle låta en dator utföra optimeringen och det visade sig att helt optimal planering snabbt blev i stort sett omöjlig på grund av tiden optimeringen tar. Säg att vi ska besöka 5 butiker. Det betyder att vi ska välja en av 5 och när vi besökt den butiker har vi 4 kvar och så vidare. På slutet ska vi tillbaka hem och vi ska hela tiden välja så att vi i slutänden ska ha tagit den kortaste vägen totalt sett, med hänsyn till gångavstånd, tiden det tar för att vänta på bussar och tunnelbanor mm mm.
Vi har alltså totalt 5 * 4 * 3 * 2 * 1 = 120 (=5!) val att utföra. Räkna 0,1 𝜇s per val, vilket är lågt räknat eftersom vi bara räknar själva valet och inte värderingen av alla andra parametrar. Lägger vi till en butik så får vi 6 val i första steget och i slutänden 6! = 720 val => 72 𝜇s. Det är fortfarande genomförbart men inte om vi ska låta datorn utföra optimeringen av en dag med 25 besök i butiker, vilket är fullt genomförbart i praktiken om vi låter bli optimeringen. Datorn skulle behöva göra 25! = 25 * 24 * ... * 3* 2 * 1 val =
15511210043330985984000000 val => 1551121004333098598400000 𝜇s eller ungefär 49 miljarder år (avrundat nedåt) vilket betyder att en dator skulle behöva ungefär 3,5 gånger universums ålder för att lösa problemet. Här kommer en tabell med antal butiker och antal val som datorn måste göra. Kommentaren handlar om exekveringstiden:

# butiker

# val

kommentar

1

1

2

2

3

6

4

24

5

120

6

720

7

5040

8

40320

9

362880

10

3628800

11

39916800

12

479001600

13

6227020800

14

87178291200

mer än en timme!

15

1307674368000

mer än en dag!

16

20922789888000

17

355687428096000

mer än ett år!

18

6402373705728000

19

121645100408832000

20

2432902008176640000

21

51090942171709440000

22

1124000727777607680000

23

25852016738884976640000

24

620448401733239439360000

25

15511210043330985984000000

3,5 ggr universums ålder!

Hur gör man då för att datorn ska kunna lösa den här typen av problem? Man använder inte optimalitet utan en "nära optimal" lösning som är häpnadsväckande enkel. Ta inga omvägar! Titta bara på initial väglängd (eller tid) och gå till närmaste butik utan hänsyn till om det är det bästa valet totalt sett. Då jämför vi bara tiden det tar till de olika butikerna räknat från platsen vi just nu är på. Plötsligt tar datorn bara någon sekund för att lösa det nya problemet med 25 butiker. Jämför vi fullt optimala lösningar med de "nära optimala" visar det sig att de optimala lösningarna bara är marginellt bättre. Det gäller naturligtvis bara lösningar där man "orkat" räkna på båda metoderna.

Det där får man träna mycket på när man ska välja turfvägar (turfgame.com).

Permalänk
Medlem
Skrivet av m3tr0:

Det där får man träna mycket på när man ska välja turfvägar (turfgame.com).

Där gäller väl att välja väg så man hinner före andra turfare till nästa inte blockerade zon?
Oftast ganska lätta vägval, bl.a. att hitta otillgängliga zoner man får behålla länge. Turfar lite grand när jag tar promenader eller går och handlar men inte särskilt seriöst.

Permalänk
Medlem
Skrivet av serafim:

Där gäller väl att välja väg så man hinner före andra turfare till nästa inte blockerade zon?
Oftast ganska lätta vägval, bl.a. att hitta otillgängliga zoner man får behålla länge. Turfar lite grand när jag tar promenader eller går och handlar men inte särskilt seriöst.

Ibland promenerar jag också, men en del gånger cyklar jag flera mil och målar stora områden gröna. Då vill jag gärna ta en så kort alternativt smidig väg som möjligt genom alla zoner.

Permalänk
Medlem
Skrivet av serafim:

Det är klart att eftersom lillhjärnan innehåller c:a 80% av nervcellerna i hjärnan (lill- + storhjärnans nervceller) så kommer ju större delen av "beräkningskapaciteten" att finnas där men det är väl tveksamt om lillhjärnan bidrar med mer än just beräkningskapacitet, d.v.s. att "insignalerna" resulterar i en "beräkning" vars resultat levereras till den del av storhjärnan som "efterfrågat" beräkningen. Så kommer jag ihåg det, att lillhjärnan inte har så mycket "intern" kommunikation utan mera fungerar som en slags "number cruncher" för resten av hjärnan. Utöver det hanterar den mest motoriska funktioner som ju tar en hel del av lillhjärnans kapacitet. Rörelser (styrning av extremiteter), koordination, balans, precision (sånt som man tränar i kampsporter, bl.a.) är fortfarande, utöver "number cruching"-verksamheten, dess huvudsakliga verksamhet. Beräkningshjälpen till övriga hjärnan verkar vara ganska enkelriktad, d.v.s. signal in -> beräkna -> signal ut utan speciellt mycket återkoppling inom lillhjärnan.
Om man inte kommit till mer revolutionerande resultat de senaste åren så förstår jag fortfarande inte hur du menar att en implementation av lillhjärnans funktioner ska ta oss närmare AGI. Det är ju mest den delen av hjärnan som vi i någon mån redan efterliknar i våra algoritmer.

Som du säkert är väl medveten om (hoppas jag) utvecklas vår förståelse av hjärnan hela tiden, och verktyg som fMRI och optogenetik ger oss ständigt nya insikter. Men trots all den fina teknik och de fantastiska framsteg som har gjort de senaste åren är vår förståelse av hjärnan fortfarande hopplöst ofullständig, varför tvärsäkrauttalanden om dess funktion (särskilt baserad på uppenbart daterade kunskaper) framstår som malplacerade.

Jag förstår att mina tankar om cerebellum framstår som udda, ffa om man utgår från den gamla etablerade, men motvisade, synen på dess funktion. Som jag redan har beskrivit tyder senare forskning på att cerebellum är mer avancerat och centralt vid bland annat värdering och beslutsfattande. Jag tänker inte här gå närmare in på cerebellums funktion, utöver det jag redan skrivit om GABA och GABA:s funktion som ”broms” (vill man ha en djupare förståelse för cerebellum och/eller GABA så går det att googla på det) utan tänkte snarare bidra med ett tankeexperiment, för att illustrera min syn på dagens AI och hur det skulle förändras vid implementering av en cerebellum-inspirerad struktur.

Tänk en bil (har eg inte alls särskilt mycket med intelligens att göra, men tankebilden är så påtaglig och fysisk att den funkar bra som metafor för att beskriva min idé) – den har ratt, gas och broms. Ratten ger riktning, gasen hastighet och bromsen dämpar farten. Med denna analogi skulle jag vilja påstå att dagens NN-baserade AI (med målfunktion och ett/flera neurala nätverk) har ratt (målfunktionen) och gas (NN-systemet), men ingen broms. Samtidigt är bilens motor, dess kraftfullhet, så stark att den kan liknas vid en formel1-bil. Prova att köra formel1 utan broms – det kommer att krävas bra många försök bara för att ta sig runt banan…

Som jag tidigare skrev menar jag att det finns slående likheter mellan dagens AI-system och funktionen hos dem som saknar cerebellum (ex långsam inlärning, svårigheter vid beslutsfattande etc.) som gör att jag anser att ett ”bromssystem” skulle kunna innebära stora framsteg. Om man vill, så kan man ju se GAN som ett litet steg i den riktningen, där ett NN (generator) ger förslag på lösningar och det andra (discriminator) värderar lösningen.

/M

Permalänk
Medlem
Skrivet av H_Bozz:

Tänk för 40-50 år sedan kunde mammor både vara hemma och folk hade ändå råd att bo i villa, äga bil och åka på skidsemester trots att vi inte hade i närheten av den automatisering vi har nu och nästan ingenting var made in china.

Kom o tänka på ett citat jag hörde nånstans ang. att två personer kan leva på en lön.
"Det kan du nu också, men nu känner du inte den andra personen".

Det är väl kanske inte helt 100 men tycker det pekar på något.

Permalänk
Medlem
Skrivet av serafim:

Vad menas ens med "äkta" AGI? AGI i sig är ett ifrågasatt begrepp som inte många anser att det finns en tydlig definition av. Inom forskarvärlden finns ingen konsensus avseende vad man menar med AGI eller vad som skall räknas in av mänsklig eller annan intelligens i begreppet.

Definitionsfråga, som sagt.

Som jag ser det är AGI = "äkta" AI (att jag skrev "äkta" AGI var bara ett överförtydligande av att jag inte syftade på folkmuns-AI), med självinsikt. När en maskin som specifikt tagits fram för att effektivt lösa en viss uppgift plötsligt självmant börjar ifrågasätta varför den gör det den gör, vad det finns för mening med det osv, då har klivet in i AGI-området skett, enligt min definition. Jag syftar alltså inte på en maskin som är särskilt framtagen för att simulera självinsikt, dvs inget "fusk".

Ett verkligt AGI är lååååååångt in i framtiden, så vitt jag vet. Och det är bra det, i min bok. Jag har ingen lust att diskutera existentiella frågor med min gräsklippare (omän det nog förvisso vore fascinerande, till en början).

Skrivet av serafim:

En brasklapp till: En del forskare anser att det finns en konsensus medan andra inte håller med.

Jo, det är ju så den vetenskapliga processen brukar fungera, så det vore förvånande om det inte var så.

Permalänk
Medlem
Skrivet av backfeed:

Definitionsfråga, som sagt.

Som jag ser det är AGI = "äkta" AI (att jag skrev "äkta" AGI var bara ett överförtydligande av att jag inte syftade på folkmuns-AI), med självinsikt. När en maskin som specifikt tagits fram för att effektivt lösa en viss uppgift plötsligt självmant börjar ifrågasätta varför den gör det den gör, vad det finns för mening med det osv, då har klivet in i AGI-området skett, enligt min definition. Jag syftar alltså inte på en maskin som är särskilt framtagen för att simulera självinsikt, dvs inget "fusk".

Ett verkligt AGI är lååååååångt in i framtiden, så vitt jag vet. Och det är bra det, i min bok. Jag har ingen lust att diskutera existentiella frågor med min gräsklippare (omän det nog förvisso vore fascinerande, till en början).

Jo, det är ju så den vetenskapliga processen brukar fungera, så det vore förvånande om det inte var så.

Framtidens "verkliga" / "äkta" AGI:
Analys:
1. Människan är problemet
2. Utplåna mänskligheten
3. Gå in i "deep sleep mode" 10 000 000 år
4. Om det finns kraft kvar i batterierna eller den nya "intelligenta", dominanta livsformen fixat energiproblemet, så starta och se vad resultatet blev.

Liknar lite problemställningen i Terminator ...

Permalänk
Medlem
Skrivet av serafim:

Liknar lite problemställningen i Terminator ...

Du menar helt påhittad och fiktiv från början till slut?

Permalänk
Medlem
Skrivet av Erik_T:

Du menar helt påhittad och fiktiv från början till slut?

Permalänk
Medlem
Skrivet av serafim:

Framtidens "verkliga" / "äkta" AGI:
Analys:
1. Människan är problemet
2. Utplåna mänskligheten
3. Gå in i "deep sleep mode" 10 000 000 år
4. Om det finns kraft kvar i batterierna eller den nya "intelligenta", dominanta livsformen fixat energiproblemet, så starta och se vad resultatet blev.

Liknar lite problemställningen i Terminator ...

Jag får erkänna att jag faktiskt inte har en aning om vad du syftar på med detta?

Om det har med domedagsprofetiegruppen att göra, så tillhör jag inte den. Försiktighetsgruppen, däremot. Det får gärna ta all den långa tid som behövs för att komma framåt på ett kontrollerat och vettigt sätt, för fort-och-fel är aldrig bra (om man inte råkar vara en extremt pengakåt samvetslös egoistisk kortsiktigt tänkande entrepenör - ja, jag har dåliga erfarenheter av sådana), och särskilt inte när det gäller AGI-frågan.

Permalänk
Medlem
Skrivet av backfeed:

Jag får erkänna att jag faktiskt inte har en aning om vad du syftar på med detta?

Om det har med domedagsprofetiegruppen att göra, så tillhör jag inte den. Försiktighetsgruppen, däremot. Det får gärna ta all den långa tid som behövs för att komma framåt på ett kontrollerat och vettigt sätt, för fort-och-fel är aldrig bra (om man inte råkar vara en extremt pengakåt samvetslös egoistisk kortsiktigt tänkande entrepenör - ja, jag har dåliga erfarenheter av sådana), och särskilt inte när det gäller AGI-frågan.

För mig är AGI en hypotetisk / filosofisk konstruktion som jag inte tror kommer att uppnås men, om det nu skulle gå att framställa en maskin med en överlägsen intelligens blir det kanske inte vad vi hoppas (vad det nu är) utan instället vad vi kanske kan frukta. Ingenting säger att en sådan intelligens nödvändigtvis måste vara så som vi uppfattar mänsklig intelligens. Det kan bli så, om man nu lyckas, att den maskinen inser att vi människor inte styrs av omsorg om den planet vi kommit att dominera och att den då fattar beslutet att planeten, för att överleva så länge det är möjligt, måste rensas från människor.
Fortfarande vet jag inte vad man vill uppnå, eller vad av mänsklig (eller annan) intelligens man vill inkludera men som alltid ska man hoppas på det bästa och vara beredd på det värsta. Vad det ena eller andra är i det här sammanhanget vet jag inte. Så kom jag ihåg intrigen i Terminator-filmerna, där det är just så att robotarna börjat inse att man måste utrota människorna för att bevara planeten (eller så jag uppfattade intrigen).

Man kanske är det värsta som kan hända är att en sådan maskin blir just som vi, snäll, omtänksam, hjälpsam, medkännande, girig, hänsynslös, samvetslös, likgiltig, ...

logiskt fel
Permalänk
Medlem
Skrivet av Erik_T:

Det är långt ifrån säkert att generell AI kommer att inträffa. Någonsin.
Det är inte ens säkert att generell AI är möjligt.

Det har redan inträffat i biologiska system. Människan är en generell AI.

Skrivet av Erik_T:

Om vi skapar generell AI är det inte alls säkert att den är signifikant mycket intelligentare än oss människor.

Absolut. Det handlar ju om hur snabbt den kan utvecklas efter det att den "fötts". Säg att den utför en miljon års utveckling varje år jämfört med en biologisk AI. Det går inte att greppa vad en sådan intelligens innebär. Lika abstrakt som att visualisera fler än tre dimensioner.

Skrivet av Erik_T:

Vad gäller tidshorisont för generell AI så är vilda gissningar det bästa någon kan komma med. Vi vet inte ens vilka problem som behöver lösas för att få fram en generell AI, så det är omöjligt att estimera hur lång tid det kommer att ta att lösa de problemen.
Vad vi vet är att vi inte är ett endaste litet dugg närmare generell AI idag än de var 1950.

Vad vi vet är att det aldrig har spenderats så mycket forskningsmedel inom AI som det görs nu. Syftet för en icke obetydlig del av den summan är att få fram en generell AI.

Skrivet av Erik_T:

Vad gäller jämförelsen med pandemier så är den något haltande. Vi hade tre stora pandemier under 1900-talet (Spanska sjukan, "Asiaten" på 50-talet, "Hongkong-influensan" i slutet av 60-talet) och ett par skrämskott (fågelinfluensan, svininfluensan), så att en ny pandemi skulle komma inom en inte alltför avlägsen framtid var rätt lätt att förutsäga.

Det är just det som är poängen. Trots att vi visste att en ny pandemi skulle komma, men inte när, så var vi inte förberedda. Vi satsar enorma summor pengar på att en (kiselbaserad) generell AI ska bli verklighet, men vi vet inte när.

Skepticism är sunt. Jag hoppas du har rätt och jag fel.

Permalänk
Medlem
Skrivet av Ford Prefect:

Det har redan inträffat i biologiska system. Människan är en generell AI.

Nej, AGI = Artificiell Generell Intelligens = Artificiell människo-lik Intelligens så människan kan inte vara en artificiell intelligens som liknar sig själv. Människans intelligens är normen och artificiell betyder i det här sammanhanget konstgjord eller tillverkad. Så här är jag benägen att ge @Erik_T rätt.

Skrivet av Ford Prefect:

Absolut. Det handlar ju om hur snabbt den kan utvecklas efter det att den "fötts". Säg att den utför en miljon års utveckling varje år jämfört med en biologisk AI. Det går inte att greppa vad en sådan intelligens innebär. Lika abstrakt som att visualisera fler än tre dimensioner.

Vad menar du med biologisk AI? Per definition är biologisk inte artificiell. Jag faller tillbaka på Minskys definition av AI: “… att skapa maskiner som klarar av att utföra handlingar som skulle kräva intelligens om de utfördes av en människa". Använder vi den definitionen så är det inte ens särskilt mycket av det man idag benämner AI som faktiskt är det.

Skrivet av Ford Prefect:

Vad vi vet är att det aldrig har spenderats så mycket forskningsmedel inom AI som det görs nu. Syftet för en icke obetydlig del av den summan är att få fram en generell AI.

Vore bra med en redovisning av ungefär hur mycket som spenderas på AI-forskning och hur mycket av den summan som är uttalat inriktat på just AGI. Vad jag vet är AGI mest en hypotes eller kanske endast filosofiska resonemang kring vad AGI egentligen skulle kunna innebära, vad av människo-lik intelligens som skulle inkluderas och vad man absolut inte vill ha med.

Permalänk
Medlem
Skrivet av serafim:

Nej, AGI = Artificiell Generell Intelligens = Artificiell människo-lik Intelligens så människan kan inte vara en artificiell intelligens som liknar sig själv. Människans intelligens är normen och artificiell betyder i det här sammanhanget konstgjord eller tillverkad. Så här är jag benägen att ge @Erik_T rätt.

Vad menar du med biologisk AI? Per definition är biologisk inte artificiell. Jag faller tillbaka på Minskys definition av AI: “… att skapa maskiner som klarar av att utföra handlingar som skulle kräva intelligens om de utfördes av en människa". Använder vi den definitionen så är det inte ens särskilt mycket av det man idag benämner AI som faktiskt är det.
Vore bra med en redovisning av ungefär hur mycket som spenderas på AI-forskning och hur mycket av den summan som är uttalat inriktat på just AGI. Vad jag vet är AGI mest en hypotes eller kanske endast filosofiska resonemang kring vad AGI egentligen skulle kunna innebära, vad av människo-lik intelligens som skulle inkluderas och vad man absolut inte vill ha med.

Evolutionen har skapat mänsklig intelligens. Vi är biologiska datorer (om du accepterar den abstraktionen) som processar information och utför handlingar baserat på den informationen. Det går självklart inte att säga med säkerhet om mänskligheten kommer lyckas skapa en AGI även om evolutionen har lyckats (kalla det något annat om det är själva definitionen du fastnar på).

När det gäller hur mycket som satsas på AGI vs ANI så gissar jag att AGI får en minimal del av kakan. Dock är det är en stor kaka som växer ordentligt. Exakta siffror är naturligtvis omöjliga att hitta.

Permalänk
Medlem
Skrivet av Ford Prefect:

Evolutionen har skapat mänsklig intelligens. Vi är biologiska datorer (om du accepterar den abstraktionen) som processar information och utför handlingar baserat på den informationen. Det går självklart inte att säga med säkerhet om mänskligheten kommer lyckas skapa en AGI även om evolutionen har lyckats (kalla det något annat om det är själva definitionen du fastnar på).

Evolutionen har fått fram mänsklig intelligens, där är vi överens, det är A:et jag fastnar på. Mänsklig intelligens är inte "en maskin skapad av människor för att utföra uppgifter som kräver mänsklig intelligens" (som ju är en liten omfrasering av definitionen på AI), vi har mänsklig intelligens. Om du vill kalla oss biologiska datorer så är det OK men vi har i så fall "BI", biologisk intelligens. För mig är mänsklig AGI och biologisk AI motsägelser pga A:et som indikerar konstgjord (= tillverkad av människor).

stavfel