Framtiden och mänskligheten

Inte läst hela tråden men tycker att ämnet är intressant. Vill tillägga att animeserien Ghost In The Shell med de två filmerna och Stand Alone Complex 1 och 2 visar ett mycket intressant framtidsscenario där vi människor förbättrar ich utvecklar oss själv med implantat och proteser i olika former. Sjukdomar är inte längre hotet utan datorvirus och hackers som tar sig in i din kropp och ditt medvetande.

Har ni minsta lilla intresse för anime/manga så kan jag varmt rekommendera serien. Den är otroligt djup och genomtänkt.

http://en.wikipedia.org/wiki/Computational_Neuroscience

Funktionen hos delar av hjärnans funktion har blivit replikerad med hjälp av sådanna modeller. Det finns de som fungerar nog bra för att användas i praktiken i exempelvis analys av ljud.

Naturligtvis finns det en antagligen en övre gräns för hur små man kan få kretsar pga atomstorlek osv, men den som idag beräknats är såpass absurt hög att den inte är relevant för hurvida en super-ai kommer eller inte. (Jag kan kolla upp vad denna gräns är i Kurzweils bok när jag kommer hem om någon vill)

Precis som Random_person skriver så är det inte rimligt att anta att en AI nödvändigtvis skulle ta på sig egenskaper som vi har.
AI är ju inte mer än sökande bland möjliga handlingar och därefter beslut efter för vad det optimala är efter förbestämda värderingsmetoder.

Har vi inte gett AIn driften efter makt eller liknande så kommer det inte vara rationellt för denna AI att "ta över".

Fast mänsklig intelligens är inte det som definitionsmässigt eftersträvas med AI. Tvärt om; mänsklig intelligens finns redan så det torde vara praktiskt döfött att skapa sådan (annat än för någon form av filosofisk tillfredsställelse). Bra AI är säkert helt annorlunda än mänsklig intelligens.

Sedan undrar jag vad du menar med att den råa datorkraften är tillräcklig men ändå skulle det inte vara tillräckligt? En vanlig missuppfattning om hjärnan är ju att den skulle göra på "något annat sätt" än rå beräkningsprestanda. Men så är det naturligtvis inte. Bara för att vi inte är medvetna om hela hjärnans processer betyder det inte att vi tar genvägar i vårt tänkande. Tvärt om, vi är inte medvetna om de flesta processerna eftersom de är tämligen icke-intressanta och bara är "rå beräkning". Så när schackmästaren knäcker superdatorn (eller vice versa) så är det ömsesidig beräkningsprestanda som används.

Intelligensforskningen har vidare faktiskt kommit en bit och vi förstår rudimentära nervnät, vilket naturligtvis inte är tillräckligt för helhetsförståelsen. Men det handlar om ren "brute force" även här. Neurala nätverks simuleras ju visst och kan "programmeras". Dels har vi den enkla rena tillämpningen, ANN, Artificiella Neurala Nätverk, som är en stark förenkling av verkliga nervnät och som kan användas till en del intressanta saker. Dels har vi ju den rena grundforskningen där man simulerar mer komplexa subset av nervnät. Här har man kommit en bit, t.ex. håller man på att simulera neokortikala kolumner.

AI har inte kommit speciellt långt, men det beror inte så mycket på brist på teori som brist på datorkraft och att det egentligen nog är rätt enkelt. Hesslow skriver (http://www.mphy.lu.se/avd/nf/hesslow/) t.ex att frågan om medvetande kanske går samma öde till mötes som frågan om "vitalismen" som utmålades som ett verkligt vetenskapligt och naturfilosofiskt problem för mindre än hundra år sedan.

Edit: Jag kanske gav det felaktiga intrycket om att medvetande och intelligens är triviala ting. Så är det naturligtvis inte. Inte heller kan rå datorkraft i sig leda till intelligens om man inte också har finurlig programmering. Saken är bara den att våra hjärnor också har rå datorkraft och finurlig programmering. Båda behövs, men har vi både (där är vi inte än) är tekniken av mindre vikt (neuroner, chip, hydralik [om man vill!], etc).

MBY - Jag tror att Pellias försöker säga att snabb beräkningskraft inte är det enda som krävs för att skapa AI. Många anser att den enda anledningen till att vi inte har supermänsklig AI är för att vi inte har tillräckligt kraftiga datorer, men det stämmer ju givetvis inte. Hastigheten är i princip enbart nödvändig för att hitta mer praktiska applikationer (samt att snabba upp testandet), hade vi kunnat simulera motsv. mänsklig intelligens även om vi så bara hade 1/1000 av beräkningskapaciteten som krävs så hade man säkert försökt att göra det.

Trådskaparen talar om AI:n som "tänker mycket snabbare och mera effektivt än människor" och att dessa skulle bidra till denna "singularity" år 2045 som är "punkten där kurvan för våra framsteg skjuter rakt upp". Uppenbarligen måste då dessa AI:n vara mer avancerade/bättre än mänsklig intelligens i att generera teknologiska och medicinska framsteg.

Det är detta jag finner helt orimligt att uppnå på 38 år. Oavsett om vi då enligt Moores lag (som denne Kurtzveil verkar ha hakat upp sig på) har en super-duper-mega-snabb Intel Core-14 med 832 kärnor. För som du säger själv, vi _förstår_ "rudimentära nervnät" idag, så sannolikt är de neurala nätverk vi idag kan _programmera_ än mer rudimentära...

Precis. Thanks.

Vad menar du med programmera neurala nätverk?
En av styrkorna med neurala nätverk är ju att de kan få sin funktion genom olika former av "träning" och egentligen inte någon förståelse av skaparen för hur funktionen ska uppstå.

Du borde kika lite på projektet Blue Brain (som antagligen var det MBY syftade på tidigare), här är från deras sida:

Jag tycker inte att du gör projekt som dessa rättvisa när du beskriver dem som "rudimentära nervnät".

De dessutom kommit längre än så nu:
http://www.corticalcolumn.com/2007/11/14/ibms-blue-brain-proj...

Har vi nog förståelse för råtthjärnan och hur de fåtal gener relevanta för hjärnutvecklingen som skilljer oss från råttor så borde man kunna extrapolera dessa effekter (inte rakt av naturligtvis) och då få ett intellekt som står över vårt. (Nu behöver det här inte vara den metod som används, men det verkar vara en möjlig)
Hjärnans struktur och således funktion är ju trots allt en emergent egenskap av regler som i jämförelse till hela hjärnan är "simpla" (det måste ju nödvändigtvis vara så då antalet gener i vårt genom innehåller en bråkdel av den information som krävs för att beskriva alla våra neuroner och synapser)

Jag vill inte få det att låta lättare än vad det är, men jag kan inte se varför 2045 vore orimligt mål.

Med programmera menade jag i första hand helt enkelt att simulera nätverket på hårdvaran. Hårdvaran kommer ju i sin uppbyggnad antagligen att skilja sig från en biologisk hjärna så som det ser ut idag med datorutvecklingen. Dvs en superdator bearbetar inte data på samma sätt som ett neuralt nätverk gör.

Nu är jag inte påläst men det där låter oerhört förenklat, och icke troligt. Jo, det finns såklart en komponent av "självträning/programmering" i en biologisk intelligens, men ta tex specifika gener och deras (sannolika) betydelse för särskilda intellektuella funktioner. Jämför tex en person som har universitetstalang för matematik med en som kräver stödundervisning i skolan (men som ändå inte klarar multiplikationstabellen eller räkna en enkel ekvation) - det måste ju vara något annat än bristande träning som avgör skillnaden i dessa hjärnors kapacitet för förståelse av matematik?

(jag förstår att du inte med träning menar inlärning i ett socialt sammanhang, utan i designprocessen av ett neuralt nätverk, och mitt exempel var kanske inte särskilt bra överhuvudtaget, men jag kan inte låta bli att haka upp mig på specifika geners betydelse för olika intellektuella funktioner. Kanske mystifierar jag intelligens för mycket, men jag har svårt att tro att denna typ av gener bara skulle ha som funktion att tex stänga av eller på specifika "underavdelningar" i det neuronala nätverket)

"Rudimentära nervnät" var citerat från MBY, och jag bara antog att det var en lämplig beskrivning. Men jag ska kika på det här Blue Brain projektet.

Hehe, hoppas sweclockers finns kvar om 38 år och att vi hänger här då fortfarande.

Ja, men så länge både hjärnan och datorn man använder för simulationen är turingkompletta (vilket jag skulle påstå att hjärnan måste vara) så går det ju att överbrygga denna skillnad med mjukvara.
Då är de enda problemen kapacitet.

Absolut, jag påstår inte att man med något sorts universiellt generellt artificiellt neuralt nätverk kan träna fram alla de egenskaper man kan tänka sig.
Men när det gäller just att återskapa biologiska hjärnors funktion så är nätverket av de artificiella neuronerna ordnade på ett sätt som liknar ordningen av biologiska neuroner i den fysiska hjärnan.
Det här är vad Blue Brain håller på med, en form av reverse engineering.

Vid sådanna simuleringar krävs ingen medveten design/programmering för att den simulerade hjärnan ska lära sig saker såsom matematik eller liknande, det skulle ske på samma sätt som vi lär oss.
Våra gener är inte "designade" för att producera en hjärna med just förmåga att lära sig matematik, det är en egenskap av den plasticitet som vårt neurala nätverk har. Samma plasticitet för att få en mångfalld av funktioner skulle en simulation i stil med den blue brain håller på med nu men för hela hjärnan.

Även artificiella neurala nätverk där "neuronerna" har en väldigt simplistisk och avskalad likhet med de biologiska neuronerna och där strukturen av dessa inte heller har någon egentlig likhet uppvisar varierande grad av plasticitet.
Jag tror själv att det är sådan artificiell intelligens som kommer att revolutionera hur vi lever.
Vår hjärnas utveckling har varit begränsade av att den hela tiden måste varit strukturerat på ett sätt som tillåter blodtillförsel, utrymmet, och neuronerna har utöver den funktion de har för vårt beteende även varit tvungen att sköta metabolism och andra (i simulationer) onödiga funktioner.
Men misslyckas den "rena AIn" där man bygger intelligensen från grunden så ser jag ändå inte varför inte replikationen av vår hjärnas funktion skulle misslyckas. Konceptet har ju trots allt visats möjligt i typ blue brain.

Utmärkt video måste jag säga. Det behövs mer intresse för framtiden, och då är TED ett utmärkt exempel på en organisation som verkligen skapar inspiration, både bland forskare och amatörer.

Jag funderar på hur man ska få AI:n att kunna ha olika humhör, aldså alla olika horomoner som påverkar oss, som delvis driver oss att göra olika saker,
lära sig själv vad den själv anser som rätt och fel
Vad ska motivera intelleigensen att hälpa oss med beräkningar?

Ska man belöna den, med godis ska man då måste ge den den smak sinne och respektive glädjehormoner?

ska vi övertala den om att vara död är hemskt och hota att dra ut sladden ur utaget så den dör, ifall den inte gör som vi säger,

Men för att vara rädd för att dö så måste den ha ett ego, och vilja vara, vara och avundsjuka, måste ha drömmar framtidstro, girighet, osv osv
som en mäniska dvs!

Att vara medveten om sin existens räcker ju inte enbart för att man ska vara rädd för att dö, Man måste ju vilja existera också, för att vilja existera så måste man ha motivationer,

men hur ska en dumm mäniska kunna motivera ett smart ai att slava för den?

Om man vill ha nån slags kontroll över ett AI så måste man se till att den inte kan tänka helt fritt, men då är det inte längre ett ai?

Om man nu vill ha mänsklig (eller annan biologisk) intelligens, som du antyder med hormoner, så räcker det med att man simulerar funktionen för hormonerna.
Dvs att de simulerade hormonerna påverkar och påverkas av de simulerade neuronerna på samma sätt som det sker i den hjärna vars funktion man försöker återskapa.

Om man vill, men djurförsök har antytt att det finns betydligt mycket mer kraftfulla metoder att styra oss däggdjur på. Mer invasiva metoder med antingen elektroder eller utsöndring av neurotrasmitorer.

Måste vi göra något liknande för dig och andra människor? Jag ser inte problemet.

Om vi återskapar funktionen av en människohjärna och den växer upp under liknande stimuli som en människa så kommer den att vara en människa... funktionellt.

Bygger vi den hyffsat från grunden kan vi bygga den så att den verkligen är driven efter att göra som vi vill/gynna oss.
Nu äter du när du är hungrig, du blir förälskad, du vill gå och lägga dig när du blir trött... etc. Det beror inte på att du funderat ut att det nog är bäst att du gör så, utan är ett resultat av hur din hjärna är strukturerad. Samma sak skulle gälla en rätt designad AI.

Jodå, självklart.
bokus.se har den.
Men jag vet inte om jag tycker att den är så bra, Kurzweil är lite tokig. Mycket av hans resonemang är helt enkelt rent nonsens.
Det är ju dock en lite annorlunda bok, men ska du läsa någon populärvetenskap (om man nu kan kalla detta för det) så tycker jag att det finns mer värda böcker.

Som vanligt tycker jag många överskattar utvecklingen, syftar på den trådskaparen pratar om. Nå detta med att robotar skall ta över världen tycker jag är mycket intressant. (bra story för filmer)
För att göra riktigt intelligenta robotar så krävs det otroligt mycket datorkraft under lång tid, eller mindre datorkraft under otroligt lång tid. Lösningen på problemet är genetisk programmering/algoritmer och jag anser inte att en robot utan detta är vidare smart utan bara följer sitt program.

Man kan alltså göra en schackdator som typ inte vet något (inte ens hur pjäserna får gå), men det finns hinder så den inte kan bryta mot schackreglerna. Genom att tillåta schackdatorn själv ändra lite på koden och testa, och ha skydda sin pjäser(speciellt kungen), slå ut fiendens som definierat mål, så kommer datorn bli allt bättre på schack med tiden.
Först lär sig datorn hur pjäserna får gå genom trial och error, men sedan lista ut vilka drag som var dumma och vilka som var smarta. Datorn kan också lära sig att det ibland kan vara lönsamt att offra pjäser.
Har man då oändligt med datorkraft så kommer datorn gå mot att bli oändligt bra på schack. Schackdatorn kommer dock aldrig fundera på att erövra världen.
Finns mer att läsa om genetisk programmering här: http://en.wikipedia.org/wiki/Genetic_programming
Så den enorma datorkraften behövs för att bygga programmet på vettig tid, sedan kräver såklart programmet lite datorkraft den med. Det intelligenta livet på jorden har skapas med otroligt många generationer, varvid datorkraften går åt att efterlikna detta på en praktisk kort tid. (inte roligt att vänta några tusen år)

Här finns det en film på en som visar en nybörjarguide till att skapa sina egna intelligenta program: http://www.youtube.com/watch?v=gyaJYQZmwPo
http://www.youtube.com/watch?v=vhY482SEVNc&feature=related (del 2, otroligt intressant, enligt mig)
Nå när robotarna blir så intelligenta så de börjar sätta sina egna mål, ja då kan det bli farligt. Inget som vi under våran livstid behöver fundera på, krävs att programmeraren tillåter detta. För som sagt en genetisk programmerad schackdator med vinna parti som mål, kan bara bli otroligt bra på "schack"(och det som hör det till).

Allt som känslor etc, kan den en dator med egna definierade mål skapa själv. Dock krävs det att det finns någon bra instinkt från början, men om man ser till de första liven på jorden så var deras instinkter rätt primitiva och de utvecklade allt fler intressen på egen hand.

Sedan tycker jag våra människohjärnor är intressanta, då de kan utföra så mycket med så lite resurser. Hjärnan sållar bort onödig information och gör problemet enkelt, t.ex. vår motorik bygger på uppskattade värden och så mycket återkoppling. Vår hjärna behöver då inte beräkna avancerade kinematiska problem. Likaså vår reflex som vi inte riktigt kan styra(till fördel att vi reagerar otroligt fort), kommer det ett farligt hot så skall vi kasta oss undan. (utan att först fundera på om vi står vid en bergskant eller en stege. hehe)

*edit*
Genetisk programmering handlar inte om att bevisa evolutionen, däremot används den ibland till att förklara hur evolutionen har gått till. Problemet med vanlig programmering är att det krävs att programmeraren tänker på nästan allt och så fort ett nytt problem kommer, som kan vara hur litet som helst, så kan roboten/programmet köra fast.

Jadå, http://www.adlibris.com/se/product.aspx?isbn=0143037889
Tyvärr finns den inte på svenska. Det är en tegelsten. Utmärkt att börja med om man inte kan någonting om ämnet, själv fann jag att stora delar var närmast självklara (och kanske inte särskilt väl förklarade) vilket gjorde den lite småtråkig att läsa ibland. Men den är väl inte allt för dyr eller allt för dålig. Läs om du har tid.

zwelegacy, du har fullständigt fastnat i tankegången "mer intelligent än människa == människa + extra intelligens". En superintelligent AI behöver inte alls bygga på en människa (även om vi antagligen lär göra en del intressanta AIs med system delvis kopierade från människans). Det finns ingen poäng med att försöka kontrollera AIn med hjälp av helt externa stimuli, när allt vi behöver göra är att ändra på AIn själv.

Anledningen till att vi ger godis till barn och låter dem titta på film och liknande för att de ska göra som vi säger är för att det är enklare än att ge dem elektrochocker till rätt delar av hjärnan... Det problemet har vi givetvis inte när det är vi som skapar AIn. Där kan vi injicera kod precis där vi vill ha den.

Däremot lär det antagligen finnas ett antal högnivåspråk för att kunna kommunicera med datorn.

Hårdvaran är det lägsta språket. Efter det kommer programmeringen av ett ordentligt backbone som står för kopplingen mellan olika hårdvarudelar (exempelvis om man vill göra en simulation av något liknande en neuron). Här finns även grundläggande axiom för hur "tänkandet" ska fungera.

För att få någon nytta av systemet så antar jag att man lägger till någon form av bibliotek/"plugins", skrivna på en relativt hög nivå. Biblioteken kan såklart styras av ännu högre språk vid behov.

Hårdvaran är väl det enda som "löser sig självt" när vi får tillräckligt med cpu-kraft, men vi människor kan definitivt påverka förloppet genom att effektivisera. "Backbonet" är den absolut svåraste biten, då det är extremt komplex programmering. Bibliotek/plugin är nog den lättaste biten. Ett bibliotek kan exempelvis vara drivrutiner för att kunna koppla in temperaturavläsare och liknande (om sådant inte redan finns inbyggt i backbonet). Vilken programmerare som helst (med lite kunskap) bör kunna klara av att skriva enklare drivrutiner.

Den näst svåraste biten kommer nog bli att styra AIn på ett ordentligt sätt. Hur gör man så att en ickeprogrammerare kan ge AIn en order som är mer avancerad än det mest komplexa en programmerare kan skapa idag?

(bör nämnas att jag mest svamlar här (uppdelningen lär förändras allt eftersom ny teknik kommer, jag försöker ju bara extrapolera från dagens teknik, vilket antagligen inte alls kommer att stämma med morgondagens teknik), men helt borta tror jag inte att jag är när jag påstår att en super-AI inte kommer att styras med hjälp av ett enda språk).

Elgot, jo, jag har hört en del av Jeff Hawkins och hans företag Numenta, han har gjort en del klart intressanta presentationer.

Det han pratar om skulle fungera utmärkt som "backbonet" jag nämnde tidigare. Att det inte är dagens sätt att programmera som kommer att användas är självklart, det är en av anledningarna till att det är så pass svårt att göra en superintelligens. Databashanteringen är definitivt en av de svåraste nötarna att knäcka.

Det kanske bör sägas, dock, att denne Kurzweil, är minst sagt kontroversiell och hans hypotes lätt ter sig en smula fånig om man bara förstår hur en logaritmisk kurva ser ut; du kan rita den enkelt så att man får intrycket av en period av långsam utveckling som sedan går rasande fort. Det handlar om skala, helt enkelt. Att "mäta" civilisationsnivå är ej heller trivialt och alla mått har ett stort inslag av godtycke vare sig det handlar om artefakträknande eller energikonsumtion. Jag tror inte att vi vare sig når någon sorts "singularitet" (med tveksam definition) eller "omegapunkt". Därmed inte sagt på något sätt att utvecklingen inte kommer nå dramatiska nya insikter eller att man inte ska bejaka vår fantastiska utveckling. AI t.ex. förutsätter ingen "singularitet" på något sätt, ej heller mänsklig exploatering av universum. Vi kommer förhoppningsvis att nå båda dessa, men vi kommer inte vända oss mot historien och peka på en punkt och säga "här, här hände det".

Jag måste nog säga att jag inte alls håller med dig där.
Vår intelligens involverar ingen genetisk programmering eller något som liknar detta.
Det närmaste vi kan hitta genetisk programering i oss är delar av vårt immunförsvar. Knappast någon förståelse involverad där.

Vidare så tycker jag att du gör felsteget att anta att intelligens inte kan ske mekaniskt (bara följer sitt program).
Du får gärna utveckla det lite.
Har du läst den klassiska artikeln "Computing machinery and intelligence" av Alan Turing?
http://www.loebner.net/Prizef/TuringArticle.html

Säker på att du inte felaktigt översatt checkers (dam) till schack?
Vad jag sett så har de försök att få datorer att spela schack mha genetisk programmering inte varit speciellt lyckade.
De framstående programmen som finns idag för schackspelande är ju främst beroende av hierarkiskt sökande.

Inte nödvändigtvis. Det finns andra sätt att skapa program som inte kräver en full förståelse för hur problemet ska tacklas, artificiella neurala nätverk är det jag kommer på på en gång.

Jag skrev vidare smart, då syftade jag på att roboten måste lära sig något för att jag skall kalla den smart. Sedan visst finns det andra tekniker än genetisk programmerade. Jag själv har kodat industrirobotar som styrs av mitt visionsystem, vilket vissa kan kalla smarta, jag anser de dock vara dumma som satan och bara följer mitt program. De lär sig heller inte något av sina misstag. I.o.f.s. gör jag inte heller det, men det är lite offtopic.

Nepp men sett en hel del intelligenta robotar IRL, både genetisk programmerade och vanliga. På en av mina f.d. skolor så hade en person gjort en genetisk program till saab eller volvo för att beräkna något med avgaserna. När man pratar om intelligenta robotar så finns det självklart ingen klar definition. Det finns t.o.m. ingen självklar definition på vad som är en robot. T.ex. Manipulating industrial robot as defined in ISO 8373. An automatically controlled, reprogrammable, multipurpose, manipulator programmable in three or more axes..

Jag har inte översatt något alls utan tog ett exempel på måfå. Jag pratade heller inte om vad genetisk programmering kan åstadkomma idag utan vad det skulle kunna åstadkomma. Att göra en genetisk programmerad schackdator ställer till med en massa utmaningar, där jag förenklade problematiken rejält. Att det inte är omöjligt att göra en intelligent dator via evolution utgick jag från att vi på något sätt har blivit smarta. Att det finns personer som just har experimenterat lite på just schack går att googla sig fram: http://www.google.com/search?hl=sv&rlz=1G1GGLQ_SVSE271&q=Gene...
Att de inte har kommit vidare långt är väl knappast något förvånande, om de idag hade kunnat göra en schackdator som från 0 går mot att bli i världsklass, ja då hade vi varit otroligt långt framme inom att skapa riktiga intelligenta självlärda robotar.

Såklart det finns andra tekniker. Men jag syftade just på vanlig programmering. T.ex. min industrirobot som kan identifiera objekt deras placering, rotation, storlek etc. är dum som satan. Det räcker att den blir placerad i ett ljusare ställe för att den skall börja bete sig fel, nu kunde jag iofs haft en ljussensor för detta enkla problem.

Om vi skall prata om robotar som skall ta över världen, vilket just var det som jag syftade på. Så krävs det lite mer än mina industrirobotar, men är neurala nätverk något vidare stort problem? Alltså när de blir tillräckligt komplexa, pratar självklart inte idag eller under min livstid. Datorerna/robotarna skall alltså löpa amok och utveckla sig på egen hand till något helt annat än vad de ursprungligen konstruerades för.(terminator, battle galactica etc) Det handlar dock om definition, då man kan säga att våra vapen delvis har evolutionerat sig fram i krig. Då just ändra lite, testa delar/inspiration från andra vapen även fiendens och testa dem och tillslut få något riktigt bra. Det är med att blanda olika teknologier är vad jag tror på.
Och jag som lekman/svensson, påstår att det mesta i vårat samhälle har evolutionerat sig till att bli bättre. (cykel, bil tv ect) http://upload.wikimedia.org/wikipedia/commons/thumb/a/a8/Bicy... Som tur är har tillverkarna av våra cyklar ej gjort dem fertila ännu. Fast jag har mina konspirationsterorier, då jag har sett att dam och herrcykel som ofta är tillsammans kan resultera i en ny barncykel..
Visst mycket "rent tänkande" har gjorts vid utveckling av bl.a. cykel, men att testa olika modifikationer, sno andras idéer och vidareutveckla resulterar i en snabbare utveckling än att enbart sitta och grubbla för sig själv.

*tillägg*

Jag tror inte vi kan vara så säkra på detta, alltså utgå från detta. Dock inte sagt att de måste ta över eller något sådant.
Nu beror det på vad du menar med "eller liknande". Självklart förutsätter jag en dator som redan är intelligent(inte dagens) och den helt på egen hand hittar nya lösningar på problem. Som t.ex. skulle kunna lära sig schack helt på egen hand och bli riktigt bra på det. Dessutom behövs egen reproduktionsförmåga(fabrik) och lite bättre precision i mekanik än vad som finns i dag.
Men detta är som sagt inget vi behöver fundera på under vår livstid, då utvecklingen knappast inte lär ta ett sådant jättekliv. (man kan dock aldrig exakt förutspå framtiden)

Jag läser den nyare boken THE SINGULARITY av Ray Kurzweil atm och den är riktigt jävla cool den boken. Jag har även köpt 'The coming era of nano technology' och 'natural-born cyborgs' .

Jag ÄLSKAR detta ämnet och tror definitvit att dagen kommer då i stort sett alla har nanorobotar i hjärnan som kan skapa se/hör upplevelser så verkliga som i the matrix. Det är bara en fråga om tid

Super-AI är svårt att säga om det kommer eller ej.. Men med tanke på att tekniken alltid går fram så fort så kommer förmodligen dagen då datorer kan skapas så effektivt att dom kan tänka bättre än en människa kan i alla scenarion. Redan idag har ju datorer använts för att hitta bättre sätt att skapa jetmotorer eller robotprototyper etc. Om 20 år kanske all design sker genom datorer. Om datorer kan designa sig själva då kommer det gå så otroligt fort (pga. dom kommer kunna tänka miljoner ggr snabbare än oss) för dom att bli Extremt effektiva att det nästan är skrämmande att tänka på det. Saker som vi människor ser som omöjligt att lösa idag kommer bli barnsligt lätt för dessa maskiner menar Ray Kurzweil.
Coolt!

Martin Rees TED tal, han har också skrivit en bok om ämnet: Our final hour.

Ligger begränsningen för att skapa AI verkligen i våra kretsar? Handlar det inte mer om att vi inte kan skriva koden?

Att programmera riktig AI, det verkar ganska saftigt.

Det är både och som jag förstår det. dels behöver man tillräckligt med datorberäkningar per sekund och dels behöver man smart mjukvara.
vi behöver bara lyckas göra ain tillräckligt smart för att den ska klara av att skriva bättre mjukvara åt sigsjälv sen kommer vi fatta noll inom kort=)

Jag tycker alla borde läsa The Machine Stops av E.M. Forster. Den handlar om en mänsklighet som blivit så till den grad beroende av sina maskiner att den inte längre klarar sig utan dem. Förvånansvärt träffsäker för att vara skriven för exakt 100 år sen.