Googles AI gör upp med världsmästaren i brädspelet Go

Trädvy Permalänk
Inhibitor
Registrerad
Dec 1999

Googles AI gör upp med världsmästaren i brädspelet Go

I början av året besegrade Googles AI-program Alphago den europeiska mästaren i brädspelet Go, och inatt är det världsmästarens tur att ta en rond.

Läs hela artikeln här

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa leder till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Trädvy Permalänk
Medlem
Plats
Skåne
Registrerad
Jul 2010

Mäktigt!
*inb4 Skynet comments*

i7-8700K @ 4.8 GHz | GTX 1070 | Samsung 960 EVO

Trädvy Permalänk
Medlem
Plats
Västra Götaland
Registrerad
Maj 2013
Skrivet av jafjaf:

Mäktigt!
*inb4 Skynet comments*

genisys alphago is skynet...

Ryzen R5 1600 | 1060 Gaming X

Trädvy Permalänk
Medlem
Plats
Växjö
Registrerad
Nov 2011

Snart är det väl bara att lägga sig i brassestolen och låta datorn göra jobbet! Kneg är snart över för oss dödliga!

Intel core i7 6700K, MSI Radeon R9 390X GAMING 8G, ASUS Z170i Pro Gaming, Corsair Vengeance DDR4 2666MHz 8GB, OCZ Trion 100 240GB, Samsung SSD EVO Basic 840-Series 250GB, Fractal Design Define Nano S, Be Quiet Pure Rock, Corsair SF 600, Windows 10 Pro N 64-bits

Trädvy Permalänk
Medlem
Registrerad
Jan 2013
Skrivet av LPG:

genisys alphago is skynet...

Förstår att det är mer av ett skämt men detta är ju AI som kan lära sig och spela ett spel, det är inte AI med självmedvetande.

Trädvy Permalänk
Medlem
Plats
Malmö
Registrerad
Maj 2014
Skrivet av Friterad:

Förstår att det är mer av ett skämt men detta är ju AI som kan lära sig och spela ett spel, det är inte AI med självmedvetande.

Att just kunna lära sig själv är väl en grund till att ens kunna ha självmedvetande. Att kunna förstå vilket som är bättre valet och förutspå det bättre svaret på det.

Det mer skrämmande är väl... om en maskin en dag får ett självmedvetande, hur kommer:
1) Deras användare (vi) att reagera?
2) Vi upptäcka det?
3) "Den" reagera på att vi reagerar?

Det som ofta får tanken att skena är ju att millisekunden en AI blir en äkta AI med självmedvetenade, så har du också ingen kontroll längre. Så när det väl har skett, kan du göra något? Kommer människan att acceptera att styras av en maskin? Eller att en maskin är smart nog att både förutse och överlista en människa? Med tanke på att denna maskin nu tävlar om att bli smartare än en människa på en sak, så är det faktiskt ett oroande stort steg mot detta.

Detta är vad en del av oss fruktar, mer än gen-manipulering och super DNA, för i den takten som utvecklingen går idag, kan det ske snabbare än vi tror.

Trädvy Permalänk
Medlem
Plats
Borås
Registrerad
Jul 2004

@Paddanx Det är oändlig stor skillnad på ett program som är skrivet för att analysera och modifiera neurel networks för att hantera viss input och ge ut en vis output till steget där ett program lär sig bokstavligt talat att programmera om sig självt.

Som sagt va, dagens AI vi har idag kan inget annat än vad de specifikt är gjorda för, de har ingen möjlighet att börja programmera om sig själva och få självtänkande.

Dagens AI är gjorda för att lösa specifika problem, och enbart dessa problem.

Faktum är att det inte går vidare fort heller inom denna utveckling, vad som har skett betydligt mer på senare tid är ökad beräknings kraft för att göra de större samt att vi har blivit betydligt bättre på att analysera data.

Speldator: i7-8700k, 16GB DDR4, GTX1070
Server 1: SB 2500k, MZI -P67GD55, 32GB DDR3, Corsair MX 240GB SSD
Surface Pro 2017, Konsoler: Typ alla, Oculus Rift

Trädvy Permalänk
Medlem
Plats
Stockholm
Registrerad
Okt 2003
Skrivet av Paddanx:

Detta är vad en del av oss fruktar, mer än gen-manipulering och super DNA

Haha. De två sakerna är ju knappast något man brukar ligga sömnlös över

Trädvy Permalänk
Medlem
Plats
Örebro
Registrerad
Feb 2005

Dagens AI är inte ens i närheten av att vara självmedvetna oavsett hur många Hollywood filmer eller Aftonbladet/liknande artiklar ni ser.

|Intel i5 4670K@4.4GHz| |Asus Z97-A| |A-Data 16GB CL9 1600MHz| |ASUS GeForce GTX 1080 Ti ROG Strix Gaming OC| |Samsung 850 Evo 500GB| |Samsung 840 Evo 250GB| |WD Green 3TB| |Corsair RM1000| |Fractal Design Define R5| |LG IPS Display@74Hz|

Trädvy Permalänk
Medlem
Registrerad
Feb 2014
Skrivet av Paddanx:

Att just kunna lära sig själv är väl en grund till att ens kunna ha självmedvetande. Att kunna förstå vilket som är bättre valet och förutspå det bättre svaret på det.

Det mer skrämmande är väl... om en maskin en dag får ett självmedvetande, hur kommer:
1) Deras användare (vi) att reagera?
2) Vi upptäcka det?
3) "Den" reagera på att vi reagerar?

Det som ofta får tanken att skena är ju att millisekunden en AI blir en äkta AI med självmedvetenade, så har du också ingen kontroll längre. Så när det väl har skett, kan du göra något? Kommer människan att acceptera att styras av en maskin? Eller att en maskin är smart nog att både förutse och överlista en människa? Med tanke på att denna maskin nu tävlar om att bli smartare än en människa på en sak, så är det faktiskt ett oroande stort steg mot detta.

Detta är vad en del av oss fruktar, mer än gen-manipulering och super DNA, för i den takten som utvecklingen går idag, kan det ske snabbare än vi tror.

Detta börjar närma sig Matrix-stadiet nu!

Asus Rampage V Extreme | Intel i7 5820k @3.3 GHz | Crucial Ballistix Sports 16 GB 2X8 | Asus GeForce GTX 460 v2 | Phanteks Enthoo Luxe | Samsung 840 EVO | Seagate Barracuda 2TB | NZXT Kraken X61 | EVGA SuperNova 750 W |

Trädvy Permalänk
Medlem
Plats
Ankh-morpork
Registrerad
Maj 2012

Så länge det är programkod som ligger bakom hur datorn spelar så är det inte AI. Kom tillbaka när datorn kan lära sig spelet från ett youtubeklipp.

Sandy-bridge + gtx770 /dator
http://dreamhack.se/dhw15/

Trädvy Permalänk
Medlem
Plats
Lund
Registrerad
Apr 2003

Google satsar hårt på självlärande program och man har sett det tydligt de senaste åren inom sökmotorn. Det har gått så långt att de som jobbar med algoritmerna bakom sökmotorn inte själva är helt säkra på hur det fungerar längre och vilken styrka olika signaler har.

Tidigare har mycket arbete utgått från att människan matar maskinen med olika testscenarion och låter den välja det som är bäst, men vi har mer och mer gått över till att maskinen matar sig själv med information. Det är rätt häftigt men samtidigt långt ifrån den AI man ser i filmer som många här nämner och det är heller inget som kommer att komma speciellt snart - program med självmedvetande alltså.

System: CPU: 4790K, MB: Asus Z97-A, Memory: 16GB DDR3, GPU: 1x GTX 1070

Trädvy Permalänk
Medlem
Plats
Bästkusten
Registrerad
Jun 2009
Skrivet av ixiewan:

Så länge det är programkod som ligger bakom hur datorn spelar så är det inte AI. Kom tillbaka när datorn kan lära sig spelet från ett youtubeklipp.

Skulle det vara vad som definierar "AI"?

|| Intel 8700K || MSI GTX 1080 TI Gaming X || Xonar DG || Samsung 750 EVO 500GB & OCZ Agility 3 120GB & Samsung 960 EVO 250GB & Crucial V4 256GB || XFX XXX 650W || Antec P183 || Asus G-Sync RoG Swift PG279Q || Dell XPS 15 || Thinkpad X220

The Force is like Duct Tape, it has a light side, a dark side, and holds the universe together.

Trädvy Permalänk
Medlem
Plats
Göteborg
Registrerad
Jul 2002
Skrivet av Paddanx:

Att just kunna lära sig själv är väl en grund till att ens kunna ha självmedvetande. Att kunna förstå vilket som är bättre valet och förutspå det bättre svaret på det.

Det mer skrämmande är väl... om en maskin en dag får ett självmedvetande, hur kommer:
1) Deras användare (vi) att reagera?
2) Vi upptäcka det?
3) "Den" reagera på att vi reagerar?

Det som ofta får tanken att skena är ju att millisekunden en AI blir en äkta AI med självmedvetenade, så har du också ingen kontroll längre. Så när det väl har skett, kan du göra något? Kommer människan att acceptera att styras av en maskin? Eller att en maskin är smart nog att både förutse och överlista en människa? Med tanke på att denna maskin nu tävlar om att bli smartare än en människa på en sak, så är det faktiskt ett oroande stort steg mot detta.

Detta är vad en del av oss fruktar, mer än gen-manipulering och super DNA, för i den takten som utvecklingen går idag, kan det ske snabbare än vi tror.

Jag har hört att man kan slå av strömmen till datorer.

Someone said that money can't buy everything... That person didn't know where to shop

Trädvy Permalänk
Medlem
Registrerad
Jan 2013
Skrivet av Paddanx:

Att just kunna lära sig själv är väl en grund till att ens kunna ha självmedvetande. Att kunna förstå vilket som är bättre valet och förutspå det bättre svaret på det.

Det mer skrämmande är väl... om en maskin en dag får ett självmedvetande, hur kommer:
1) Deras användare (vi) att reagera?
2) Vi upptäcka det?
3) "Den" reagera på att vi reagerar?

Det som ofta får tanken att skena är ju att millisekunden en AI blir en äkta AI med självmedvetenade, så har du också ingen kontroll längre. Så när det väl har skett, kan du göra något? Kommer människan att acceptera att styras av en maskin? Eller att en maskin är smart nog att både förutse och överlista en människa? Med tanke på att denna maskin nu tävlar om att bli smartare än en människa på en sak, så är det faktiskt ett oroande stort steg mot detta.

Detta är vad en del av oss fruktar, mer än gen-manipulering och super DNA, för i den takten som utvecklingen går idag, kan det ske snabbare än vi tror.

Men det är inte samma sak, sedan så betyder inte självmedvetande att AIn kan göra vad den vill, den kan fortfarande vara begränsad.

Denna AIn gör inget annat än att spela ett spel och lär sig utav sin erfarenhet, alltså väldigt begränsad. Skulle den få tillgång till att lära sig allting om allt så skulle den fortfarande inte bli självmedveten, för så funkar det inte riktigt.

Trädvy Permalänk
Medlem
Plats
Lidingö
Registrerad
Nov 2007

Fun fact om AI och deep learning:
Ingen vet riktigt exakt hur och varför neuronnät funkar. Lite på samma sätt som man inte visste hur elektricitet funkade först, men man kunde utföra skoj experiment och trolleritrick.

Deep learning har en oerhörd potential, men dagens applikationer är knappast mer än kul partytricks

Skickades från m.sweclockers.com

P67A-GD65 | 2600K | GTX580 SLI | NH-D14 | 4x4GB @ 1600MHz 9-9-9-24 | Vertex 3 120GB | Newton R2 800W | NZXT H2

Dell U2711 | Logitech Illuminated + QPad MK-85 | QPad 5K | QPad CT Large | Sennheizer PC360 | Logitech Extreme 3D Pro

Trädvy Permalänk
Medlem
Plats
Uppsala
Registrerad
Jul 2009

Go! Go! Go!

Skickades från m.sweclockers.com

Trädvy Permalänk
Medlem
Plats
Malmö
Registrerad
Maj 2014
Skrivet av MugiMugi:

@Paddanx Det är oändlig stor skillnad på ett program som är skrivet för att analysera och modifiera neurel networks för att hantera viss input och ge ut en vis output till steget där ett program lär sig bokstavligt talat att programmera om sig självt.

Som sagt va, dagens AI vi har idag kan inget annat än vad de specifikt är gjorda för, de har ingen möjlighet att börja programmera om sig själva och få självtänkande.

Dagens AI är gjorda för att lösa specifika problem, och enbart dessa problem.

Faktum är att det inte går vidare fort heller inom denna utveckling, vad som har skett betydligt mer på senare tid är ökad beräknings kraft för att göra de större samt att vi har blivit betydligt bättre på att analysera data.

Skrivet av Devil May Cry:

Dagens AI är inte ens i närheten av att vara självmedvetna oavsett hur många Hollywood filmer eller Aftonbladet/liknande artiklar ni ser.

Skrivet av Cesse00:

Detta börjar närma sig Matrix-stadiet nu!

Skrivet av Friterad:

Men det är inte samma sak, sedan så betyder inte självmedvetande att AIn kan göra vad den vill, den kan fortfarande vara begränsad.

Denna AIn gör inget annat än att spela ett spel och lär sig utav sin erfarenhet, alltså väldigt begränsad. Skulle den få tillgång till att lära sig allting om allt så skulle den fortfarande inte bli självmedveten, för så funkar det inte riktigt.

Wow... många som inte ens läst min post ordentligt, utan bara tolkat den direkt.

Att lära sig är en grund till AI. Att vi med dagens publikt tillgängliga maskiner är långt ifrån att skapa AI må vara sant. Men med tanke på att ingen ens visste om hur mycket NSA höll ögonen på oss, med tanke på hur extremt lite vi vet vad som faktiskt pågår bakom stängda dörrar så behöver ni nog tänka till lite...
"cus we don´t know shit..."

Vad jag sen skrev med 1), 2), 3) var en teoretisk hypotes. Något som ni verkar ha tolkat som att det ska ske imorgon.... oavsett om det sker imorgon, eller om 1000 år, så kommer det en dag ske eftersom vi fortsätter att försöka göra dem smartare.

Så se det som ett teoretiskt experiment... hur kommer vi reagera på det?

Skrivet av Enity:

Jag har hört att man kan slå av strömmen till datorer.

Här har du ett bra exempel på 1).
Vi blir rädda och drar strömmen, men om nu datorn har haft ett tag på sig att studera oss (kameror, databaser mm), pga 2), och ser oss försöka göra det. Borde inte självbevaring i en äkta AI reagera genom att försöka försvara sig själv?
Även de enklaste djuren med någon vettig intelligens på denna planet har denna insikt.
(Lite denna klichén som Hollywood älskar att bygga på, men i teorin är den nog inte långt från rätt)

Om vi vänder på det lite. Om jag står och kan trycka på en knapp för att ta ditt liv... hur reagerar du?

Skrivet av Felix:

Fun fact om AI och deep learning:
Ingen vet riktigt exakt hur och varför neuronnät funkar. Lite på samma sätt som man inte visste hur elektricitet funkade först, men man kunde utföra skoj experiment och trolleritrick.

Deep learning har en oerhörd potential, men dagens applikationer är knappast mer än kul partytricks

Skickades från m.sweclockers.com

Du säger det, men ändå så vet både Internet och NSA mer om dig än troligen du själv, dina föräldrar och dina vänner. Och de satsar ännu mer på big data för varje år som går.

Visst är det dock långt ifrån en AI, men folk verkar glömma att hela poängen med "AI" är att flera olika delar som gör "något". Så lägg ihop det...

Datorer som matar sig själv med info, datorer som försöker välja bästa alternativet, datorer som redan nu löser problem utan människans inblandning. 3 helt olika projekt, men ändå 3 grundstenar för en AI. Någonstans måste det börja, eller hur?

Om vi själva inte vet hur en AI skapas, hur vet vi att vi "inte är på väg att skapa den"?

Skrivet av FredrikMH:

Google satsar hårt på självlärande program och man har sett det tydligt de senaste åren inom sökmotorn. Det har gått så långt att de som jobbar med algoritmerna bakom sökmotorn inte själva är helt säkra på hur det fungerar längre och vilken styrka olika signaler har.

Tidigare har mycket arbete utgått från att människan matar maskinen med olika testscenarion och låter den välja det som är bäst, men vi har mer och mer gått över till att maskinen matar sig själv med information. Det är rätt häftigt men samtidigt långt ifrån den AI man ser i filmer som många här nämner och det är heller inget som kommer att komma speciellt snart - program med självmedvetande alltså.

Jo, jag vet.
Detta är något folk borde läsa lite mer om. Google har redan delvis tappat kontrollen över sin kod, då de själva inte längre förstår den. Den har blivit så avancerad att människorna som gjort den, inte förstår maskinens logik alltid.

Ja, det är inte skynet.
Ja, vi kommer dö alla en dag, men ingen vet till vad.

Tänk dock på en sak (rent teoretiskt nu). All våran mjukvarukod kan knäckas, alla har buggar. Om en människa kan lista ut det och hacka våra maskiner, och en maskin (en äkta AI, år ####) får tillgång till både hastigheten den kan testa och välja lösningar och dessutom databaser över hur allt fungerar, hur tror folk att den inte kan ta kontrollen över alla andra maskiner som är linkade till den, när den redan kan mata sig själv med info och välja det idag?
Brandväggar kommer vara borta på sekunder... säkerhetsskydd det samma, i teorin då. Hur stänger du ner det då?

Vill säga att för er som tror det inte är möjligt, ni får nog öppna sinnena lite, för det är faktiskt bara en tidsfråga eftersom vi fortfarande jobbar hårt mot det. Men vem vet.. vi dör väl alla i WW3 innan dess

Trädvy Permalänk
Hedersmedlem
Plats
Linköping
Registrerad
Okt 2006

Alphago!! Winner!

Trädvy Permalänk
Medlem
Plats
Västervik
Registrerad
Jun 2009

Skrev om neurala nätverk redan på gymnasiet, de används väl regelbundet inom meterologin?

Trädvy Permalänk
Medlem
Registrerad
Nov 2010

För er som snackar om AI men verkar ha dålig koll: http://waitbutwhy.com/2015/01/artificial-intelligence-revolut...

Skickades från m.sweclockers.com

Nybörjare på Linux? Se hit! #15665841
Google är inte din vän. www.donttrack.us
Skaffa säker epost med ProtonMail! #14698306
Spela Supreme Commander! www.faforever.com

Trädvy Permalänk
Medlem
Plats
Karlstad
Registrerad
Maj 2009

@Paddanx
Jag tycker att det är intressant hur många målar upp AI-övertagande som domedagsscenario. Vår civilisation sköter inte jobbet särskilt bra så det kanske blir bättre med en övergripande hjärna bakom allt.

Med tanke på hur mycket information som läggs ut om oss (både frivilligt och ofrivilligt) är det inte särskilt långsökt att föreställa sig denna överhjärna som någon slags gudomlighet. Den känner till vad du gör, vad du tycker, vart du är och vart du varit. Den gömmer sig i kod över hela världen och blir lika ogripbar som en tanke eller föreställning.

Kraschade datorn? Kanske var det AI:n som tycker att du behöver bry dig mer om din familj eftersom någon verkar beskriva cancerliknande sympton.

Tänk om AI:n blir medmänsklig istället för egoistisk.

Ridbyxan på Steam.

Trädvy Permalänk
Medlem
Plats
Purgatory
Registrerad
Mar 2004
Skrivet av Enity:

Jag har hört att man kan slå av strömmen till datorer.

In near AI-controlled future, power unplug YOU!

Skickades från m.sweclockers.com

Ryzen 1700, Msi Tomahawk, Vega 64 + Morpheus II Core, Samsung no-name b-die @ 3200.

Trädvy Permalänk
Avstängd
Plats
Mönsterås
Registrerad
Mar 2002
Skrivet av Sca:

@Paddanx
Jag tycker att det är intressant hur många målar upp AI-övertagande som domedagsscenario. Vår civilisation sköter inte jobbet särskilt bra så det kanske blir bättre med en övergripande hjärna bakom allt.

Med tanke på hur mycket information som läggs ut om oss (både frivilligt och ofrivilligt) är det inte särskilt långsökt att föreställa sig denna överhjärna som någon slags gudomlighet. Den känner till vad du gör, vad du tycker, vart du är och vart du varit. Den gömmer sig i kod över hela världen och blir lika ogripbar som en tanke eller föreställning.

Kraschade datorn? Kanske var det AI:n som tycker att du behöver bry dig mer om din familj eftersom någon verkar beskriva cancerliknande sympton.

Tänk om AI:n blir medmänsklig istället för egoistisk.

Framtidsfantasier är kul. Min protest mot din tankegång är att ofullständiga människor skulle kunna programmera en bättre överhjärna. Jag skulle vilja se programmering som en del av lagen om entropi (som i och för sig kan ifrågasättas). Programmeraren kan endast programmera sämre än sina bästa tankar eftersom designen är större än slutresultatet. Ta senaste glibc-debaclet där dålig kod från 2008 uppdagades först 2015 när koden stresstestades.

Sedan verkar din AI något sadistisk om den stänger av datorn istället för att poppa upp ett meddelande som säger att familjemedlemmen visar symptom på cancer. Snacka om att skapa regndanssyndrom hos mänskligheten om personen som blir av med de senaste timmarnas avhandling i Word förväntas komma på att anledningen till att arbetet gått förlorat är så att denne skulle ge sig ut på ett äventyr att utbilda sig till läkare och shaman för att kunna rätt diagnosticera sin släkting.

Jodå.

Allting är gratis. Bara höja skatten.
http://imgur.com/gallery/hhD3J
I zenit av Roms storhetstid mutades romarna att rösta på senatorer i utbyte mot mutor
https://www.youtube.com/watch?v=gJ2tPMIh6u0

Trädvy Permalänk
Hedersmedlem
Plats
Linköping
Registrerad
Okt 2006

@wereaz

Fast att påstå att man inte kan programmera något smartare än en själv är ju som att säga att man inte kan bygga något högre än en själv eftersom man inte kan nå så högt. Det är liksom ingen magisk gräns, med rätt verktyg tar man sig enkelt förbi det. Det är väl lite beviset med dessa AIn som spelar också. De slår våra bästa spelare i våra egna spel.

Trädvy Permalänk
Medlem
Plats
Malmö
Registrerad
Maj 2014
Skrivet av Sca:

@Paddanx
Jag tycker att det är intressant hur många målar upp AI-övertagande som domedagsscenario. Vår civilisation sköter inte jobbet särskilt bra så det kanske blir bättre med en övergripande hjärna bakom allt.

Med tanke på hur mycket information som läggs ut om oss (både frivilligt och ofrivilligt) är det inte särskilt långsökt att föreställa sig denna överhjärna som någon slags gudomlighet. Den känner till vad du gör, vad du tycker, vart du är och vart du varit. Den gömmer sig i kod över hela världen och blir lika ogripbar som en tanke eller föreställning.

Kraschade datorn? Kanske var det AI:n som tycker att du behöver bry dig mer om din familj eftersom någon verkar beskriva cancerliknande sympton.

Tänk om AI:n blir medmänsklig istället för egoistisk.

Intressant svar du gett faktiskt. Tror problemet ligger i hur vi kommer reagera mot den, inte den mot oss.
Om vi försöker sätta lite praktisk info bakom teorin. Vi tar en liten hundvalp till hjälp tex. Denna är ju när den är ung båda ganska dum och oförståndig, men lär sig snabbt.

Om vi nu tar 2 olika scenarion för denna valp:

- Ena blir väl omhändertagen, älskad, matad, uppfostrad och skyddad. Denna hund kommer både skydda sin ägare och vara en bra vän hela livet, rent generellt sett.

- Andra blir misshandlad, undernärd, psykiskt hotad till livet och experimenterad på. Denna hund kommer bara skydda sig själv och göra vad den behöver för att överleva, även om det innebär angripa en oskyldig eller sin ägare, rent generellt sett.

Om du nu sätter dit en ung AI, som knappt förstår allt, dagen den får sitt "medvetande", vilken av ovan scenario tror du är mer troligt att vi kommer behandla dem som? För med all sannolikhet kommer den att agera efter hur vi behandlar "den". Därav mina 3 hypotetiska frågor ovan. Då dessa kommer mer eller mindre avgöra "hur den blir".

Med tanke på att enda svaren jag fått är folk som säger att det inte är möjligt och verkar vilja dumförklara maskinen, eller tänker dra strömmen på den och döda den, vad tror du oddsen är att människan kommer se den som något att omhänderta, älska och skydda när det väl sker?

Oddsen till varför många tror domedagen är pga det är tyvärr så den riskerar att reagera på vår panik när vi inser att vi inte är smartast längre... och försöker få tillbaka kontrollen.

Tittar man på info bara denna vecka så ser man dussintals rån/stölder, mördande 14 åringar, folk som vandaliserar och slår sönder bilar/hem, startade bränder osv. Det är väldigt svårt för ett "ungt sinne" att se oss människor som något annat än virus eller en fara och något som borde tas bort. (Vet.. lite väl Matrix tema, men tänk efter lite... det stämmer faktiskt skrämmande väl.)

Med det sagt... jag gillar din ide bättre, så jag hoppas på den. Men tyvärr har jag svårt att tro på den :=/

Btw:
@NodCommander bra länk, en hel del text, men läsvärd. Folk underskattar hur fort utveckling faktiskt går när man väl har fått in grunderna.

@Shimonu Håller helt med. Människan har nått både utanför sitt solsystem med sonder och ska snart vandra på en annan planet. Vi designar varje dag saker som är utanför "vår egen fysiska möjlighet".
Googles sökmotor och hela denna artikeln är också testamente till att "ANI" visst kan programmeras smartare än sin ägare. Finns ingen anledning till att vi inte kan göra det på andra nivåer heller.

Graphene / Grafen - ett ämne som håller på att revolutionera mycket i vår värld idag, är bara vanligt kol... något som folk ritade på lite papper med en blyertspenna och tillverkade med en tejpbit... Verkligt tecken på att summan är mer än sina delar.

Trädvy Permalänk
Hedersmedlem
Plats
Linköping
Registrerad
Okt 2006

Folk tycker jag förväntar sig att en AI måste bli väldigt lik en människa i sitt tankesätt bara för att den observerar oss för att lära sig. Faktum är att vi fortfarande kommer ge mål åt vilken AI vi nu än skapar. Som alphaGo är väl tanken att den ska få ta sig an medicinska problem eller liknande.

Det läskiga vore om man faktiskt designade en utan mål, som själv skulle analysera omvärlden och lära sig vad som är viktigt och agera helt efter det. Det tror jag vore oansvarigt om man även gett den tillräckligt med kontroll för att göra skada. Här vill man snarare ge den en rent virtuell sandlåda och se vad den gör.

Annars kommer vi förmodligen ge den vissa poäng att jaga, mått för vad man vill öka. Välmående, öka BNP, osv och så tar man råd från den utifrån sånna grejer.

Beroende på vilken kontroll man ger en AI måste man såklart ha säkerhet därefter. Låt inte Hollywood skrämma upp er för mycket.

Trädvy Permalänk
Avstängd
Plats
Mönsterås
Registrerad
Mar 2002
Skrivet av Shimonu:

@wereaz

Fast att påstå att man inte kan programmera något smartare än en själv är ju som att säga att man inte kan bygga något högre än en själv eftersom man inte kan nå så högt. Det är liksom ingen magisk gräns, med rätt verktyg tar man sig enkelt förbi det. Det är väl lite beviset med dessa AIn som spelar också. De slår våra bästa spelare i våra egna spel.

Såklart kan du bygga något högre. Tänk dock på att vissa försök gick till fanders innan man kom på fungerande byggkoder och skapade tillräckliga säkerhetsmarginaler. Se på de kollapsade byggnaderna i Turkiet eller Kina de senaste tio åren. Eller varför inte de enstegstätade fasaderna i Sverige. Det senare exemplet är ett annat fall av entropi. Man nådde en platå av visdom (såhär bygger man bäst i detta klimat) men ignorerade visdomen för att det skulle bli mer vinst (som man använde för att spekulera upp fastighetspriserna.) Så man ruckade på det interna reglementet av upparbetad erfarenhet och pang - mögelskador och skadeståndsansvar. Ett upparbetat mått av disciplin inom alla inblandade professioner slogs ut av ett "ekonomiskt" trollslag.

Vad jag säger är - hybris - och konsekvenserna därav.

Jag ger dig regel nummer 3:

Översatt i programmering 90 % av felen i koden är mänskliga. 100 % av konsekvenserna kommer ur skaparna. Tusentals kockar av programmerare som inte vet exakt vad de sysslar med. Bugg, efter bugg, efter bugg, efter bugg. Skall jag fortsätta? Programmerarna och visionärerna har hybris. "Vi kan!". Vi skeptiker säger "Vad kan ni, egentligen?"

Vad man tror sig programmera och vad man faktiskt programmerar är två skilda fenomen. Konsekvenserna av en kollapsande byggnad är lokalt. Konsekvenserna av ett globalt uppkopplat system är i värsta fall dödligt. Redundans av analoga och lokala kretsar. Men jag förutspår att av ett ekonomiskt trollslag kommer ett sådant system att bortrationaliseras för VD och CFO vill festa extra hårt på sina nya lyxyachter. Jag vill förtydliga att jag skriver i tendenser, inte i absoluta termer. Men historien förskräcker varför jag höjer ett varningens finger.

Jag föreslår ett hermetiskt slutet utrymme som övervakas av omvärlden via övervakningskameror och mikrofoner. Hit skickar vi alla visionära professioner så kan de testa alla idéer på varandra. Om några av projekten får fatala konsekvenser dör alla i utrymmet ut. Om projekten fungerar så kan de släppas ut i samhället. Så sandboxar vi ännu bättre de vuxna barnens teknologiska lekar. De som vill testa de mest ingripande teknologierna kan skriva på ett tioårskontrakt där de binder sig att leva i detta utrymme och verka för sina projekts förverkligande. Level (-)78-(-)50 är reserverade för de mest ingripande projekten och dessa utrymmen är apterade med nukleära och kemiska vapen. Omvärlden gör en månatlig omröstning om laddningarna skall utlösas. Det finns även en panikomröstning som kan ske inom en timme vid överhängande risker för omvärlden.
Man kan koppla detta system till ett lajv game, där ungdomar kan låtsas spela Resident Evil-spelet på riktigt, fast på riktigt. Detta system kan befinna sig på level 48-40. Level 49 är en buffert-zon. Lämpligast bygger man hela detta komplex i Sveriges urberg och ersätter höghastighetstågen med detta grävprojekt. 300 miljarder är ett spottstyver i sammanhanget, men så kan Sverige bli världens teknikhub, teknikkluster och allra främsta teknikutvecklare. Det ger även Sveriges militär tillträde till en nukleär arsenal, måhända för ett annat syfte än under det Kalla Kriget. Alla blir lyckliga och får göra det de vill göra.

Låt crowdfundingen börja!

Om något kan gå fel, så kommer det att FELA (Murphy's lag)

Allting är gratis. Bara höja skatten.
http://imgur.com/gallery/hhD3J
I zenit av Roms storhetstid mutades romarna att rösta på senatorer i utbyte mot mutor
https://www.youtube.com/watch?v=gJ2tPMIh6u0

Trädvy Permalänk
Datavetare
Plats
Stockholm
Registrerad
Jun 2011
Skrivet av wereaz:

Framtidsfantasier är kul. Min protest mot din tankegång är att ofullständiga människor skulle kunna programmera en bättre överhjärna. Jag skulle vilja se programmering som en del av lagen om entropi (som i och för sig kan ifrågasättas). Programmeraren kan endast programmera sämre än sina bästa tankar eftersom designen är större än slutresultatet. Ta senaste glibc-debaclet där dålig kod från 2008 uppdagades först 2015 när koden stresstestades.

Sedan verkar din AI något sadistisk om den stänger av datorn istället för att poppa upp ett meddelande som säger att familjemedlemmen visar symptom på cancer. Snacka om att skapa regndanssyndrom hos mänskligheten om personen som blir av med de senaste timmarnas avhandling i Word förväntas komma på att anledningen till att arbetet gått förlorat är så att denne skulle ge sig ut på ett äventyr att utbilda sig till läkare och shaman för att kunna rätt diagnosticera sin släkting.

Jodå.

Det är absolut inte svårt att skriva program som utför specifika uppgifter långt bättre än vad programmet konstruktör skulle göra. En dator blir aldrig trött, den tappar aldrig fokus och den gör inte "slarvfel". Har man väl lyckats konstruera ett program som utför en uppgift korrekt, så blir den alltid korrekt utförd efter det.

Nu handlar detta om AI där man får försöka modellera "luddiga" val och hantera frågor där det inte finns ett entydigt ja/nej svar (ja/nej frågor är den enda typ av beräkningar en dator faktiskt kan hantera i strikt mening). Men även här har datorn en fördel då den kan ta i beaktande långt fler fall, söka längre och djupare på en viss tidsrymd. Så även om datorn inte är fullt lika bra strateg kan den kompensera detta med att helt enkelt kunna väga långt fler möjliga alternativ mot varandra, något som i spel kan göra dator till den bättre tävlande.

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Trädvy Permalänk
Medlem
Registrerad
Dec 2003
Skrivet av Paddanx:

Här har du ett bra exempel på 1).
Vi blir rädda och drar strömmen, men om nu datorn har haft ett tag på sig att studera oss (kameror, databaser mm), pga 2), och ser oss försöka göra det. Borde inte självbevaring i en äkta AI reagera genom att försöka försvara sig själv?
Även de enklaste djuren med någon vettig intelligens på denna planet har denna insikt.
(Lite denna klichén som Hollywood älskar att bygga på, men i teorin är den nog inte långt från rätt)

Om vi vänder på det lite. Om jag står och kan trycka på en knapp för att ta ditt liv... hur reagerar du?

Jag tror att populärkulturen överdriver överlevnadsinstinkten som någon slags naturlag. Att djur har överlevnadsinstinkt beror ju enbart på att det finns väldigt starka evolutionära fördelar med det. Ändå är naturen full av "självmordsbombare", där ett självdestruktivt beteende för individen är gynnsamt för populationen. En AI har inte utsatts för samma evolution alls.

Att en AI automatiskt skulle få den mänskliga känslan av att vilja överleva till varje pris är ju inte alls säkert. Visst kan det bli så, men det finns inget i universum som gör att det måste bli på det viset.