Inlägg

"Skurkarna" behöver inte hitta nya lösningar, allt de behöver göra är att låta bli att följa lagen, vilken de ju ändå bryter mot på betydligt allvarligare sätt, genom att använda mjukvara utan bakdörrar. Ingen kan hindra utvecklingen av sådan.

Detta är svårare än så, dessa minnes-ICs kommer likt de flesta moderna sådana i BGA-paket utan pinnar, istället har de egna pads på backsidan som matchar kretskortets. Utan hotplate, varmluft eller motsvarande är de alltså praktiskt omöjliga att löda.

Detta är inget mått på effektivitet, bara konstaterandet att det är en naturlig process som inte tagit slut. Den är mycket ineffektiv om målet är intelligens eller någon annan specifik förmåga.

Nu är jag rädd att du har kollapsat i obegripliget. Människor skapar datorer, av tillgängliga material med kemiska och mekaniska processer. Dessa kör sedan kod, och denna kod simulerar en slags naturens urval, där startvillkor och selektionstryck väljs så att de så effektivt som möjligt tvingar programmet att konvergera mot önskad förmåga, för vilken programmet ständigt testas. Alla dessa kan dessutom justeras om det visar sig att den intressanta förmågan inte uppnås, vilket ger en slags andra ordningens naturens urval där själva miljön själv genomgår evolution för att så effektivt som möjligt välja rätt förmågor. Var i detta kommer biologisk evolution in? Igen, AI är bara matematiskt liknande, inte fysiskt identisk med biologisk evolution.

Du hävdade att en maskin som "kan skapa fler av sig själv" är en evighetsmaskin. En sådan maskin är bara ett fysiskt system som kan utföra processer som leder till produktionen av liknande men inte på elementarpartikelnivå identiska maskiner. Detta skapar inte energi, och kan det ske alls sker det på sådant sätt att entropin i universum ökar. Processen kan av allt att döma inte ens i princip fortsätta i oändlighet, ty den hindras av universums värmedöd.

Mänsklig reproduktion är också en process där ett fysiskt system skapar ett liknande, om än förmodligen mindre så än i maskinens fall, system. Denna process kan också fortsätta så länge termodynamiken tillåter och är alltså precis lika mycket en evighetsmaskin som självreproducerande maskiner.

Evolutionen testar helt enkelt mer eller mindre slumpmässigt sammansatta organismer mot sina omgivningar och fortskrider genom att de mindre anpassade långsamt elimineras. Det är en otroligt ineffektiv process. Med AI startar vi inte från en sörja med organiska molekyler, vi sätter själva selektionstrycken och vi kan testa för anpassning med en dators beräkningskraft istället för att vänta på långlivade organismers död i hundratals generationer.

Nu missförstår du mig ordentligt. Den evolutionära processen föregår naturligtvis oss, och påverkar oss precis som den påverkar alla reproducerande organismer. Frågan om AI handlar inte om ingrepp i den existerande biologiska evolutionen utan om datorprogram som utnyttjar liknande men effektivare principer.

Detta är nonsens. Med det resonemanget är ju mänsklig reproduktion, kopiering av datorfiler etc också omöjliga. Nya saker eller kopior av gamla kan skapas, men generellt bara med sådana mekanismer att den totala entropin i universum stiger, i enlighet med samma termodynamiska lag som förbjuder evighetsmaskiner.

Evolutionen saknar intelligens, den är en för praktiska ändamål stokastisk process. Denna gav upphov till människor, som är kapabla att förstå den och rimligtvis också effektivisera den. Det är allt vi behöver göra. Kan vi skapa en evolutionär process som mer effektivt konvergerar mot hög problemlösningsförmåga behöver vi inte själva förstå superintelligens för att skapa den mer än det omedvetna universum vars processer lett till oss måste förstå vår intelligens.

På samma sätt som en dator kan köra mjukvara oavsett om den är ägd eller piratkopierad, antar att vi ska hindra öppen försäljning av sådana också. Kanske ska vi även förbjuda ugnar och spisar eftersom de inte bryr sig om matvarorna är stulna?

Ja, men i det fallet vinner äldre generationer på pris, då dessa inte heller blir flaskhalsar i den upplösningen.

Dock med den komplicerande omständigheten att vi vet, åtminstone om oss själva, att vi har genuint självmedvetande, i bemärkelsen att vi har ett förstapersonsperspektiv från vilket vi medvetet upplever saker. Huruvida någon dator har eller kan ha denna egenskap är den intressanta frågan, men eftersom medvetandet inte är tillgängligt utifrån är det inte uppenbart för mig att det finns något intelligent att säga i den frågan, åtminstone inte innan vi förstår begreppet bättre.

Originalet? Woke? Jag vet att det av någon anledning var en vanlig kritik mot uppföljaren(som åtminstone har identitetspolitiska anspelningar, även om jag skulle säga att det förtjänar kritik mer för den monstrositet som är dess handling än för dessa), men jag kan inte se hur det ens är möjligt att hävda om första spelet.