Att just kunna lära sig själv är väl en grund till att ens kunna ha självmedvetande. Att kunna förstå vilket som är bättre valet och förutspå det bättre svaret på det.
Det mer skrämmande är väl... om en maskin en dag får ett självmedvetande, hur kommer:
1) Deras användare (vi) att reagera?
2) Vi upptäcka det?
3) "Den" reagera på att vi reagerar?
Det som ofta får tanken att skena är ju att millisekunden en AI blir en äkta AI med självmedvetenade, så har du också ingen kontroll längre. Så när det väl har skett, kan du göra något? Kommer människan att acceptera att styras av en maskin? Eller att en maskin är smart nog att både förutse och överlista en människa? Med tanke på att denna maskin nu tävlar om att bli smartare än en människa på en sak, så är det faktiskt ett oroande stort steg mot detta.
Detta är vad en del av oss fruktar, mer än gen-manipulering och super DNA, för i den takten som utvecklingen går idag, kan det ske snabbare än vi tror.
