Google-utvecklaren bakom påstående om självmedveten AI får sparken

Men vägrar du vaccinet för att det finns trackers i dem ?

Arbetsrättsligt skulle han kunna ha fått sparken (= blivit uppsagd pga personliga skäl) i Sverige också, då detta är grav illojalitet mot arbetsgivaren. Om än lite udda.

Hade varit konstigare om han fått vara kvar efter brutit mot NDA.

Vad är medvetande? Frågar åt en vän.

Det där var en ganska dålig artikel, tycker jag. Jag läste utdraget som Lemoine har publicerat, och tyckte liksom de i artikeln att det fanns en del passager som var uppenbart nonsens (typ att den blir lycklig av att umgås med sin familj). Formatet var också helt ensidigt "fråga" -> "svar", vilket precis som de beskriver i artikeln tyder på brist på aktörskap.

Deras resonemang om "perspective" och "motivation" ger jag dock inte mycket för:

Jag begriper inte alls varför en fysisk kropp skulle vara ett krav för självmedvetenhet. Resonemanget om att en AI inte kan se sig omkring eller kolla på internet gäller väl på samma sätt någon som är helkroppsförlamad.

"Tror de att tummar har känslor? Har lillhjärnan en åsikt om frontalloben? Människor har inte aktörskap. De kan reduceras till kroppsdelar och impulser."

Detta är ju bara holism vs reduktionism, och fungerar lika väl på människor som på AI.

Har de aldrig stött på fenomenet att någon turistar i ett land med ett för dem okänt språk, och någon närstående har spelat dem ett spratt? Typ en amerikan som hälsar på i Sverige och säger "Dra åt helvete!" när de får sin mat på restaurangen, eftersom någon har lurat i dem att det betyder "Thank you". Det där resonemanget fungerar ju exakt likadant för en människa - om man lyckas få mig att tro att "äpple" egentligen heter "hundskit" kommer jag att säga att hundskit passar bra i paj. Jag kan inte via mitt självmedvetande instinktivt begripa att jag har fel term för referenten, eftersom våra ord bara är mänskliga överenskommelser av vad som hänger ihop och inte. Har jag fel information om vilken överenskommelse vi har träffat kommer min kommunikation att bli fel, utan att avsedd mening ändras.

Tycker det är ganska olyckligt att det heter AI och inte statistiska modeller.
Även om neurala nät är starkt inspirerade från neuroner i hjärnan, så är det bara en beräkning och inget annat.
Precis som att du kan använda newtons lagar för räkna ut hur ett objekt faller mot jorden, så betyder inte det att ett riktigt objekt fallit.

Nej det har han inte bevisat.

Det är alltså en teori han lagt fram, där han argumenterar för att vi inte klarar av att beskriva medvetande med nuvarande fysiska lagar eftersom medvetande är ett resultat av kvantmekaniska effekter (som vi nu inte förstår). Som konsekvens skulle en AI byggt med en ordinär deterministisk dator aldrig kunna uppnå självmedvetande.

Detta är alltså teorier, ingenting som någon de facto bevisat vara fallet. Det finns åtskilliga teorier om medvetande och ingen koncensus inom området.

Edit: hans delade Nobelpris (som du nämner i din förra kommentar) har ingenting med medvetande att göra utan utdelades "för upptäckten att bildandet av svarta hål är en robust förutsägelse av den allmänna relativitetsteorin".

Tycker inte det är beundransvärt med något du inte förstår.

Han har en teori om att neuroner fungerar med kvantfysik via cellskelettet. Spekulationer om att kvantfysikdelen skulle kunna existera utan neuronerna är ju bara intressant om du tror på något efterliv, tro och vetenskap är verkligen inte samma sak.

Ingen har bevisat att mikrotubulus och de protein som utgör cellskelettet har någon kvantfysisk egenskap av den Penrose spekulerar om utan de är väl snarare vägarna inne i cellen och har flera funktioner i cellen. Hade du stängt av vägarna i cellerna med narkos hade ju alla som kom i närheten av det varit döda. Kan inte se hur hans teori skulle påverkat biologi, det är inte som att det är något som hjälper dig att köra folding@home eller kan användas till något alls.

En obevisad teori som används av massor religiösa och new age-folk är inte ett genomslag, det är pseudovetenskap när du pratar om det i dessa termer.

Det var därför jag inte sågade dig på en gång.