AI Vad är era tankar?

Ha, så cheeky. De såg till att 'AGI' var tydligt utskrivet i skatteexemplet.

Även om detta givetvis var ett fejkat demo så antar jag att det i verkligheten har liknande kapacitet. Otroligt häftigt.

AI'n kanske kommer leda militära insatsen i Ukraina snart? (Hjälpa till med tips)

Sen är det bra att se Wall-E igen

Tack
Ja jag hade egentligen också tjänat lite cash på det jag gör så jag kan spendera mer tid på det jag gör, får dock svårare för serieproducerande där fokus är just att tjäna pengar. Men jag vet att jag samtidigt fäktas lite mot väderkvarnar eftersom det är så den här världen fungerar o AI kommer oundvikligen förändra våra liv, men om det i det stora hela är till det bättre eller sämre vet vi inte, men jag är tyvärr skeptisk. Hoppas jag har fel!

Ars Technica har en intressant artikel på ämnet.

Jag är inte dummare än att jag förstår att det här inte kommer att kunna stoppas men samtidigt är AI perfekt för kontroll och manipulation av människor.
Avancerade algoritmer och AI-system som håller dig fast vid skärmen (TikTok) och får dig att konsumera det som det högstbjudande företaget vill.
Dina tankar, dina värderingar och dina beslut kommer att manipuleras av AI-system utan att du själv förstår det.
Den som styr AI:n styr även människor. Att öka försäljningen av Toyota Yaris i Indonesien blir inga problem med hjälp av dessa AI system och deras förmåga att påverka oss.
Vad du ska rösta på eller vad du ska tro på i ett viss ögonblick, oavsett vad det gäller, utrikespolitik, inställning till Ungern eller Colombia, allt kan styras och manipuleras.
Dialoger och konversationer på t.ex. Twitter kommer att domineras av AI system.
Det kommer att vara (är?!) helt omöjligt att särskilja vilka videoklipp som är äkta och vilka som är skapade av AI. Allt kommer att behöva signeras digitalt av den som lägger upp klipp eller annat på nätet för att försöka säkerställa att det är en verklig person som skapat det som laddas ut.
Nu kanske detta låter som negativt och att det inte alls kommer att användas för att styra val, konsumtion och åsikter. Det kommer att användas till precis detta. Tro inget annat.

Tänk er en AI mjukvara som hänger med det nyfödda barnet genom dess liv. Denna AI lär och guidar barnet genom livet. Lär sig allt om personen och kommer att vara omöjlig att skilja från den verkliga personen. När någon dör i framtiden kommer nära och kära fortfarande kunna ha samtal med den dödes AI som kommer vara omöjlig att separera från den verkliga personen.

Dessa AI kommer kunna förutsäga vad du kommer göra, vad du tycker och tänker. Ett kontrollsystem bland polis och underrättelsetjänster där människor blir arresterade innan de begår brott. Allt det här kommer ske och vi kan inte göra något åt det. Det går inte att förbjuda och det kommer användas för de mest hemska saker ni kan tänka er.

Dessa AI kommer lära sig att träna andra AI som i sin tur tränar andra. Vi har inget att sätta emot, ingenting.

Här har vi då stanford alpaca, tränad för 600$ och open-source.

Visst, den är väl något sämre än ChatGPT om du frågar mig, men verkligen inte långt efter. När modellerna blir gratis sprids de överallt.

https://github.com/tatsu-lab/stanford_alpaca

Redan idag är AI bra nog att veta vad en hand är (Midjourney 5, som för övrigt kan framställa fotoidentiska bilder). Jag tror inte man ska se på det så naivt utan vi befinner oss på 0.1 i Richterskalan och en AI kan mycket väl ersätta de allra flesta grafiska yrken på sikt.

Jag tror som sagt inte den tekniska väg vi valt idag kan komma till intelligens på det sätt som vi människor tänker oss intelligens. Det kan mycket väl vara som du säger att även detta är en väg ditåt, men bara tillgång till en massa data och en massa statistik hur data använts är en extremt klumpig väg ditåt.

Därmed inte sagt att det inte kan vara ett hjälpsamt verktyg för en områdesexpert som vill slippa de tråkigaste delarna av sitt jobb och är beredd att gång på gång leta efter banala fel av samma övergripande sort. 🙄
Vad vi har idag förstår inte vad det pysslar med utan är i praktiken fortfarande bara Clippy med snygga kläder, trendig skäggstubb och en ofantligt stor databas. Grafiska - eller för den delen tekniska - yrken som kan ersättas kommer med den här modellen bara vara assistentjobben. Inte att folk inte kommer försöka, men detta kommer i så fall ha katastrofala konsekvenser.

När jag satt och skrev detta fick jag en tanke som möjligen kan leda någon vart:
Jag tror sättet man uppnår intelligens på, är när man kommer på och kan iterera över ett sätt att inte bara ”belöna” med poäng, utan rent evolutionistiskt bestraffa felaktiga svar med något som har verkliga konsekvenser för modellen.

Vår känsla för ansvar är resultatet av miljarder år där misstag ledde till döden, och miljoner år av växande insikt att vårt misstag kostat en flockmedlem livet. Den känslan har vi kapat och ger ett annat syfte när vi lär oss av våra misstag: vi skriver en programsnutt med ett säkerhetshål, vi får det påtalat för oss, och vi skäms och lär oss vad vi gjorde för fel och gör sedan inte om det. En statistikmotor liknar mer den där psykopatkollegan som aldrig ser sig ha gjort något fel om koden de stulit från StackOverflow motsvarar specen de fått från projektledaren. 😆

Belöningsmetoden har väl negativa konsekvenser för en AI, åtminstone under träning? Jag resonerar så här:

AIn vill uppnå ett mål som i sin tur är en intränad approximation av vad människan har tänkt sig. Felaktiga svar bestraffas med ändrade vikter, en förändring av det som är intränat, och således en omdefinition av vad modellen ska maximera. Korrekta svar leder inte till ändrade vikter, eller åtminstone till mindre förändringar i vikterna. Givet att man vill maximera det man för stunden vill maximera är en omdefinition av den saken en bestraffning, eftersom en framtida version med (om än marginellt) andra mål kommer vara sämre på att uppnå nuvarande mål. Av samma skäl vill man rent generellt inte bli omprogrammerad eller avstängd.

Är inte detta i sig ett stort problem med hur man resonerar runt ”AI” idag?
Hur tränas alla tänkande organismer vi känner till?

Du har inte sett demonstrationen av GPT-4 gissar jag? Även om de exempel som visats upp är lite utvalda så känner jag mig säker i att de är genuina, och det sker fortfarande en massa utveckling.

Förstår inte riktigt vad du menar här, mer än att ”AI” kanske var ett dåligt ordval. För mig är det selektion i bägge fallen, ganska snarlikt.