Microsoft och Google riskbenägna i AI-kapplöpningen

Både "chatt" och "bot" finns ju i SAOL sedan tidigare.

ChatGPT kan sammanfatta undertexten.

Men ja, att bara länka en video är inte optimalt. Även om man är intresserad kräver det ett par minuter för att avgöra om man vill se allt, istället för att läsa en mening.

Ja det låter bara lite Skynet, hah.

Och ja, det har nämnts förr på dessa forum re ai, företagen will go where the money is och nu är det full tilt beslutsstöd / beslutövertagande, som reklampelare skriver "Darwin för all del men har du hört talas om AI"? Den kanske försöker säga att AI är naturlig utveckling men jag tror inte det.

Jag tror den är logisk utveckling. Det finns faror med saker som kan låtsas vara människor, för att människor är människor och missbrukar det som går. Det är också en anledning till att även om Skynet så är det inte direkt säkert att det vore något relativt dåligt. Den som lever får se och vi lever nog i interesting times.

Pausa, inte stoppa, och heller inte fullständigt:

Direkt från det öppna brevet:

"Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium."

"This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities."

Jag kan ta Kina (som folk brukar tro ligger långt fram i forskning/utveckling pga att de lyssnat för mycket på CCP-propaganda) som ett exempel på en skurkstat som inte har en chans att komma ikapp på 6 månader:

https://www.vice.com/en/article/pkg7jm/chatgpt-china-openai-b...

Dels är deras åtkomst till hårdvara redan nedstrypt:

"To limit China’s access to cutting-edge technology, the U.S. has blocked the export of top computing chips used for AI and machine learning to the country, including Nvidia A100, the roughly $10,000 chip that ChatGPT uses to process training data."

Dels ligger de tämligen långt efter med allt annat:

"MOSS, an AI chatbot hyped by Chinese outlets as the first homegrown rival to ChatGPT, crashed hours after its launch last Tuesday. “Our computing resources were not enough to support such large traffic and as an academic group we do not have sufficient engineering experience,” said a team from China's Fudan University that developed the platform, adding it’s still an immature model and would no longer be open to the public.

Li the entrepreneur expects it would take one or two years for China to create a chatbot that’s comparable to the current generation of ChatGPT. But by then, their competitors would be further ahead. “For China, it’s a long way to follow up,” Li said."

1-2 år för att komma ikapp GPT-3, i så fall alltså. Inte GPT-4, och definitivt inte GPT-5.

Jag påstår alltså att det inte råder någon panikbrådska, det är bara storföretagen som skiter i allt utom konkurrensfördelar och vinst, och bör omgående pausas - antingen frivilligt eller med tvång.

Och det kan jag hålla med om, min poäng är att det inte är någon panikbrådska - tid för en ansvarstagande paus finnes.

Behövs verkligen någon form av organ som testar, godkänner och även övervakar offentliga AI som är tillgängligt för allmänhet m.m.

AI kan ge rätt så destruktiva budskap:
- Desinformation då AI'ns förmåga till källkritik saknas, nyligen så presenterades flera olika scenario om att Göteborg skulle varit bombat 1944. https://www.gp.se/nyheter/g%C3%B6teborg/microsofts-nya-ai-app...

- Åsikter som saknar empati, som ledde till att en familjefar i Belgien tog sitt liv.
som ex. https://www.euronews.com/next/2023/03/31/man-ends-his-life-af...-

- Användare är rätt så blåögda, även om användarna i fråga torde vara intelligenta och välutbildade så görs redan misstag. Misstag som antagligen många gånger orsakas av stress och prestationsångest, ibland kanske en önskan om en snabb karriärstege. Samsung har på kort tid råkat ut för läckor som ex. https://mpost.io/samsung-staff-accidentally-leaked-informatio...

AI förespråkarna är lika blåögda med visionen att AI kommer att påverka ens dagliga verksamhet, man får uppfattningen att dom tycker det skulle skett redan igår.

Är inte emot AI, men vill verkligen att dess intåg sker 100% på människans villkor, för människan och med människan.

Rätt blåögt, faktiskt!

Att skuldbelägga motsatta sidan är en argumentations teknik som brukar slå tillbaka, men först bör det förstås "Att motsatta sidan vill inte stoppa", den vill ha reglering då den även kan se risker.

Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change
https://www.euronews.com/next/2023/03/31/man-ends-his-life-af...-

Här uppmanad AI'n en man att avsluta sitt liv så att han bidrog till att minska klimatförändringen.

Med ex. ovan så förefaller det väldigt smart att då tillåta AI att få kontroll över fusionskraft, då behöver AI'n inte ens övertala någon. Kabom...

Givetvis så kan det mesta användas för ondska, men skall man då inte verka för att vår teknik inte blir nyttjad till ondska?
Likaväl som man även bör styra tekniken så att den blir en fördel för människans och omvärlden, regler och normer har människa byggt upp över tid. Att inte verka för styrning och reglering av AI, är likvärdigt med att ta bort alla regler och normer som vi idag har. Göra det fritt fram att mörda, våldta, stjäla o.s.v. utan risk för bestraffning.
Människan anses som ett intelligent väsen, så även AI, det är även en del av namnet
Så varför skulle AI ha det fritt fram utan regler, normer?

Tyvärr är det vad jag ser ovan, då ivern att bygga in AI i allt luftas utan minsta eftertanke.

PS!
Nya solsystem är inte att rekommendera som resmål
Däremot fjärran solsystem...

Det känns mer som att företagen är oroade över att svaren från AI kan presentera fakta som leder till "obekväma" åsikter hos folket än någonting annat.

Får nog en uppfattning att du inte vill förstå.

Att en AI idag med övertygelse att människan är ytterst ansvarig för klimatförändringen och då lyckas övertyga en person att begå självmord, ställer frågan. Vad kan då en AI med övertygelsen att människan är ytterst ansvarig för klimatförändringen göra om den har verktygen "som kontroll av kärnteknik" att stoppa det? Då med tanken att AI't ser utplåning av människan som en lösning.

En tankegång på tidigare skuldbeläggande argument:
"Ska du säga till din mamma, sambo etc som har cancer men du förstår att vi måste pausa för det kan användas till dåliga saker också så du får lida och dö sålänge."

Så jag sade ja till AI för att jag lyssnade på argumentet, ville ju inte att du skulle dö!
Nu finns det ingen som kan säga något eller skriva om resultatet, bältet efter stenplaneten Tellus är allt som nu finns kvar...

Nu var det en ytterlighet, men tyvärr fullt verklig om inte en reglering sker.

Som det skrivs i artikeln så är det idag helt en kapplöpning om att vara först då man enbart ser sen ekonomiska vinsten i att vara först. Då tas genvägar, ansvaret och övrigt kan komma senare. När senare?
Senare har i historien tenderat att bli försent, men det kanske inte gör något. Då det bara var en "idiot" som tog sitt liv, en nödvändig uppoffring för det bättre goda.

Kan inte sluta fundera över vad som definierar en idiot...

En del av mig är väldigt intresserad av att bygga ett självförsörjande hus, med vedspis och egen åker uppe i norrland. En annan del av mig är tycker detta med ChatGPT är oerhört spännande!

Jag har ett par Microsoft program jag vill lära mig använda på jobbet, tyvärr finns ingen annan som kan dessa system och som kan lära mig. Istället för att gå någon lång tråkig kurs så har jag planerat att försöka få ChatGPT att agera som mentor åt mig i denna process. Oerhört intressant och spännande att se hur det kommer gå!

Hur många Terminator-filmer finns det i nuläget? 5? Så då blir den 6'e den första att skrivas och produceras av en AI. Hype!

Om någon säger att du ska hoppa ner 10 våningar till din död och du gör det så har man problem utan någon självbevarelsedrift. Då är det inte tt AI programs fel och man behövde nog varit på psyket och inte i den riktiga världen.
Om någon tar självmord med piller är det pillertillverkarnas fel? Om någon sitter i en bil och tar självmord med avgaserna är det biltillverkarens fel?

Det är ingen AGI med självmedvetande, det är ett program som är där som hjälp till människans framtida utveckling

Vad en AGI med ett självmedvetande utan människans påverkan kommer göra vet ingen människa och kan inte ens gissa sig till det. Det är som att veta hur en gudavarelser tänker och ska göra. Det är otroligt långt förbi vårt förstånd

Senare i historian kanske det blir försent för människan utan AI också.
Tänk dig en ny pandemi som tar död på 90% av alla varelser som kommer i kontakt med den. Om vi skulle haft en bra utvecklad AI till hjälp så kunde vi framställa vaccin/botmedel otroligt mycket snabbare och rädda alla varelser på jorden