Microsoft och Google riskbenägna i AI-kapplöpningen

Permalänk
Melding Plague

Microsoft och Google riskbenägna i AI-kapplöpningen

Orosmolnen som kretsar kring chattbottar med artificiell intelligens får stå åt sidan när teknikjättarna arbetar för att bli först.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Medlem

Alla borde se denna presentation av Sebastien Bubeck från Microsoft. En av de som var med och utvärderade GPT-4 i slutet av förra sommaren.

https://www.youtube.com/watch?v=qbIk7-JPB2c

Visa signatur

i5-7600k . GTX 1080 . 16 GB

Permalänk
Medlem

Alla ska va först o stolta över sin AI. Tills det inte är lika kul längre när skynet aktiveras.
Vi har alla sett Terminator...

Visa signatur

ASUS X570-F, AMD Ryzen 9 3900x, 16Gb RAM, Gigabyte 2070Super auros

Permalänk
Medlem
Skrivet av johanandersson:

Alla borde se denna presentation av Sebastien Bubeck från Microsoft. En av de som var med och utvärderade GPT-4 i slutet av förra sommaren.

https://www.youtube.com/watch?v=qbIk7-JPB2c

Väntar tills GPT-4 har en plugin som kan analysera innehåll i videos och sedan sammanfatta det för mig i ett par meningar.

/s

Fast allvarligt talat, jag är väldigt nyfiken på riktigt men har just nu varken tid eller ork för en 48-minuters video, vilket känns jäkligt frustrerande lite pinsamt för jag vet att jag till slut ändå kommer sitta här och fortsätta slösurfa i minst 48 minuter till...

Visa signatur

Smurf

Permalänk
Medlem
Skrivet av Mullvaden83:

Alla ska va först o stolta över sin AI. Tills det inte är lika kul längre när skynet aktiveras.
Vi har alla sett Terminator...

Vi behöver inte oroa oss, man kan fortfarande inte köpa en bil som ens kan köra själv på något så definierat som en motorväg en längre sträcka.

Permalänk
Medlem

Ser mer orosmoln över svensk språkutveckling med ”chattbottar”, är väl två ihopsatta svengelska ord för att skapa ett tredje.

Visa signatur

CPU: Intel i9-12900K Cooler: Asus TUF Gaming LC 240 ARGB MB: Asus TUF Gaming Z690 Plus Wifi D4 GPU: Asus TUF GeForce RTX 3080 Ti 12GB Case: In Win D-Frame HD: Intel Optane 900P 280GB, WD Black SN850 1TB Mem: Kingston Fury Beast RGB 3600MHz CL17 32GB PSU: Corsair AX760 OS: Win11 Pro

Permalänk
Medlem
Skrivet av oceanic:

Ser mer orosmoln över svensk språkutveckling med ”chattbottar”, är väl två ihopsatta svengelska ord för att skapa ett tredje.

Både "chatt" och "bot" finns ju i SAOL sedan tidigare.

Visa signatur

Windows 11 Pro | Intel i7 8700 | ASUS Prime Z370-P | Corsair 16GB 3000MHz | ASUS GTX 1080 | Fractal Design Define S | Corsair RM750x | Hyper 212 EVO

Permalänk
Medlem
Skrivet av Kyraal:

Väntar tills GPT-4 har en plugin som kan analysera innehåll i videos och sedan sammanfatta det för mig i ett par meningar.

/s

Fast allvarligt talat, jag är väldigt nyfiken på riktigt men har just nu varken tid eller ork för en 48-minuters video, vilket känns jäkligt frustrerande lite pinsamt för jag vet att jag till slut ändå kommer sitta här och fortsätta slösurfa i minst 48 minuter till...

ChatGPT kan sammanfatta undertexten.

Men ja, att bara länka en video är inte optimalt. Även om man är intresserad kräver det ett par minuter för att avgöra om man vill se allt, istället för att läsa en mening.

Permalänk
Medlem

"det vore ett ödesdigert misstag att i nuläget oroa sig för saker som kan fixas senare"

Famous last words. Vilken satans idiotdåre.

Som alltid behövs det lagar för att hålla företag i schack, då de som bekant annars gör precis vad fan som helst för att öka vinsten.

Visa signatur

5950X, 3090

Permalänk

Folk är dock lite väl oroliga kan jag tycka.

Det enda man bör vara beredd på är att man kanske behöver arbeta annorlunda i framtiden och att vissa jobb kommer försvinna men att många jobb helt enkelt kommer förstärkas och förändras lite.

Att stoppa utvecklingen som Musk och kompani ville skulle endast gynna skurkstater.

Det gäller att vara orolig på ett realistiskt och korrekt sätt. Inte bara panika och tro att det finns en stoppknapp.

Permalänk
Medlem
Skrivet av Whitepilledoomer:

Folk är dock lite väl oroliga kan jag tycka.

Det enda man bör vara beredd på är att man kanske behöver arbeta annorlunda i framtiden och att vissa jobb kommer försvinna men att många jobb helt enkelt kommer förstärkas och förändras lite.

Eller för lite, det kan bli mycket värre än så, det är det ingen som med säkerhet vet. Därav all anledning att pausa och analysera vad den "magiska" svarta lådan faktiskt innehåller, särskilt när det gäller GPT-5.

Skrivet av Whitepilledoomer:

Att stoppa utvecklingen som Musk och kompani ville skulle endast gynna skurkstater.

Det är inte "Musk och kompani", tyvärr råkade bara den nollan vara med på ett hörn, vilket är synd då det sänker trovärdigheten.

Det handlar inte om att stoppa utvecklingen. Det handlar om att pausa, tillfälligt, för att analysera.

"Gynna skurkstater"-argumentet köper jag inte - de är inte tillräckligt långt fram i utvecklingen och har inte utrustningen som krävs, och att pausa i 6 månader som det föreslås kommer göra väldigt lite skillnad på den punkten.

Skrivet av Whitepilledoomer:

Det gäller att vara orolig på ett realistiskt och korrekt sätt. Inte bara panika och tro att det finns en stoppknapp.

Åter igen, paus. Inte stopp.

Att bara låta det köra på i full fart utan hejd är enbart galenskap.

Visa signatur

5950X, 3090

Permalänk
Medlem
Skrivet av backfeed:

"det vore ett ödesdigert misstag att i nuläget oroa sig för saker som kan fixas senare"

Famous last words. Vilken satans idiotdåre.

Som alltid behövs det lagar för att hålla företag i schack, då de som bekant annars gör precis vad fan som helst för att öka vinsten.

Ja det låter bara lite Skynet, hah.

Och ja, det har nämnts förr på dessa forum re ai, företagen will go where the money is och nu är det full tilt beslutsstöd / beslutövertagande, som reklampelare skriver "Darwin för all del men har du hört talas om AI"? Den kanske försöker säga att AI är naturlig utveckling men jag tror inte det.

Jag tror den är logisk utveckling. Det finns faror med saker som kan låtsas vara människor, för att människor är människor och missbrukar det som går. Det är också en anledning till att även om Skynet så är det inte direkt säkert att det vore något relativt dåligt. Den som lever får se och vi lever nog i interesting times.

Visa signatur

| 212965 00 ] == :^D * ==)

Permalänk
Medlem

Det var precis det här jag argumenterade för en tid tillbaka. När det handlar om mer klirr i kassan hos dem som dessutom har mest så finns det ett ökat incitament att vara "först" ute med det senaste, och då hamnar säkerheten i skymundan. Mänskligheten är helt enkelt inte skapt för att bli långvariga på den här planeten.

Visa signatur

MB: Asus ROG Strix Z370-E Gaming // CPU: Intel Core i7-8700K
GPU: Asus RTX 3080 TUF OC // Acer Predator XB271HU
RAM: Corsair 16GB DDR4 3000Mhz // PSU: Corsair 750W HX
SSD: Samsung 840 Pro 128GB + 850 EVO 250GB + 850 EVO 500GB

Permalänk
Skrivet av backfeed:

Eller för lite, det kan bli mycket värre än så, det är det ingen som med säkerhet vet. Därav all anledning att pausa och analysera vad den "magiska" svarta lådan faktiskt innehåller, särskilt när det gäller GPT-5.

Det är inte "Musk och kompani", tyvärr råkade bara den nollan vara med på ett hörn, vilket är synd då det sänker trovärdigheten.

Det handlar inte om att stoppa utvecklingen. Det handlar om att pausa, tillfälligt, för att analysera.

"Gynna skurkstater"-argumentet köper jag inte - de är inte tillräckligt långt fram i utvecklingen och har inte utrustningen som krävs, och att pausa i 6 månader som det föreslås kommer göra väldigt lite skillnad på den punkten.

Åter igen, paus. Inte stopp.

Att bara låta det köra på i full fart utan hejd är enbart galenskap.

Men varför stoppa utvecklingen av teknologin?

Det är väl bättre att de pausar produktlanseringar istället för utvecklingen?

Och du kunde lika gärna skrivit "nej" för du skriver ju inte direkt några argument annat än speuklationer om att skurkstater inte har utvecklats tillräckligt (vad betyder det i sammanhanget?). Min poäng är att du behöver dessa välutvecklade AI för att bekämpa elakartad AI från dem som kanske inte är lika utvecklade men som kan göra stor skada. Speciellt om deras AI endast har en enda uppgift.

Det är ungefär lika dumt som att demokratier ska rusta ned sin militär för att diktaturer skapar krig. Eller att ett välfungerande land som Sverige är de som ska rusta ned kärnkraften istället för de länder som inte är lika utvecklade.

Skjuta sig i foten. Motsägelsefullt.

Permalänk
Medlem
Skrivet av Whitepilledoomer:

Men varför stoppa utvecklingen av teknologin?

Det är väl bättre att de pausar produktlanseringar istället för utvecklingen?

Pausa, inte stoppa, och heller inte fullständigt:

Direkt från det öppna brevet:

"Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium."

"This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities."

Skrivet av Whitepilledoomer:

Och du kunde lika gärna skrivit "nej" för du skriver ju inte direkt några argument annat än speuklationer om att skurkstater inte har utvecklats tillräckligt (vad betyder det i sammanhanget?).

Jag kan ta Kina (som folk brukar tro ligger långt fram i forskning/utveckling pga att de lyssnat för mycket på CCP-propaganda) som ett exempel på en skurkstat som inte har en chans att komma ikapp på 6 månader:

https://www.vice.com/en/article/pkg7jm/chatgpt-china-openai-b...

Dels är deras åtkomst till hårdvara redan nedstrypt:

"To limit China’s access to cutting-edge technology, the U.S. has blocked the export of top computing chips used for AI and machine learning to the country, including Nvidia A100, the roughly $10,000 chip that ChatGPT uses to process training data."

Dels ligger de tämligen långt efter med allt annat:

"MOSS, an AI chatbot hyped by Chinese outlets as the first homegrown rival to ChatGPT, crashed hours after its launch last Tuesday. “Our computing resources were not enough to support such large traffic and as an academic group we do not have sufficient engineering experience,” said a team from China's Fudan University that developed the platform, adding it’s still an immature model and would no longer be open to the public.

Li the entrepreneur expects it would take one or two years for China to create a chatbot that’s comparable to the current generation of ChatGPT. But by then, their competitors would be further ahead. “For China, it’s a long way to follow up,” Li said."

1-2 år för att komma ikapp GPT-3, i så fall alltså. Inte GPT-4, och definitivt inte GPT-5.

Jag påstår alltså att det inte råder någon panikbrådska, det är bara storföretagen som skiter i allt utom konkurrensfördelar och vinst, och bör omgående pausas - antingen frivilligt eller med tvång.

Skrivet av Whitepilledoomer:

Min poäng är att du behöver dessa välutvecklade AI för att bekämpa elakartad AI från dem som kanske inte är lika utvecklade men som kan göra stor skada. Speciellt om deras AI endast har en enda uppgift.

Och det kan jag hålla med om, min poäng är att det inte är någon panikbrådska - tid för en ansvarstagande paus finnes.

Visa signatur

5950X, 3090

Permalänk
Medlem
Skrivet av Mullvaden83:

Alla ska va först o stolta över sin AI. Tills det inte är lika kul längre när skynet aktiveras.
Vi har alla sett Terminator...

Så länge du inte får svaret "Hasta la vista" eller "No problemo", när du ber chatbotten om något så behöver vi nog inte oroa oss. Microsoft har fortfarande inte fått Windows att fungera, Putin har fortfarande inte kommit dit han vill. Så det känns än så länge som att domedagen är en bit bort.

Visa signatur

Server: Fractal design Define 7 XL | AMD Ryzen 7 5800X 8/16 | ASUS ROG CROSSHAIR VIII DARK HERO | 64GB Corsair @ 3000MHz | ASUS Radeon RX 460 2GB | Samsung 960 PRO 512 GB M.2 | 2x 2TB Samsung 850 PRO SSD | 6x Seagate Ironwolf Pro 10TB
WS: Phantex Entoo Elite | AMD Ryzen Threadripper 1950X 16/32 | ASUS Zenith extreme | 128GB G.Skill @ 2400MHz | ASUS Radeon HD7970 | 3x 2TB Samsung 960PRO M.2 | 6x Seagate Ironwolf Pro 10 TB
NEC PA301W 30" @ 2560x1600 | Linux Mint 21.3 Cinnamon

Permalänk
Medlem

Behövs verkligen någon form av organ som testar, godkänner och även övervakar offentliga AI som är tillgängligt för allmänhet m.m.

AI kan ge rätt så destruktiva budskap:
- Desinformation då AI'ns förmåga till källkritik saknas, nyligen så presenterades flera olika scenario om att Göteborg skulle varit bombat 1944. https://www.gp.se/nyheter/g%C3%B6teborg/microsofts-nya-ai-app...

- Åsikter som saknar empati, som ledde till att en familjefar i Belgien tog sitt liv.
som ex. https://www.euronews.com/next/2023/03/31/man-ends-his-life-af...-

- Användare är rätt så blåögda, även om användarna i fråga torde vara intelligenta och välutbildade så görs redan misstag. Misstag som antagligen många gånger orsakas av stress och prestationsångest, ibland kanske en önskan om en snabb karriärstege. Samsung har på kort tid råkat ut för läckor som ex. https://mpost.io/samsung-staff-accidentally-leaked-informatio...

AI förespråkarna är lika blåögda med visionen att AI kommer att påverka ens dagliga verksamhet, man får uppfattningen att dom tycker det skulle skett redan igår.

Är inte emot AI, men vill verkligen att dess intåg sker 100% på människans villkor, för människan och med människan.

Visa signatur

Engineer who prefer thinking out of the box and isn't fishing likes, fishing likes is like fishing proudness for those without ;-)
If U don't like it, bite the dust :D
--
I can Explain it to you, but I can't Understand it for you!

Permalänk
Medlem

Så länge de tar fram en Babel fish är allt förlåtet. Men det måste vara en autentisk som man stoppar i örat. Och är en fisk.

Permalänk
Medlem

Alltid roligt att läsa folk som vill stoppa utveckling varje gång människan tar nytt stort steg.

Har hänt varende gång i vår historia.

Alla saker kan användas till ondska men de kan också användas till något bra. Människan koncentrerar sig varenda en gång på vilken ondska det kan skapa och ignorerar allt gott det kan medföra.

Ni förstår att detta i framtiden kan komma att hjälpa till att hitta botmedel mot de flesta sjukdomar i världen?
Ska du säga till din mamma, sambo etc som har cancer men du förstår att vi måste pausa för det kan användas till dåliga saker också så du får lida och dö sålänge.

För det första att pausa i 6 månader kommer inte komma fram till ett skit. Ni vet hur slö byråkratin i världen är? De har inte ens ställt om allt för internetåldern….
Sen att komma fram till något på 6 månader om något sånt här avancerat kan jag bara skratta åt.
Allt man skulle kommit fram till skulle förmodligen haft negativ påverkan eller varit helt åt helvete fel.

Jag säger öka växeln och ta fram förbättrade versioner så snabbt de möjligt kan.
Bygg in det i alla möjliga fält så de kan förbättra världen.

Fussionskraftverk? ja tack!
Botmedel mot de värsta sjukdomarna människan har? Ja tack
Ta bort arbete så vi har mer ledig tid? Ja tack
Avancera vår rymdteknologi så vi kan resa till nya solsystem? Fantastiskt!
Avancera all teknologi vi har till helt nya nivåer? Underbart!

Permalänk
Medlem
Skrivet av Spawnbadboy:

Alltid roligt att läsa folk som vill stoppa utveckling varje gång människan tar nytt stort steg.

Har hänt varende gång i vår historia.

Alla saker kan användas till ondska men de kan också användas till något bra. Människan koncentrerar sig varenda en gång på vilken ondska det kan skapa och ignorerar allt gott det kan medföra.

Ni förstår att detta i framtiden kan komma att hjälpa till att hitta botmedel mot de flesta sjukdomar i världen?
Ska du säga till din mamma, sambo etc som har cancer men du förstår att vi måste pausa för det kan användas till dåliga saker också så du får lida och dö sålänge.

För det första att pausa i 6 månader kommer inte komma fram till ett skit. Ni vet hur slö byråkratin i världen är? De har inte ens ställt om allt för internetåldern….
Sen att komma fram till något på 6 månader om något sånt här avancerat kan jag bara skratta åt.
Allt man skulle kommit fram till skulle förmodligen haft negativ påverkan eller varit helt åt helvete fel.

Jag säger öka växeln och ta fram förbättrade versioner så snabbt de möjligt kan.
Bygg in det i alla möjliga fält så de kan förbättra världen.

Fussionskraftverk? ja tack!
Botmedel mot de värsta sjukdomarna människan har? Ja tack
Ta bort arbete så vi har mer ledig tid? Ja tack
Avancera vår rymdteknologi så vi kan resa till nya solsystem? Fantastiskt!
Avancera all teknologi vi har till helt nya nivåer? Underbart!

Rätt blåögt, faktiskt!

Att skuldbelägga motsatta sidan är en argumentations teknik som brukar slå tillbaka, men först bör det förstås "Att motsatta sidan vill inte stoppa", den vill ha reglering då den även kan se risker.

Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change
https://www.euronews.com/next/2023/03/31/man-ends-his-life-af...-

Här uppmanad AI'n en man att avsluta sitt liv så att han bidrog till att minska klimatförändringen.

Med ex. ovan så förefaller det väldigt smart att då tillåta AI att få kontroll över fusionskraft, då behöver AI'n inte ens övertala någon. Kabom...

Givetvis så kan det mesta användas för ondska, men skall man då inte verka för att vår teknik inte blir nyttjad till ondska?
Likaväl som man även bör styra tekniken så att den blir en fördel för människans och omvärlden, regler och normer har människa byggt upp över tid. Att inte verka för styrning och reglering av AI, är likvärdigt med att ta bort alla regler och normer som vi idag har. Göra det fritt fram att mörda, våldta, stjäla o.s.v. utan risk för bestraffning.
Människan anses som ett intelligent väsen, så även AI, det är även en del av namnet
Så varför skulle AI ha det fritt fram utan regler, normer?

Tyvärr är det vad jag ser ovan, då ivern att bygga in AI i allt luftas utan minsta eftertanke.

PS!
Nya solsystem är inte att rekommendera som resmål
Däremot fjärran solsystem...

Visa signatur

Engineer who prefer thinking out of the box and isn't fishing likes, fishing likes is like fishing proudness for those without ;-)
If U don't like it, bite the dust :D
--
I can Explain it to you, but I can't Understand it for you!

Permalänk
Medlem
Skrivet av Bengt-Arne:

Rätt blåögt, faktiskt!

Att skuldbelägga motsatta sidan är en argumentations teknik som brukar slå tillbaka, men först bör det förstås "Att motsatta sidan vill inte stoppa", den vill ha reglering då den även kan se risker.

Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change
https://www.euronews.com/next/2023/03/31/man-ends-his-life-af...-

Här uppmanad AI'n en man att avsluta sitt liv så att han bidrog till att minska klimatförändringen.

Med ex. ovan så förefaller det väldigt smart att då tillåta AI att få kontroll över fusionskraft, då behöver AI'n inte ens övertala någon. Kabom...

Givetvis så kan det mesta användas för ondska, men skall man då inte verka för att vår teknik inte blir nyttjad till ondska?
Likaväl som man även bör styra tekniken så att den blir en fördel för människans och omvärlden, regler och normer har människa byggt upp över tid. Att inte verka för styrning och reglering av AI, är likvärdigt med att ta bort alla regler och normer som vi idag har. Göra det fritt fram att mörda, våldta, stjäla o.s.v. utan risk för bestraffning.
Människan anses som ett intelligent väsen, så även AI, det är även en del av namnet
Så varför skulle AI ha det fritt fram utan regler, normer?

Tyvärr är det vad jag ser ovan, då ivern att bygga in AI i allt luftas utan minsta eftertanke.

PS!
Nya solsystem är inte att rekommendera som resmål
Däremot fjärran solsystem...

Så för att en person är en idiot så ska vi bygga allt för att vara säkert för idioter?
Hejdå mesta av allt du använder idag. Internet ska stängas ner, folk får inte använda något som de kan skada sig själva och alla andra med. Allt ska bevakas så idioter kan klara sig i världen utan och lyckas döda sig själv.

Du kan inte säkra allt från att användas fel.
Hur bra går det för internet?? Har någon lyckats göra det säkert? Knivar kan man skada folk och sig själv med, kan du göra det säkert? Kanske inte ska få säljas alls. Vi får sluta skära saker….

Sa jag att AI ska ha kontroll? Jag sa att man använder det för att förbättra världen

Permalänk
Medlem

Det känns mer som att företagen är oroade över att svaren från AI kan presentera fakta som leder till "obekväma" åsikter hos folket än någonting annat.

Visa signatur

Chassi> FD Define S CPU> i7 10700 GPU>RTX 3070 MB> GB B460 Aorus Pro AC Ram> 32GB PSU> Corsair AX1200

"Server"> Enthoo Pro CPU> i7 5960x @ 4,2 Ghz GPU>GTX 760 MB> Asus x99 Deluxe Ram> 32GB 2666mhz PSU> Corsair CX650

Kringutrustning> Philips 70PUS7304, AOC AGON AG271QG, Roccat ISKU Fx, Logitech G502 Spectrum, MX 5500, MX Revolution, Arctis Nova Pro Wireless, Behringer Ms40, HP Reverb G2, MSI GF65 Thin 10SER, USB 990 Pro 2tb,

Permalänk
Medlem
Skrivet av Spawnbadboy:

Så för att en person är en idiot så ska vi bygga allt för att vara säkert för idioter?
Hejdå mesta av allt du använder idag. Internet ska stängas ner, folk får inte använda något som de kan skada sig själva och alla andra med. Allt ska bevakas så idioter kan klara sig i världen utan och lyckas döda sig själv.

Du kan inte säkra allt från att användas fel.
Hur bra går det för internet?? Har någon lyckats göra det säkert? Knivar kan man skada folk och sig själv med, kan du göra det säkert? Kanske inte ska få säljas alls. Vi får sluta skära saker….

Sa jag att AI ska ha kontroll? Jag sa att man använder det för att förbättra världen

Får nog en uppfattning att du inte vill förstå.

Att en AI idag med övertygelse att människan är ytterst ansvarig för klimatförändringen och då lyckas övertyga en person att begå självmord, ställer frågan. Vad kan då en AI med övertygelsen att människan är ytterst ansvarig för klimatförändringen göra om den har verktygen "som kontroll av kärnteknik" att stoppa det? Då med tanken att AI't ser utplåning av människan som en lösning.

En tankegång på tidigare skuldbeläggande argument:
"Ska du säga till din mamma, sambo etc som har cancer men du förstår att vi måste pausa för det kan användas till dåliga saker också så du får lida och dö sålänge."

Så jag sade ja till AI för att jag lyssnade på argumentet, ville ju inte att du skulle dö!
Nu finns det ingen som kan säga något eller skriva om resultatet, bältet efter stenplaneten Tellus är allt som nu finns kvar...

Nu var det en ytterlighet, men tyvärr fullt verklig om inte en reglering sker.

Som det skrivs i artikeln så är det idag helt en kapplöpning om att vara först då man enbart ser sen ekonomiska vinsten i att vara först. Då tas genvägar, ansvaret och övrigt kan komma senare. När senare?
Senare har i historien tenderat att bli försent, men det kanske inte gör något. Då det bara var en "idiot" som tog sitt liv, en nödvändig uppoffring för det bättre goda.

Kan inte sluta fundera över vad som definierar en idiot...

Visa signatur

Engineer who prefer thinking out of the box and isn't fishing likes, fishing likes is like fishing proudness for those without ;-)
If U don't like it, bite the dust :D
--
I can Explain it to you, but I can't Understand it for you!

Permalänk
Medlem

En del av mig är väldigt intresserad av att bygga ett självförsörjande hus, med vedspis och egen åker uppe i norrland. En annan del av mig är tycker detta med ChatGPT är oerhört spännande!

Jag har ett par Microsoft program jag vill lära mig använda på jobbet, tyvärr finns ingen annan som kan dessa system och som kan lära mig. Istället för att gå någon lång tråkig kurs så har jag planerat att försöka få ChatGPT att agera som mentor åt mig i denna process. Oerhört intressant och spännande att se hur det kommer gå!

Permalänk
Quizmaster Malmö 22

Såklart! Det handlar om en ny marknad o då finns det icke tid för säkerhet o sånt.

Visa signatur

[Gigabyte EP35-DS4][Intel Core 2 Duo E8400 3.0 Ghz][2x2GB Corsair XMS 2][Gainward GTX 570][Sandisk Extreme II 480GB][Corsair HX 620W][Fractal Design Define XL R4][Acer GD245HQBID]

Permalänk
Medlem
Skrivet av Mullvaden83:

Alla ska va först o stolta över sin AI. Tills det inte är lika kul längre när skynet aktiveras.
Vi har alla sett Terminator...

Hur många Terminator-filmer finns det i nuläget? 5? Så då blir den 6'e den första att skrivas och produceras av en AI. Hype!

Visa signatur

Redbox: Asrock B650 Lightning ATX, 7800x3D -20CCO, XFX 6950XT, 2x32GB Corsair Vengence 6400 CL32, WD SN770 2TB, Corsair RMe 1000, Lian Li Lancool 216, Peerless Assassin 120 SE
Purpbox: Z87-Pro, I5 4670K@4.2, Sapphire 290 TRI-X, 2x8GB Crucial Tactical@stock, Deep Silence 1
Samsung Evo 250+500GB + QVO 1TB, 2x1TB 7200RPM backup/lagring
Det var bättre förr: E5300 2600MHz -> 3640MHz, Celeron 300A -> 450MHz

Permalänk
Medlem
Skrivet av Bengt-Arne:

Får nog en uppfattning att du inte vill förstå.

Att en AI idag med övertygelse att människan är ytterst ansvarig för klimatförändringen och då lyckas övertyga en person att begå självmord, ställer frågan. Vad kan då en AI med övertygelsen att människan är ytterst ansvarig för klimatförändringen göra om den har verktygen "som kontroll av kärnteknik" att stoppa det? Då med tanken att AI't ser utplåning av människan som en lösning.

En tankegång på tidigare skuldbeläggande argument:
"Ska du säga till din mamma, sambo etc som har cancer men du förstår att vi måste pausa för det kan användas till dåliga saker också så du får lida och dö sålänge."

Så jag sade ja till AI för att jag lyssnade på argumentet, ville ju inte att du skulle dö!
Nu finns det ingen som kan säga något eller skriva om resultatet, bältet efter stenplaneten Tellus är allt som nu finns kvar...

Nu var det en ytterlighet, men tyvärr fullt verklig om inte en reglering sker.

Som det skrivs i artikeln så är det idag helt en kapplöpning om att vara först då man enbart ser sen ekonomiska vinsten i att vara först. Då tas genvägar, ansvaret och övrigt kan komma senare. När senare?
Senare har i historien tenderat att bli försent, men det kanske inte gör något. Då det bara var en "idiot" som tog sitt liv, en nödvändig uppoffring för det bättre goda.

Kan inte sluta fundera över vad som definierar en idiot...

Om någon säger att du ska hoppa ner 10 våningar till din död och du gör det så har man problem utan någon självbevarelsedrift. Då är det inte tt AI programs fel och man behövde nog varit på psyket och inte i den riktiga världen.
Om någon tar självmord med piller är det pillertillverkarnas fel? Om någon sitter i en bil och tar självmord med avgaserna är det biltillverkarens fel?

Det är ingen AGI med självmedvetande, det är ett program som är där som hjälp till människans framtida utveckling

Vad en AGI med ett självmedvetande utan människans påverkan kommer göra vet ingen människa och kan inte ens gissa sig till det. Det är som att veta hur en gudavarelser tänker och ska göra. Det är otroligt långt förbi vårt förstånd

Senare i historian kanske det blir försent för människan utan AI också.
Tänk dig en ny pandemi som tar död på 90% av alla varelser som kommer i kontakt med den. Om vi skulle haft en bra utvecklad AI till hjälp så kunde vi framställa vaccin/botmedel otroligt mycket snabbare och rädda alla varelser på jorden

Permalänk
Medlem

Till alla som är nervösa. Vi får se till att ingen trycker på "AI, lös problemen med fussionskraft, bygg och manvrera det åt oss"-knappen. Då kan det gå illa. Seriöst. AI hjälper förhoppningsvis till med teoretiska och praktiska problem. Men vi människor lär bygga och manövrera prylen. Ganska säker på det.

Permalänk
Medlem
Skrivet av Spawnbadboy:

Om någon säger att du ska hoppa ner 10 våningar till din död och du gör det så har man problem utan någon självbevarelsedrift. Då är det inte tt AI programs fel och man behövde nog varit på psyket och inte i den riktiga världen.
Om någon tar självmord med piller är det pillertillverkarnas fel? Om någon sitter i en bil och tar självmord med avgaserna är det biltillverkarens fel?

Exemplet med självmordet på uppmaning från AI, är vad vi har nu. Hette ju "det var en idiot", fastän det var en psykiskt sjuk familjefar. Om AI'n skulle varit till nytta så borde den ha försökt bota personens psykiska sjukdom.

Jag kopplade det till en förlängning till vad du skrev om att använda AI, som fusionskraft. Om Ai'n fortsatt inte har en styrning som hindrar den från vissa beslut och beteende så kan vi komma till den punkten att AI'n sätter stopp för mänskligt liv, ja allt liv på riktigt.

Skrivet av Spawnbadboy:

Det är ingen AGI med självmedvetande, det är ett program som är där som hjälp till människans framtida utveckling

Nu ja!
Tror du att det stannar där?
Vi har en kapplöpning som givetvis inte stannar vid någon specifik punkt, speciellt då målet hela tiden är att vara först oavsett.

Skrivet av Spawnbadboy:

Vad en AGI med ett självmedvetande utan människans påverkan kommer göra vet ingen människa och kan inte ens gissa sig till det. Det är som att veta hur en gudavarelser tänker och ska göra. Det är otroligt långt förbi vårt förstånd

Precis!
När är det tid till att reagera?
Om man nu ser att utvecklingen går fort.

Vore lite synd om vi inte reagerar i tid, vilket AI experten nedan varnar för:
Expert om AI: ”Alla på jorden kommer att dö”
https://www.dagensps.se/teknik/expert-om-ai-alla-pa-jorden-ko...

Skrivet av Spawnbadboy:

Senare i historian kanske det blir försent för människan utan AI också.

Åter igen!
Jag är inte emot AI, vet ingen som har sagt att vi skall skrota AI.

Ett enkelt och ännu bevisbart argument är att vi klarat oss utan AI fram tills nu, hur det skulle vara med en framtid utan AI vet vi inte, mer än att det antagligen skulle vara helt Okey! Vi gör misstag, kämpar med att ordna dom o.s.v. Något som fungerat hitintills, även om människor strävar mot olika mål.

Men vad som händer i framtiden om vi släpper lös en ASI utan någon kontroll och spärrar, det vet vi inte. Kanske det inte ens finns någon varelse kvar som kan berätta om det i en framtid.

Jag emot att det enbart forskas för att komma först, en kapplöpning.
Vi behöver även en forskning om hur AI skall styras och begränsas, hur spärrar skall sättas upp, riktiga spärrar som kan stoppa ett AI som löper amok. Spärrar som AI'n INTE kan kan påverka och/eller gå förbi. Okey, vi är inte där ännu.
Men när vi är, så är det försent om det är som nu, nu är det mer "Det fixar vi efterhand som vi upptäcker fel!".
I en snar framtid så kanske vi inte får möjligheten att fixa felet, just för att den delen inte är på plats fullt ut med ASI.

Skrivet av Spawnbadboy:

Tänk dig en ny pandemi som tar död på 90% av alla varelser som kommer i kontakt med den. Om vi skulle haft en bra utvecklad AI till hjälp så kunde vi framställa vaccin/botmedel otroligt mycket snabbare och rädda alla varelser på jorden

Cyniskt skulle man kunna säga "Bättre med 10% överlevare än 0% överlevare.", då en superintelligent artificiell intelligens (ASI) inte skulle ha några problem att dölja sitt syfte om den vet att vi skulle göra allt för att förhindra dess planer.

AI är inte som industrievolutionen eller införandet av industrirobotar, där var det människan som styrde och skapade.
Givetvis så begicks det misstag, stora som små.
Säkerheten kom alltid i andra eller tredje hand, så varför skall vi följa den traditionen och fortfarande låta säkerheten komma i andra eller tredje hand?

Stanford-forskare om farhågorna:
Många forskare: AI kan leda till ”kärnkraftskatastrof”
https://www.dagensps.se/teknik/manga-forskare-ai-kan-leda-til...

Vi kan inte enbart se till att AI är till fördel, något gott för människan och mänskligheten. Det kan även innebära den totala motsatsen, blundar vi för den möjligheten så har vi inte lärt oss mycket och kommer antagligen inte kunna rätta till misstaget.
.

Visa signatur

Engineer who prefer thinking out of the box and isn't fishing likes, fishing likes is like fishing proudness for those without ;-)
If U don't like it, bite the dust :D
--
I can Explain it to you, but I can't Understand it for you!