Italien blockerar Chat GPT – fler länder kan följa

Vilka risker ser du med ChatGPT?

Det är tillgängligt i Italien, det räcker. Det hade varit något om alla bolag kunde kringgå reglerna genom att inte ha ett dotterbolag i landet i fråga.

Grafisk kalkylator är förbjuden på många högskoleprogram.

Har du verkligen lärt dig detta så utmärkt MEN det liknar mer lite av att ha en räkneuppgift, fundera lite på den innan man tittar i facit och säger typ "just det, det är så man gör" innan man går vidare till nästa uppgift.
Har du lärt dig eller har du kopierat ?

Sambandet är ganska otydligt; första citerade avsnittet verkar inte handla om AI alls, utan generella problem relaterat till hur deras webbsajt hanterar ålderskontroll, respektive en uppmärksammad bugg som gjort att inloggade användare fått se varandras sidor på sajten.

Slutklämmen menar ju dock att det hela handlar om en motreaktion mot AI-tjänster, är undermeningen ett antagande att de italienska invändningarna bara är ett svepskäl som användas för att skapa problem för sajten pga dess AI-tjänster?

@Enviro ?

Håller helt med om att det alltid finns folk som vill fuska sig fram i livet.

Men det där med källkritik är jag inte så säker på, förr eller senare kommer det blir uppenbart för en person att AI inte alltid levererar korrekt information. Jag vill tro att det har större personlig betydelse att bli bränd av en tjänst man använder dagligen än en random websida på nätet, d.v.s man blir mer uppmärksam.

Som utvecklare söker man ofta implementations exempel online och ganska ofta är det random personer och websidor som tillhandahåller det och inte helt sällan kan det krävas betydande tid att verifiera. I den aspekten ser jag ingen större skillnad att använda Chat GPT mer än att Chat GPT kan laverar mer skräddarsydd info. Men självklart, är informationen man söker livsavgörande och viktig då måste den verifieras och det lär man inse även om man använder AI.

Ja, det var väl typ det jag skrev? Att läkare googlar är ju inget nytt och det har säkert hänt mer än ett par gånger att man hämtat tvivelaktig information från nätet även utan Chat GPT.

Intressant, vad är det jag skriver som tyder på att jag tror att allmänheten är källkritiska till hög grad? Och vad menar du blir skillnaden när man använder ex Chat GPT mot att inte använda det?

Det finns ju helt klart potentiella problem i båda fallen, och verifiering av korrekthet krävs i båda fallen.
Det är väl förstås en likhet i sig att det förhåller sig så.

Dock är det ju olika förutsättningar att ha fått:

* Vad någon tänkande varelse tror är lösningen (eller då möjligen någons trolliga hittepå, antar jag)
* En lösning som genererats utifrån vad som är någon form av statistiskt sannolik textmassa givet frågan

Med det sagt så är ChatGPT väldigt användbart i en massa situationer, rentav fantastiskt i vissa lägen, men jag tycker att det är väldigt vanskligt att likställa behovet av verifiering med människors svar. Förutsättningarna är (åtminstone som jag ser det) alldeles för olika för att se det som "samma lika".
Som jag ser det så är det *särskilt* om man som frågeställare inte redan själv förstår vad som är rätt svar som det blir riktigt vanskligt att tänka att det skulle vara "samma lika".

Något som dock tydligt blir (ännu) svårare är ju dock att försöka utöva källkritik om man frågat ChatGPT.

* Det blir betydligt mer opakt vad en eventuell källa till informationen är jämfört med t.ex. en sökning, man får ju annars massor av små ledtrådar genom den transparens man får om man följer sökresultat istället; baserat på var informationen hittades, i vilket sammanhang den stod, osv. Vad gäller ChatGPT så blir användarupplevelsen mer att "ChatGPT säger" och den egna upplevelsen är kanske "ChatGPT brukar ha rätt" eller "alla säger att ChatGPT är bra" eller något.
* Man vet inte om det är någon tänkande varelse som öht yttrat det ChatGPT skakat fram ur hatten.

Jag skulle vilja påstå att jag lärt mig en hel del av det jag gjorde på morgonen. Att skriva C# program kunde jag dock redan så det var mer en bekvämlighet att få det uträttat av en bot. Det sparade mig tid, eller egentligen skulle jag inte ens påbörjat programmet för jag har så mycket annat att göra. Det blev mer än att bara hitta dubletter, vi par-programmerade så det blev ganska funktionsdugligt och det kan även automatiskt eller halv-automatiskt ta bort dubletter, utifrån vissa kriterier som man kan ställa in.

Senare gjorde jag även en enkel Android-app i Android Studio. Det var många år sedan så det var skönt att ha en vid sidan om som kunde snabbt assistera och visa vad jag ska göra.

Min gissning är att det betyder "med hänsyn till"

U tänker jag mer "hmm hur gjorde man nu det här momentet i hjärt bypass operationen...äh jag frågar chat GPT" 🙂

eh, vad snackar du om, easy peasy :

Skämt o sido, självklart är det ingen bra idé men å andra sidan är det inte heller något bra idé att söka första bästa på nätet heller vilket borde säga sig själv. Vill man ha riktig information vid viktig ställningstagande så är det såklart säkra källor typ välrenommerade- böcker, kollegor eller websidor som gäller.

men se där, nu kan jag operera vem som helst

Ja flera källor som säger samma sak är alltid en bra verifikation.

Chat GDP överraskade mig på en sak. Den känner till styrsystemet till min gamla bil, Lucas 14.1. Det finns ganska så sparsamt om det systemet men chat GDP hade full koll.
Det trodde jag inte den skulle veta vad det var.

@Spawnbadboy @Xinpei @Aka_The_Barf

Okej. Men jag vill ha säkerställt att den tandläkare, läkare, mekaniker jag har - har fullgjort sin utbildning. Hur skulle världen se ut med ännu fler kvacksalvare och låtsasmekaniker? Det är ju dumt att göra det ännu enklare för dem kan jag tycka.

Ja det är mycket många missar vid sina kollar. Har du en rörmokare med pressverktyg ska du be att få ett intyg på när den senast besiktigades/kalibrerades. Gör du inte det kan det sluta med läckande ledningar och jag känner många som inte vet att det var en sak som ens fanns.
Har man tur så kanske chatGDP kan lära de värsta att göra sådana saker som att kalibrera sina verktyg i tid, men troligtvis kan de luras ännu mer med chatGDP's hjälp.

Jag tror du har rätt men inte 100% och det är där det brister. All typ av fusk borde elimineras för att säkerställa kvalitet. Chat GPT underlättar för teoretiskt fusk.
Du skriver som om du vet, ändå finns läkare som Macchiarini med flera som agerar kvacksalvare. Det enda man blir om man påstår att fusk inte existerar och inte slinker igenom är en nyttig idiot

Morgonmat var förslaget från Chat GPT.

På tal om läkare.
Jag längtar tills vi slipper dessa och AI+någon volvo robot kan sköta sjukvård. Detta är inte ironiskt bara där jag hamnat efter att ha sett för mycket av skumma läkare i svensk sjukvård (tack och lov inte för egen räkning).

"Men det där med källkritik är jag inte så säker på, förr eller senare kommer det blir uppenbart för en person att AI inte alltid levererar korrekt information. Jag vill tro att det har större personlig betydelse att bli bränd av en tjänst man använder dagligen än en random websida på nätet, d.v.s man blir mer uppmärksam."

Du skriver själv att användare blir mer uppmärksamma för att dom skulle bli brända av något som dom använder dagligen.

Jag menar att så aldrig har varit fallet annars skulle vi inte ha alla människor jorden runt som utan tanke faller för första bästa information dom hittar på facebook vilket är en tjänst dom flesta av dessa människor använder flera gånger om dagen.

Skillnaden mellan att inte använda chat GPT och att använda Chat GPT är att det finns tillräckligt med människor redan nu som verkar tro att bara för att en LLM sagt något till dom så stämmer det för "den är ju så smart"

För att inte tala om alla stollar som tror att chat GPT och dylika modeller är intelligenta och kan tänka själva.

Räcker med att läsa om ensamma människor som blev desperata för att dom inte kunde chatta på samma sätt som tidigare mot Replika för att se hur mycket skada redan dagens modeller kan ställa till med.

Propaganda, falsk information och diverse lurendrejerier har funnits i alla tider. Det AI gör är att det sänker gränsvärdet för hur många som på ett snabbt sätt kan använda sig av verktygen för att kunna genomföra sina kampanjer utan speciella kunskaper.

På facebook består flödet ofta av ett stort antal aktörer(likt en google sökning) och det är inte alltid att man kommer ihåg vilken aktör informationen kom ifrån eller hur trovärdig just den aktören är. I vanlig ordning orkar man inte verifierar och släpper igenom mer än vad man kanske egentligen borde. När det gäller Chat GPT så är det 1 aktör som framför informationen och blir man bränd(vilket lär hända förr eller senare) så blir det också tydligt att denna aktören kan man inte alltid lita på. Självklart finns det alltid folk som helt struntar i om det är fakta eller inte och bara kör på men då lär det inte spela någon roll var informationen kommer ifrån oavsett.

Jag tänker att det i förlängningen kommer bli något i stil med detta : Så Pelle, var har du fått tag på denna rappakalja? Den kommer från Chat GPT, tja det borde man ju ha förstått.

Frågan är om inte en sökning me Chat GPT faktiskt är något säkrare info än vad man får på första googlingen? Chat GPT modellen handlar i grunden om att väga bra och dåliga resultat, d.v.s det man själv försöker göra vid en googling. Är det viktig information så verifierar man med ett par olika källor och där ser jag ingen skillnad på att använda Chat GPT som en av dem. Förövrigt är jag övertygad om att Chat GPT och liknande tjänster kommer ange mer referenser i framtiden för att underlätta verifieringen ytterligare. Ser man ex att Chat GPT plockat just denna informationen från en manual från en tillverkare, då kan man också vara säker på att den är korrekt.

Man blir ju dock tvungen att faktiskt kolla i manualen också innan man faktiskt kan dra en sådan slutsats.

Grundproblemet är ju just att ChatGPT 1) inte vet saker, 2) genererar en egen text
Så om man inte redan vet vad svaret på frågan faktiskt är så är det sjukt svårt att veta om det som genererats stämmer, även om den även inkluderar en påstådd källhänvisning.

De är förvisso sant! Men om den refererar så har den iallafall hjälpt till att peka ut var informationen finns. Troligen ska man se Chat GTP mer som ett alternativt vis att söka upp information, det som saknas dock är reference från den data den genererat sitt response utifrån. Vad jag förstår så ska Bing versionen ha mer referenser så man kan hoppas att det även kommer med till Chat GPT i framtiden.

Eller?

"Enligt Susanne Billum, ordförande för Hälso- och sjukvårdens ansvarsnämnd, HSAN, ökar antalet ärenden stadigt med läkare som har utländsk utbildning, och hon ser paralleller med sköterskeproblemen: ”En del kan knappt någonting. Inte ens the basics. Det är alldeles för lätt att få ut legitimation i några länder. Och ibland misstänker man att de inte gått någon utbildning, eller bara en del av den”, säger hon till Läkartidningen.

Läkare och sköterskor inom EU/EES kan kliva rakt in i svensk sjukvård tack vare EU:s yrkeskvalifikationsdirektiv. Premissen är att alla berörda länder har hög utbildningsnivå (och ingen svarthandel med diplom).

Legitimationerna får inte ifrågasättas.

Alltså är det först när misstag har begåtts, anmälts och utretts grundligt av Ivo som livsfarliga läkare kan stoppas. Det kan ta väldigt lång tid - inte minst om den olämplige jobbar som hyrläkare och saknar fast arbetsgivare. Och enligt Susanne Billum är det inte ovanligt att oskickliga läkare jobbar just som hyrläkare." - Expressen

Finns flera fall där chat gpt refererat till studier som inte existerar eller där den refererar till studier som ska ha genomförts av icke existerande personer.

här är ett väldigt enkelt exempel

https://news.ycombinator.com/item?id=33841672

Tror återigen att du tänker för högt om mänskligheten när det gäller referenser och källhänvisningar.

Folk som redan tidigare har dålig koll på ämnet i fråga kommer sällan( pga lathet, okunskap) att titta ens en gång på någon referens som dom får upp faktiskt stämmer eller ens stödjer det dom hävdar.

Så länge det finns en referens så kör dom på utan att titta närmare på saken.

Men du kanske aldrig har stött på folk som hävdar att artiklar eller studier stödjer deras åsikter och när man tittar närmare på saken så stämmer inte ens det.

Vi lever trots allt i ett samhälle där en del av befolkningen inte ens läser längre än rubriken på en nyhetsartikel numera.

Hum lite som andra problem

• Avloppssystem: Nej vad ska alla latrintömmare göra

• Internet: Information och kunskap kan bli Post-scarcity. Nä det måste stoppas hur ska industri xxx överleva

• 12 timmars arbetsdag: Nä då kommer arbetarna supa ihjäl sig med all fritid

• Al: kan ersätta masa arbeten, det måste vi förbjuda ett samhälle som bygger på lönearbete är en naturlag

• Hej jag har uppfunnit en replikator som kan framställa mat och martial som kan göra hela samhället Post-scarcity. Nej det går inte för skulle samhället kollapsa

• Och så vidare

Antingen kan man se utveckling som ett hot. Eller så kan man acceptera att vid alla framsteg förekommer smärtsamma men övergående problem. En tid senare kommer så gott som ingen sakna som det var tidigare