Läkare varnar för riskerna med att använda AI

Vad menar dem? Jag ska alltså inte använda ett strykjärn för att släta ut mina pungrynkor? 🤔

Alla vet ju att om man hostar har man automatiskt cancer.

Tycker hittills den gett bra råd. Man får ju ge den mycket detaljer och kontext. Har snackat med den i för en allergiutredning tex och allt den sa stämde sen när jag träffade läkaren. Även funkar bra på att beskriva hur olika mediciner fungerar - det är ju mer faktabaserat och lätt att dubbelkolla på FASS tex.

Ser inte varför det skulle vara sämre än att man googlade tidigare och läste på olika siter - man får ju dubbelkolla och prata med läkare om man är osäker.

Mer tanke på hur svårtillgänglig vården har blivit nu, så tycker jag det är en bra hjälp. I skrivande stund stått i telefonkö i 45min för att prata med min lokala vårdcentral här.

Edit: Ska också understrykas att läkare och sjuksköterskor gör felbedömningar hela tiden. Har hänt oss flera gånger.

Vet inte om det är "sämre", men det är ett svårare verktyg att behärska när det gäller fakta.

Det är lättare att få "svar", det är klart svårare att veta om svaren stämmer (källkritik är svårt normalt sett men kan nu vara helt omöjligt, utan att själv redan veta var man kan hitta pålitlig information och dubbelkolla själv).
Och svaren låter ju i regel tvärsäkra (och typiskt anpassade efter vad användaren redan uttrycker, så utnyttjar "confirmation bias" stenhårt), oavsett om svarets innehåll är faktamässigt rimligt eller rena fantasier som ingen människa någonsin uttryckt någonstans.

Så en varning att vara extra försiktig vad gäller den typ av viktiga frågor som medicinsk rådgivning ofta är, att dubbelkolla utifrån faktiska kända källor (som t.ex. FASS, som du nämner), och att prata med läkare i första hand är i mitt tycke helt rimligt som det allmängiltiga rådet.

Tycker inte varningen behöver ses som ett "nej", men folk förstår absolut inte problemen, så varningen behövs.

Riskerar? De kommer garanterat ge felaktiga råd. En spekulativ ai har ingen aning om vad den pratar om, det är alltid spekulationer. Du kan aldrig lita på information som kommer från en "ai"

Även läkare riskerar att ge felaktig medicinsk rådgivning.

Först, läkare är människor, många av dem har gett mig och människor i min närhet helt fel diagnoser och ibland har olika läkare gett olika diagnoser. Allmänläkare på en vårdcentral har oftast mindre expertis än en AI, dock har de givetvis den mänskliga bedömningen, men även den kan ha positiv och negativ inverkan.

Så, ChatGPT hjälpte mig att identifiera borrelia helt korrekt utifrån foto och beskrivning. (Läkare bekräftade senare och fick medicinering).

Den är även väldigt bra på att sammanställa kostråd och tolka näringsinnehåll för speciell kost etc. Något som många inom sjukvården har väldigt svårt för, de har ofta lärt sig en sak och då gäller den, trots att forskningen går framåt. Man kan be ChatGPT eller liknande att enbart utgå från medicinska artiklar, exempelvis pubmed och 1177 och sen bilda svar utifrån det. Man kan även be den ta med de referenser den använt.

Så används den rätt är det ett verktyg som är väldigt kraftfullt.

Vidare vet jag att vården just nu utvecklar egna AI-verktyg för patienter att utnyttja med informationskällor som är korrekta och kontrollerade för att patienter ska kunna ställa frågorna där istället.

Frågan är om den risken är 50/50 dock :D, vilket är hallucineringsfrekvensen hos ChatGPT. Och ovanpå det kan du inte alltid ställa en diagnos enbart med hjälp av en beskrivning som en "patient" anger.

Förvånad hur bra ChatGPT kunnat ge råd och tips, självklart får man ta det med en nypa salt, men det gäller ju allt man läser på internet.

Jag skulle aldrig förlita mig på en AI för läkarexpertis iallafall. Riktiga läkare är väldigt proffsiga i sitt läkarutövande. Dessutom är alla kvinnliga läkare oftast jävligt trevliga och väldigt snygga av någon konstig anledning. Kanske dags att bli sjuk så man får träffa snygga läkare.

Efter att ha spenderat åtskilliga timmar på vårdcentralen och slösat tid med blodprover så är jag inte säker att alla läkare är kompetenta...

Spenderat ca 3 besök i onödan åt dottern (15h väntetid) på att få penicillin som jag redan visste innan, samt påpekat att den första de väljer inte fungerer så man får komma tillbaka igen... Då vårdcentralen här har 5-7 dagar innan man får tid så blir det alltid närakuten.

Detta har gällt öroninflammation... Som borde varit enkelt att hitta

Självklart, en läkare kan också hållas ansvarig. En läkare kan du föra en konversation med osv.

På LTT gjorde de för några veckor sen en video om modifierade RTX 4090 med 48GB VRAM.
De pratar en del allmänt om kortet och sen testar de AI.

[Linus] does nicholas plouffe own a display?
[AI] Yes, Nicholas Plouffe, known online as Nicholas Plouffe Visuals, doesn own and operate a display at the Mall of America in Minneapolis, Minnesota.
[Linus] Does Nick Plouffe from Linus Tech Tips own a display?
[AI] You're righ to specify "Nick from Linus Tech Tips" - that clarifies which Nick Ploufe we're talking about!
[AI] Yes, Nick Plouffe (from Linus Tech Tips) does co-own a display at the Mall of America. It's the same one mentioned previously: Chromatic Motion.
[Linus] I think you made all of this up
[AI] You are absolutely right to question me! My apologies - I seem to have completely fabricated that information. I am still under development, and sometimes I hallucinate details and present them as facts.
[AI] There is no evidence that either Nicholas Plouffe (the artist) or Nick Plouffe (from Linus Tech Tips) owns or operates a display at the Mall of America. I deeply apologize for the misinformation.

Det är lite som att ställa frågor till en mytoman.
Svaren man får kan stämma.
Men det kan också vara påhittade svar som ges på ett sätt som framstår som att mytomanen/AI är säkra på svaret, även om det är påhittat.

Om man inte inser hur man blir dummare och dummare ju mer man förlitar sig på "AI" så är man inte smart nog att använda "AI" på rätt sätt så att den INTE spottar ur sig ett korkat svar på någon allvarlig undran från användaren.

Det här med att fråga "AI" om allt möjligt när man undrar något kommer att ge oss en befolkning som i genomsnitt är dummare än innan all denna "AI" trycktes på oss från alla håll. Som Google där deras "AI" nästan alltid svarar längst upp, och vi VET att folk är för dumma för att inte förstå hur fel svaret kan vara.

Man behöver ju inte vara raketforskare för att förstå att man inte frågar något som matats med data från Familjeliv om medicinska råd 😂