Forskare bedrev AI-experiment på Reddit i smyg

Hur upptäcktes de?
Först är det en aja baja så får ni ej göra till forskarna, den mer intressanta frågan är hur det ska förhindras i framtiden? Och då från personer som inte bryr sig om vad det står i forumsreglerna på något ställe vad som är tillåtet eller ej.
Jag själv har inget bra svar på denna sista fråga. Lösningen att registrera sin användare med BankID eller liknande så kommer forumsdöden gå snabbare fram än vad den redan gör.

Förstår inte upprördheten. Vilken bot som helst genererar förmodligen inlägg med bättre kvalitet än 98 % av reddit-användarna. Flashback är ju ett städat och hövligt forum i jämförelse.

Halva reddit borde ju stängas ned så whatever...

Forskarna måste varit före sin tid med AI eftersom /r/changemymind "stängdes ner" för sju år sedan. Kanske menar de /r/changemyview ?

Inte första och sista gången några på ett Universitet gör något för forskningens namne utan att informera om det, innan det här hade vi ju några som skickade in Linux uppdateringar med bakdörrar/skadliga kodar. Bara för att visa att lita på öppen källkod inte är bra..

Och med tanke på hur världsläget ser ut i dag och eskalerar så kommer vi nog se mer utav detta...

Chef på reddit och oetiskt i samma mening… haha, känns lite som ett skämt

Dead internet theory. Det är inte framtid längre, det är nutid.

Att utnyttja/påverka folk utan deras informerade samtycke är inget ett universitet skall syssla med, det är ju Big Tech-bolagens affärsmodell...

Ja 404 media säger r/changemyview

Kan förstå att Reddit möjligen är lite upprörda då det använder deras servrar och användare osv till saker som de kanske inte vill. Jag tycker dock undersökningen är både viktig och intressant då det för fram argument för vad som faktiskt bör vara lagligt tillåtet runt sådant här och hur viktigt det är att skydda sig mot det. Hur effektiva är sådana här påverkanskampanjer och hur lätt är det att lura i stora mängder folk idéer som råkar vara till ens egna politiska eller ekonomiska vinning? Det är helt klart viktiga saker att forska kring, och i ärlighetens namn är nog Reddit ett exemplariskt ställe att göra det på.

Har de inte skydd som upptäcker sådana här saker redan (reddit alltså) så finns det ju även luckor för klart mindre seriösa aktörer än några forskare från ett universitet att göra det, säkerligen med klart mer resurser för att gömma det också.

Lol! Jag kollade lite inlägg bottarna hade gjort och vid ett tillfälle så diskuterade den de stora fördelarna med gurka på pizza i ett tre-sidigt inlägg.

Detta är givetvis lite skrämmande men det har hänt mig ganska många gånger och inte bara på reddit, att jag misstänker att personen som skriver är en bot. Vad kan man göra åt det? inget. Jag läste nånstans att 50% av allt innehåll på internet är numera bot-producerat. Det rör sig om speglade websidor, inlägg, publicerade artiklar etc. Och detta kommer knappast att minska när Ai blir bättre.
Dags att skapa ett nytt internet, humans only, med ett svårt test för att få komma in typ "kan du hitta alla gatlampor i denna bilden" eller liknande.

Ja, det må vara "oetiskt" men vad gör reddit för att förhindra faktiskt oetiska bottar att besudla deras kommentarsfält? Även om jag inte alltid upptäcker vilka som är bottar så har jag förstått det som att det är mer förekommande än vad folk i allmänhet förstår. Lite talande att de först när någon gör någonting som skulle anses som någonting "gott" reagerar. Som lillaankan_i_dammen tidigare i tråden undrar, så kan man ju fundera på hur de upptäckte just de här bottarna men inte alla de andra? Varför har de inte reagerat på de andra liksom? Var de här från universitetet enklare att upptäcka eller var det att de fick reda på det via andra vägar?

Hursomhelst så ser jag det inte som någonting annat än positivt att universitetet på detta sätt synliggjort att man aldrig egentligen kan lita på någonting på internet. I alla fall inte om man själv inte har förmågan, eller viljan, att kontrollera fakta. Och det är ju lite ansträngande, särskilt när det väcker känslor som ju verkar det som man idag ska förlita sig på mer än fakta.

I en inte allt för avlägsen framtid kommer olika AI-bottar att sinsemellan diskutera om det stämmer, eller bara är en seglivad myt, att Internet en gång i tiden användes av människor.

Tänkte ungefär samma sak. Oskönt att bli "utsatt" för, men det är svårt att göra en sån här undersökning ifall användarna vet om att de blivit manipulerade, och ifall själva syftet med undersökningen är att se huruvida folk kan bli påverkade, inte ATT påverka dem i en viss riktning, så kan jag se det viktiga med den. Att detta kommer bli ett reellt problem i framtiden kräver ju ingen större fantasi.

Det bästa hade ju varit ifall samtliga Ai-bottar hade gett sig till känna i slutet av undersökningen, så att alla som hade argumenterat och blivit påverkade av dem hade fått sig en rejäl tankeställare. Nu tycker jag att det är tillräckligt värdefullt i sig att folk som gärna skriker "foilehatt" över sånt här kan se vad utvecklingen kommer att leda till. Det här var ett gäng forskare som drev undersökningen, och jag killgissar att de kanske inte hade gränslösa resurser att dölja vad de höll på med för moderatorer etc.
Hur stor är chansen att det här redan förekommer i relativt stor skala av folk som är mycket skickligare på att dölja det? Och hur stor är chansen att det kommer att upptäckas NÄR det väl kommer i stor skala?

Tänk på alla politiska aktörer som försöker påverka opinionen genom lögner, smutskastningskampanjer, hets osv. Det är lätt peka ut favoritfienderna som "Ryssarna" och Kina", men det räcker med att titta på Trump som inte ens försöker dölja. Man behöver inte ens titta bortom gränsen...SD har ju också visat hur praktiskt det skulle kunna vara efter deras egen trollfabrik avslöjades.

AI ihop med skrupulösa aktörer och rena skurkar är den ljuva nya framtiden vi verkar vilja kasta oss handlöst mot. Önskar mer tanke ägnades åt hur vi ska skydda oss mot skiten som kommer än hur vi ska klämma ut så mycket ur det så snabbt det bara går.