Forskare bedrev AI-experiment på Reddit i smyg

Permalänk
Melding Plague

Forskare bedrev AI-experiment på Reddit i smyg

Forskarna är bannade och Reddit överväger rättsliga åtgärder.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk

Hur upptäcktes de?
Först är det en aja baja så får ni ej göra till forskarna, den mer intressanta frågan är hur det ska förhindras i framtiden? Och då från personer som inte bryr sig om vad det står i forumsreglerna på något ställe vad som är tillåtet eller ej.
Jag själv har inget bra svar på denna sista fråga. Lösningen att registrera sin användare med BankID eller liknande så kommer forumsdöden gå snabbare fram än vad den redan gör.

Permalänk
Medlem

Förstår inte upprördheten. Vilken bot som helst genererar förmodligen inlägg med bättre kvalitet än 98 % av reddit-användarna. Flashback är ju ett städat och hövligt forum i jämförelse.

Visa signatur

Moderkort: Gigabyte X570 Aorus Master | CPU: AMD Ryzen R9 5900X | CPU-kylare: Noctua NH-D15 chromax.black | RAM: Corsair Vengeance LPX 64 GB (4x16) DDR4-3600 CL18 | GPU: Gigabyte RTX 4080 Eagle OC | SSD: 2 x Samsung 970 EVO Plus 1 TB NVMe + Kingston A400 480 GB + Samsung QVO860 1 TB | PSU: EVGA SuperNOVA G2 1000 W Gold | Chassi: Lian Li O11 Dynamic XL | Skärm: BenQ PD3200U @ 3840x2160 + ASUS ROG Strix XG32VQ @ 2560x1440 | Tangentbord: Corsair K68 RGB Cherry MX Red | Mus: Logitech MX Master 2S

Permalänk

Halva reddit borde ju stängas ned så whatever...

Visa signatur

Byt namn på Nvidia till NvidAI

Permalänk
Medlem

Forskarna måste varit före sin tid med AI eftersom /r/changemymind "stängdes ner" för sju år sedan. Kanske menar de /r/changemyview ?

Visa signatur

Desktop: Ryzen 7800X3D | Gigabyte Windforce RTX 4080 | Kingston Fury Beast DDR5 32GB @ 6000MHz | MSI MAG B650 | Arctic Liquid Freezer II 360 | Kingston KC3000 1TB + WD SN850X 4TB | Arctic Liquid Freezer II 360 | Phantek G360A | Corsair RM1000e

Laptop: Lenovo X1 Carbon G9

Permalänk
Medlem

Ska bli intressant att få veta vilka lagar som de eventuella rättsliga åtgärderna kommer vila på.

Visa signatur

Ryzen 7 7800X3D | ASUS TUF Gaming B650-Plus WIFI | Kingston 32GB (2x16GB) DDR5 6GT/s CL30 FURY Beast | Kingston Fury Renegade M.2 NVMe SSD Gen 4 2TB | MSI RTX 4060 8GB | Fractal Design Define S | MSI MPG A850G 850W | Thermalright Phantom Spirit 120 SE | Windows 11 Pro | AOC 27" AGON AG276QZD2 OLED QHD 240 Hz

Permalänk
Medlem

Inte första och sista gången några på ett Universitet gör något för forskningens namne utan att informera om det, innan det här hade vi ju några som skickade in Linux uppdateringar med bakdörrar/skadliga kodar. Bara för att visa att lita på öppen källkod inte är bra..

Och med tanke på hur världsläget ser ut i dag och eskalerar så kommer vi nog se mer utav detta...

Visa signatur

AMD Ryzen 3900X, Gigabyte X570 AORUS ELITE,
G.Skill Flare X 32GB 3200MHz, FOCUS GX 850W, SSD 125 och 500GB, HDD 2tb, Gainward GeForce RTX 4090 Phantom
Laptops:MSI GT73VR 6RE Titan

Permalänk
Medlem

Chef på reddit och oetiskt i samma mening… haha, känns lite som ett skämt

Permalänk
Medlem

Dead internet theory. Det är inte framtid längre, det är nutid.

Permalänk
Medlem

Att utnyttja/påverka folk utan deras informerade samtycke är inget ett universitet skall syssla med, det är ju Big Tech-bolagens affärsmodell...

Permalänk
Medlem
Skrivet av lumberjack:

Forskarna måste varit före sin tid med AI eftersom /r/changemymind "stängdes ner" för sju år sedan. Kanske menar de /r/changemyview ?

Ja 404 media säger r/changemyview

Permalänk
Medlem

Kan förstå att Reddit möjligen är lite upprörda då det använder deras servrar och användare osv till saker som de kanske inte vill. Jag tycker dock undersökningen är både viktig och intressant då det för fram argument för vad som faktiskt bör vara lagligt tillåtet runt sådant här och hur viktigt det är att skydda sig mot det. Hur effektiva är sådana här påverkanskampanjer och hur lätt är det att lura i stora mängder folk idéer som råkar vara till ens egna politiska eller ekonomiska vinning? Det är helt klart viktiga saker att forska kring, och i ärlighetens namn är nog Reddit ett exemplariskt ställe att göra det på.

Har de inte skydd som upptäcker sådana här saker redan (reddit alltså) så finns det ju även luckor för klart mindre seriösa aktörer än några forskare från ett universitet att göra det, säkerligen med klart mer resurser för att gömma det också.

Permalänk
Medlem

Lol! Jag kollade lite inlägg bottarna hade gjort och vid ett tillfälle så diskuterade den de stora fördelarna med gurka på pizza i ett tre-sidigt inlägg.

Detta är givetvis lite skrämmande men det har hänt mig ganska många gånger och inte bara på reddit, att jag misstänker att personen som skriver är en bot. Vad kan man göra åt det? inget. Jag läste nånstans att 50% av allt innehåll på internet är numera bot-producerat. Det rör sig om speglade websidor, inlägg, publicerade artiklar etc. Och detta kommer knappast att minska när Ai blir bättre.
Dags att skapa ett nytt internet, humans only, med ett svårt test för att få komma in typ "kan du hitta alla gatlampor i denna bilden" eller liknande.

Visa signatur

Since man cannot live without miracles, he will provide himself with a miracle of his own making. He will believe in any kind of deity, even though he may otherwise be a heretic, an atheist and a rebel.

Permalänk
Medlem
Skrivet av killawife:

Lol! Jag kollade lite inlägg bottarna hade gjort och vid ett tillfälle så diskuterade den de stora fördelarna med gurka på pizza i ett tre-sidigt inlägg.

Detta är givetvis lite skrämmande men det har hänt mig ganska många gånger och inte bara på reddit, att jag misstänker att personen som skriver är en bot. Vad kan man göra åt det? inget. Jag läste nånstans att 50% av allt innehåll på internet är numera bot-producerat. Det rör sig om speglade websidor, inlägg, publicerade artiklar etc. Och detta kommer knappast att minska när Ai blir bättre.
Dags att skapa ett nytt internet, humans only, med ett svårt test för att få komma in typ "kan du hitta alla gatlampor i denna bilden" eller liknande.

Sådana där bildtester och liknande blev AI bättre på än människor för flera år sedan.
Ironin är att det säkraste sättet att upptäcka en AI idag är att låta en AI leta - vilket aktivt används av många bolag redan, bara googla lite.

Visa signatur

SweClockers Dark Pearl tema: http://www.sweclockers.com/forum/trad/1484891
(Rek. Stylus)

Permalänk
Medlem

Ja, det må vara "oetiskt" men vad gör reddit för att förhindra faktiskt oetiska bottar att besudla deras kommentarsfält? Även om jag inte alltid upptäcker vilka som är bottar så har jag förstått det som att det är mer förekommande än vad folk i allmänhet förstår. Lite talande att de först när någon gör någonting som skulle anses som någonting "gott" reagerar. Som lillaankan_i_dammen tidigare i tråden undrar, så kan man ju fundera på hur de upptäckte just de här bottarna men inte alla de andra? Varför har de inte reagerat på de andra liksom? Var de här från universitetet enklare att upptäcka eller var det att de fick reda på det via andra vägar?

Hursomhelst så ser jag det inte som någonting annat än positivt att universitetet på detta sätt synliggjort att man aldrig egentligen kan lita på någonting på internet. I alla fall inte om man själv inte har förmågan, eller viljan, att kontrollera fakta. Och det är ju lite ansträngande, särskilt när det väcker känslor som ju verkar det som man idag ska förlita sig på mer än fakta.

Visa signatur

CPU: 9800X3D
Moderkort: MSI Gaming Plus X670E
GPU: Powercolor RX 9070 XT Hellhound
OS: Bazzite

Permalänk
Medlem
Skrivet av killawife:

Lol! Jag kollade lite inlägg bottarna hade gjort och vid ett tillfälle så diskuterade den de stora fördelarna med gurka på pizza i ett tre-sidigt inlägg.

Detta är givetvis lite skrämmande men det har hänt mig ganska många gånger och inte bara på reddit, att jag misstänker att personen som skriver är en bot. Vad kan man göra åt det? inget. Jag läste nånstans att 50% av allt innehåll på internet är numera bot-producerat. Det rör sig om speglade websidor, inlägg, publicerade artiklar etc. Och detta kommer knappast att minska när Ai blir bättre.
Dags att skapa ett nytt internet, humans only, med ett svårt test för att få komma in typ "kan du hitta alla gatlampor i denna bilden" eller liknande.

I en inte allt för avlägsen framtid kommer olika AI-bottar att sinsemellan diskutera om det stämmer, eller bara är en seglivad myt, att Internet en gång i tiden användes av människor.

Permalänk
Medlem
Skrivet av Joppis:

Ska bli intressant att få veta vilka lagar som de eventuella rättsliga åtgärderna kommer vila på.

Förstörelse av egendom! Förlust av inkomst!

Hur skall reddit kunna ta betalt av andra företag som vill träna sina ai-modeller på foruminläggen om de senare är skrivna av ai-bottar...

Permalänk
Redaktion
Teknikredaktör

Ibland tänker jag på om det finns Reddit-trådar där en enda människa bråkar med ett hav av bottar. Det vore kul, och obehagligt, att få svar på.

Permalänk
Medlem
Skrivet av Rosenvik:

Ibland tänker jag på om det finns Reddit-trådar där en enda människa bråkar med ett hav av bottar. Det vore kul, och obehagligt, att få svar på.

Ännu bättre är det väl om det är bottnar som bråkar med varandra.

Visa signatur

Lätt som Paj

Permalänk
Medlem

Då hela poängen med experimentet var att inte säga att de utför ett experiment som i detta fallet inte hade funkat ifall användarna var medvetna, as for Reddit, who cares? De har bränt så många broar med sina na användare att de inte har något att realistiskt stå på, reddit inc. Tror väl sig kunna springa till amerikanska rättssystemet för att få support, vilken chock de lär få när de inser att de endast hade kunnat försöka med Sweiziska rättssystemet, ett system som inte belönar den med mest back-room deals som Reddit likt andra amerikanska stora företag lär ha försökt använda sig av för att straffa de ostraffbara.. 😂

Visa signatur

Detta kontot är så gammalt att det är numera 'myndigt' åldersvis.

Permalänk
Medlem

Nyheten är nog snarare att någon har blivit påkommen med dessa experiment?

Kommer ihåg att r/sweden tog en relativt skarp sväng när LLM:er började bli körbara på konsumenthårdvara; massor med nya konton man aldrig hade sett förut med 3-4 slumpade siffror på slutet av namnet, åsikter som plötsligt började gå från en högljudd minoritet till massiv majoritet men bara i enskilda trådar, konton som tvärvände i åsikt med en ChatGPT-liknande ursäkt när de blev tillfrågade om de kunde precisera sig, etc.

Det finns helt enkelt mer än deras IPO-lallande som har drivit bort mig från Reddit redan.

Visa signatur

Mjölnir: Ryzen 9 3900X | X570-I | Ballistix Sport 32GB | Powercolor RX 5500XT 4GB ITX | Kolink Sattelite
Server: Ryzen 5 1400 | X470-F | Ballistix Sport 24GB | ASUS HD 7790 2GB | Sapphire RX 470 8GB ME | NZXT Switch 810

Permalänk
Quizmaster Malmö 22

Häftigt! 😃
A.I kan alltså lura reddit nissar.

Skrivet av killawife:

Dags att skapa ett nytt internet, humans only, med ett svårt test för att få komma in typ "kan du hitta alla gatlampor i denna bilden" eller liknande.

Alla med låg IQ o tålamod kommer inte in då 😛

La till ett citat o svar
Visa signatur

[Gigabyte EP35-DS4][Intel Core 2 Duo E8400 3.0 Ghz][2x2GB Corsair XMS 2][Gainward GTX 570][Sandisk Extreme II 480GB][Corsair HX 620W][Fractal Design Define XL R4][Acer GD245HQBID]

Permalänk
Medlem
Skrivet av Djhg2000:

Nyheten är nog snarare att någon har blivit påkommen med dessa experiment?

Kommer ihåg att r/sweden tog en relativt skarp sväng när LLM:er började bli körbara på konsumenthårdvara; massor med nya konton man aldrig hade sett förut med 3-4 slumpade siffror på slutet av namnet, åsikter som plötsligt började gå från en högljudd minoritet till massiv majoritet men bara i enskilda trådar, konton som tvärvände i åsikt med en ChatGPT-liknande ursäkt när de blev tillfrågade om de kunde precisera sig, etc.

Det finns helt enkelt mer än deras IPO-lallande som har drivit bort mig från Reddit redan.

Finns ju även annan typ av botar som brukar verka i ett söndrande och splittrande syfte. Allt behöver inte vara LLM-tolkare.

Permalänk
Medlem
Skrivet av Campaigner:

Alla med låg IQ o tålamod kommer inte in då 😛

Låter väl bara positivt?

Permalänk
Medlem
Skrivet av skewgen:

Kan förstå att Reddit möjligen är lite upprörda då det använder deras servrar och användare osv till saker som de kanske inte vill. Jag tycker dock undersökningen är både viktig och intressant då det för fram argument för vad som faktiskt bör vara lagligt tillåtet runt sådant här och hur viktigt det är att skydda sig mot det. Hur effektiva är sådana här påverkanskampanjer och hur lätt är det att lura i stora mängder folk idéer som råkar vara till ens egna politiska eller ekonomiska vinning? Det är helt klart viktiga saker att forska kring, och i ärlighetens namn är nog Reddit ett exemplariskt ställe att göra det på.

Har de inte skydd som upptäcker sådana här saker redan (reddit alltså) så finns det ju även luckor för klart mindre seriösa aktörer än några forskare från ett universitet att göra det, säkerligen med klart mer resurser för att gömma det också.

Tänkte ungefär samma sak. Oskönt att bli "utsatt" för, men det är svårt att göra en sån här undersökning ifall användarna vet om att de blivit manipulerade, och ifall själva syftet med undersökningen är att se huruvida folk kan bli påverkade, inte ATT påverka dem i en viss riktning, så kan jag se det viktiga med den. Att detta kommer bli ett reellt problem i framtiden kräver ju ingen större fantasi.

Det bästa hade ju varit ifall samtliga Ai-bottar hade gett sig till känna i slutet av undersökningen, så att alla som hade argumenterat och blivit påverkade av dem hade fått sig en rejäl tankeställare. Nu tycker jag att det är tillräckligt värdefullt i sig att folk som gärna skriker "foilehatt" över sånt här kan se vad utvecklingen kommer att leda till. Det här var ett gäng forskare som drev undersökningen, och jag killgissar att de kanske inte hade gränslösa resurser att dölja vad de höll på med för moderatorer etc.
Hur stor är chansen att det här redan förekommer i relativt stor skala av folk som är mycket skickligare på att dölja det? Och hur stor är chansen att det kommer att upptäckas NÄR det väl kommer i stor skala?

Tänk på alla politiska aktörer som försöker påverka opinionen genom lögner, smutskastningskampanjer, hets osv. Det är lätt peka ut favoritfienderna som "Ryssarna" och Kina", men det räcker med att titta på Trump som inte ens försöker dölja. Man behöver inte ens titta bortom gränsen...SD har ju också visat hur praktiskt det skulle kunna vara efter deras egen trollfabrik avslöjades.

AI ihop med skrupulösa aktörer och rena skurkar är den ljuva nya framtiden vi verkar vilja kasta oss handlöst mot. Önskar mer tanke ägnades åt hur vi ska skydda oss mot skiten som kommer än hur vi ska klämma ut så mycket ur det så snabbt det bara går.

Visa signatur

MB: Asus ROG Strix Z370-E Gaming // CPU: Intel Core i7-8700K
GPU: Asus RTX 3080 TUF OC // Acer Predator XB271HU
RAM: Corsair 16GB DDR4 3000Mhz // PSU: Corsair 750W HX
SSD: Samsung 840 Pro 128GB + 850 EVO 250GB + 850 EVO 500GB

Permalänk
Medlem

Användares data måste skyddas mer. Det kan inte vara som så att folk skänker bort sin data genom att acceptera ett avtal som dom inte förstår eller inte har något val än att acceptera om dom ska använda en platform.

Istället borde förfrågan ligga hos varje enskild användare att bestämma huruvida deras data får användas till AI forskning eller dylikt.
Och sådant här borde regleras på EU nivå så att det gäller alla och för att förhindra att bolagen sätter press på enskilda länder.

Visa signatur

En god och ädel man bör avhålla sig från varje som helst kontakt med arbetslivet.