Generativa AI-modeller är bra på mycket, även på att fabulera. Detta har lett till något av en kris för encyklopedin Wikipedia, skriver Techspot.
Wikipedia bygger som bekant på en öppen redigeringsmodell där vem som helst kan bidra till artiklarna. Detta har genom åren lett till att sajten inte på något vattentätt sätt kunnat skydda sig mot personer som av olika anledningar vill sprida felaktig information.
Föga förvånande har spridningen av felaktig information på Wikipedia tagit ordentlig skruv i takt med att AI-verktyg kapabla att generera stora mängder text på kort tid har blivit tillgängliga för alla.
Frivilliga ska stoppa AI-fantasier
För att tackla det växande problemet har Wikipedia sjösatt initiativet Wikiproject AI Cleanup, där frivilliga hjälps åt att hitta och ta bort uppenbart AI-genererat innehåll utan källhänvisningar.
Techspot tar upp Wikipedia-artikeln om den osmanska fästningen Amberlisihar, byggd på 1400-talet, som ett exempel på problemet. Artikeln ger en uttömmande beskrivning av den historiska byggnaden i en 2 000 ord lång artikel som ser relativt trovärdig ut. Problemet? Det finns ingen osmansk fästning som heter Amberlisihar.
Desto svårare blir det förstås för den frivilliga städpatrullen i de fall där AI-genererade fantasier smugit sig in i befintliga artiklar som i övrigt innehåller korrekt information.
Frågan är om det ens kommer att vara möjligt att rensa upp på sajten, med tanke på hur snabbt och lätt det går att producera innehåll med AI. Kanske kommer Wikipedia så småningom att behöva tänka om kring sin modell för att inte helt förlora trovärdigheten som informationskälla.
