Europeiska unionens byrå för samarbete inom brottsbekämpning, Europol, har släppt en ny rapport som fokuserar på språkmodeller som Chat GPT och liknande. Dessa tjänster har blivit alltmer populära inte bara bland laglydiga individer utan också bland cyberskurkar.
As the capabilities of LLMs such as ChatGPT are actively being improved, the potential exploitation of these types of AI systems by criminals provide a grim outlook. – Europol
Rapporten identifierar särskilt tre områden där dessa stora språkmodeller kan användas för att orsaka skada. För det första kan språkmodellerna användas för nätfiske, där Chat GPT:s förmåga att generera text som låter trovärdig kan öka risken för potentiella offer.
För det andra kan språkmodeller användas för att skapa och sprida desinformation, vilket också utgör ett problemområde. För det tredje kan språkmodellerna användas för att skapa elakartad kod, även om användaren saknar kunskap om kodning.
Europol blickar i sin rapport mot en dyster framtid som är präglad av språkmodeller. Även om verktyg som Chat GPT är förhållandevis grundläggande väntas framtida språkmodeller ha tillgång till mer data och kunna lösa mer sofistikerade problem, vilket ökar risken för ondsinta aktörer att ställa till problem.
