Discord är med sina drygt 150 miljoner användare per månad och miljontals servrar bland de mest populära plattformarna för kommunikation, särskilt för spelintresserade. En Discord-server kan innehålla ett par enstaka användare eller byggas till mötesplatser för hundratals användare. Tillväxten innebär även ett större behov av moderering och förvaltning av de olika communitys som växt fram, något som i nuläget huvudsakligen görs av engagerade privatpersoner.

Administratörer och moderatorer som inte är anställda av Discord har ingen formell skyldighet att uppehålla Discords uppföranderegler, men detta brukar i kombination med serverns eventuella egna regler och riktlinjer vara bland de vanligaste uppgifterna. På en stor server kan det vara lättare sagt än gjort, men snart kan de få hjälp av AI-kraft när de ska svinga bannhammaren. Discord förvärvar AI-utvecklarna Sentropy, som bland annat ligger bakom modereringsverktyg som låter användare filtrera och hantera innehåll i sitt Twitter-flöde.

One of the hard-and-fast requirements Sentropy had as we discussed working together was that our future home allows us to keep our focus on improving the internet as a whole, not just improving the Trust and Safety (T&S) capabilities of the company. Our team’s focus will be on helping Discord expand and evolve its T&S capabilities – Sentropys grundare

Sentropy meddelar förvärvet genom sin webbplats, där de även skriver att de avslutar alla sina andra projekt. Sentropys grundare uttrycker även att de är väldigt glada över att få bli en del av Discord-familjen och därigenom få fortsätta kämpa mot trakasserier online.

Enligt Discords egen statistik är trakasserier plattformens vanligaste och största problem. Under 2020 var 37 procent av användares rapporter relaterade till trakasserier och det tredje vanligaste skälet till att Discord raderade en server. En AI-baserad modereringstjänst kan vara till stor hjälp för både privatpersoner som håller i servrar och Discords egen personal för att i större grad hålla trakasserier borta från plattformen. De vore de långt från de första att införa det, liknande verktyg för framförallt text och chatt är vanligt i flertalet stora spel.

Plattformen har under 2021 backat från samtal med Microsoft för att istället ingå ett partnerskap med Sony där Discord tänkt att integreras med Playstation. En sådan integration skulle sannolikt öka antalet användare ytterligare, vilket kan vara en bidragande faktor till varför de väljer att satsa på modereringsverktyg i större grad.