Det allmängiltiga med skärmar är att de visar den bild de får. Skärmarna har inga koncept som handlar om fönster, program eller program ovanpå program. Det som har med datorn att göra, de problemen, skapas inuti datorn – inte i skärmen.
Dubbelkoll no 1 är att om möjligt lägga skärmens egna gränssnitt och menyer över de delar som är fel. Påverkar skärmens egna menyer, då är felet definitivt i skärmen. Om inte egna menyer påverkas, då pekar allt på källan eller signaltransporten.
Just den där typen av fel med distinkta band som är ändrade är också typiskt för något som orsakas hos grafikkortet.
Finns en liknande tråd om snarlikt fel, utan någon respons från TS: https://www.sweclockers.com/forum/trad/1691474-skarm-fargarte...
Misstänker att det är något med aktuell Nvidia-drivrutin som leder till artefakter. Att det inte inträffar med dina andra skärmar beror rimligen på att det är andra skärmar med lägre upplösning och förmodligen också lägre frekvens. 2560x1440 i 300 Hz kräver rätt mycket på marginalerna för vad som är möjligt med DP, inklusive DSC, och där har du själv felsökt att det försvinner vid en något lägre frekvens.
Detta kan tyda på DP-kabeln, även om de problemen en dålig kabel mer yttrar sig som flimmer och avbrott. Mer kaotiska fel och svart skärm, snarare än de där typiska GPU-felet dina bilder visar.
Det kan även vara en rent hårdvarumässigt problem där man på de här marginalerna, skärmens "överklockning" inte får 100 procent funktion med alla kombinationer av hårdvara. Därav att skärmtillverkarna i princip alltid friskriver sig om max frekvens med en YMMV-text.