Bei einem grafischen Terminal gibt es zwei unabhängige Kodierungen.
Einmal die Terminalkodierung, die bestimmt wie Programme ihre Ausgaben kodieren und die Darstellungskodierung, die bestimmt wie die Zeichen, die an das Terminal gesendet werden Interpretiert werden sollen. Wenn beide nicht überein stimmen kommt es zu Darstellungsfehlern

Deine Terminalkodierung ist wahrscheinlich auf UTF-8 gestellt damit nutzt vim auch UTF-8 zur Darstellung der Umlaute (und konvertiert sie wenn nötig anch UTF-8), wenn du im Grafischen Terminal nur die Darstellungskodierung und nicht auch die Terminalkodierung änderst bekommst du Darstellungsfehler, da vim weiterhin die Ausgabe mit UTF-8 macht die Zeichen aber als ISO-8859-15 interpretiert werden.