Zuerst benenne den Windows Server um und starte ihn neu. Schau ob der neue Name korrekt in AD registriert wurde. Den Servernamen in SQL Server musst du manuell umbenennen da dieser bei der Installation gespeichert wird.
-- Alten Namen inkl. Instanz entfernen
EXEC sp_dropserver 'ALTER_NAME\INSTANZNAME';
-- Neuen Namen inkl. Instanz hinzufügen
EXEC sp_addserver 'NEUER_NAME\INSTANZNAME', 'local';
Danach starte den SQL-Server Dienst neu und prüfe ob der neue Name übernommen wurde.
SELECT @@SERVERNAME;
Wenn du Replikation, Spiegelung oder Always On konfiguriert hast musst du diese Einstellungen anpassen!