Проблема, когда подключение по RDP удаётся только с N-ной попытки, скорее всего, вызвано атакой на ваш сервер с целью подобрать пароль к учетной записи Windows.
1) Смените логин Administrator на другое.
2) Смените порт RDP через реестр Windows на другой.
3) Для решения проблемы можно установить ПО для блокировки атакующих IP адресов - IPBan. Для этого откройте PowerShell с правами администратора и выполните команду:
[Net.ServicePointManager]::SecurityProtocol = [Net.SecurityProtocolType]::Tls12; iex ((New-Object System.Net.WebClient).DownloadString('https://raw.githubusercontent.com/DigitalRuby/IPBan/master/IPBanCore/Windows/Scripts/install_latest.ps1'))
После установки IPBan откроется на редактирование его конфгурационный файл - все настройки можно оставить по умолчанию.