boa noite,
poderia ser mais específico? se for tentativa de logins existe a opção no config.lua
loginTries = 10 - tentativas
retryTimeout = 5 * 1000 } tempo para poder reconectar
loginTimeout = 60 * 1000 }
no mais, acredito que não seja esse seu problema, creio que esteja sofrendo ataques e deseja limitar as tentativas de conexões a fim de bloquear o IP Suspeito, certo? se você se refere a conexões de jogadores em sua máquina que hospeda o servidor, você pode definir utilizando IPTables e/ou usando o CSF Firewall (minha opinião) se for usuário de S.O Linux, já windows somente utilizando um algum programa (software) específico, nesse caso que eu conheça é o KiwiGuard Firewall (muito meia boca rs), ou contratar uma proteção física (lembrando que windows é sempre mais vulnerável).
* Obs: se seu caso for ataques em grande escala, bloquear somente X IP atacante com a função de se proteger será falha, hoje em dia ataques DDoS são distribuídos em máquinas "fantasmas" e enviam milhões de pacotes por segundo onde o IP é mascarado; o firewall software pode te ajudar na maioria das vezes, mas para se livrar de modo eficaz, somente contratando um bom firewall físico, se eu puder te ajudar, me contate, abraços!