Preciso saber o nome de algum programa que eu posso modificar o cliente do Tibia.
Eu quero fazer um novo cliente mesmo. Iniciar um beta de um novo jogo.

Não existe programa que modifique o cliente do tibia a não ser o IP e algumas strings. Se você que modifica-lo todo, você precisará saber programação e códigos para que altere ou adicione alguma estrutura no cliente.
Recomendo que você utilize o OTClient para ter mais liberdade e sem muitas dificuldades na edição de um cliente.