Fica difícil de ajudar sem saber o que se passa, mas com toda certeza você está manipulando isso de forma incorreta.
Realize os seguintes passos, apague tudo que você baixou sobre.
Use os comandos a seguir de forma sequenciada e ordenada e tenha certeza de USAR todos os comandos que eu listar.
# apt-get install git cmake build-essential liblua5.2-dev libgmp3-dev libmysqlclient-dev libboost-system-dev libpugixml-dev
# cd /home/
# git clone https://github.com/mattyx14/otxserver.git
# cd /home/otxserver/path_10_9/
# mkdir build && cd build
# cmake ..
# make