feat(llama.cpp): add distributed llama.cpp inferencing

feat(llama.cpp): add distributed llama.cpp inferencing #4001