llama.cpp / src /llama-cparams.cpp
dlxj
todo: 基于 CUDA 13.0 编译
2517be1
#include "llama-cparams.h"
size_t llama_max_parallel_sequences(void) {
return LLAMA_MAX_SEQ;
}