llama_cpp_sys_4

Function llama_kv_cache_can_shift

Source
pub unsafe extern "C" fn llama_kv_cache_can_shift(
    ctx: *mut llama_context,
) -> bool