llm_chain_llama_sys

Function llama_sample_token_greedy

Source 
pub unsafe extern "C" fn llama_sample_token_greedy(
    ctx: *mut llama_context,
    candidates: *mut llama_token_data_array,
) -> llama_token
Expand description

@details Selects the token with the highest probability.