List of all items
Structs
Functions
- llama_apply_lora_from_file
- llama_context_default_params
- llama_copy_state_data
- llama_eval
- llama_free
- llama_get_embeddings
- llama_get_kv_cache_token_count
- llama_get_logits
- llama_get_state_size
- llama_init_from_file
- llama_load_session_file
- llama_mlock_supported
- llama_mmap_supported
- llama_model_quantize
- llama_n_ctx
- llama_n_embd
- llama_n_vocab
- llama_print_system_info
- llama_print_timings
- llama_reset_timings
- llama_sample_frequency_and_presence_penalties
- llama_sample_repetition_penalty
- llama_sample_softmax
- llama_sample_tail_free
- llama_sample_temperature
- llama_sample_token
- llama_sample_token_greedy
- llama_sample_token_mirostat
- llama_sample_token_mirostat_v2
- llama_sample_top_k
- llama_sample_top_p
- llama_sample_typical
- llama_save_session_file
- llama_set_rng_seed
- llama_set_state_data
- llama_token_bos
- llama_token_eos
- llama_token_nl
- llama_token_to_str
- llama_tokenize
Type Aliases
- int_fast16_t
- int_fast32_t
- int_fast64_t
- int_fast8_t
- int_least16_t
- int_least32_t
- int_least64_t
- int_least8_t
- intmax_t
- llama_ftype
- llama_progress_callback
- llama_token
- max_align_t
- std_nullptr_t
- uint_fast16_t
- uint_fast32_t
- uint_fast64_t
- uint_fast8_t
- uint_least16_t
- uint_least32_t
- uint_least64_t
- uint_least8_t
- uintmax_t
Constants
- LLAMA_FILE_VERSION
- LLAMA_SESSION_VERSION
- NULL
- __bool_true_false_are_defined
- llama_ftype_LLAMA_FTYPE_ALL_F32
- llama_ftype_LLAMA_FTYPE_MOSTLY_F16
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q4_0
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q4_1
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q4_1_SOME_F16
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q4_2
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q5_0
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q5_1
- llama_ftype_LLAMA_FTYPE_MOSTLY_Q8_0