File size: 141 Bytes
06d1ea4 |
1 2 3 4 5 6 7 |
FROM ./Phi-3-mini-4k-instruct-q4.gguf
TEMPLATE """<|user|>
{{.Prompt}}<|end|>
<|assistant|>"""
PARAMETER stop <|end|>
PARAMETER num_ctx 4096
|
06d1ea4 |
1 2 3 4 5 6 7 |
FROM ./Phi-3-mini-4k-instruct-q4.gguf
TEMPLATE """<|user|>
{{.Prompt}}<|end|>
<|assistant|>"""
PARAMETER stop <|end|>
PARAMETER num_ctx 4096
|