DebopamC commited on
Commit
673676b
·
1 Parent(s): 4342bf2

(Trained with Unsloth)

Browse files
Files changed (1) hide show
  1. Modelfile +30 -0
Modelfile ADDED
@@ -0,0 +1,30 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ FROM /kaggle/working/DebopamC/Text-to-SQL__Qwen2.5-Coder-3B-FineTuned/unsloth.F16.gguf
2
+
3
+ TEMPLATE """{{ if .Prompt }}### user:
4
+ {{ .Prompt }}
5
+
6
+ {{ end }}### assistant:
7
+ {{ .Response }}
8
+
9
+ <|im_end|>"""
10
+
11
+ PARAMETER stop "<|image_pad|>"
12
+ PARAMETER stop "<|endoftext|>"
13
+ PARAMETER stop "<|quad_end|>"
14
+ PARAMETER stop "<|object_ref_end|>"
15
+ PARAMETER stop "<|object_ref_start|>"
16
+ PARAMETER stop "<|file_sep|>"
17
+ PARAMETER stop "<|repo_name|>"
18
+ PARAMETER stop "<|PAD_TOKEN|>"
19
+ PARAMETER stop "<|quad_start|>"
20
+ PARAMETER stop "<|box_start|>"
21
+ PARAMETER stop "<|box_end|>"
22
+ PARAMETER stop "<|im_start|>"
23
+ PARAMETER stop "</tool_call>"
24
+ PARAMETER stop "<|video_pad|>"
25
+ PARAMETER stop "<tool_call>"
26
+ PARAMETER stop "<|im_end|>"
27
+ PARAMETER stop "<|vision_"
28
+ PARAMETER stop "<|fim_"
29
+ PARAMETER temperature 1.5
30
+ PARAMETER min_p 0.1