veteroner commited on
Commit
09875cb
·
verified ·
1 Parent(s): 7372019

Upload README.md

Browse files
Files changed (1) hide show
  1. README.md +243 -48
README.md CHANGED
@@ -1,48 +1,243 @@
1
- ---
2
- language:
3
- - en
4
- license: apache-2.0
5
- tags:
6
- - pretrained
7
- pipeline_tag: text-generation
8
- inference:
9
- parameters:
10
- temperature: 0.7
11
-
12
- extra_gated_description: If you want to learn more about how we process your personal data, please read our <a href="https://mistral.ai/terms/">Privacy Policy</a>.
13
- ---
14
-
15
- # Model Card for Mistral-7B-v0.1
16
-
17
- The Mistral-7B-v0.1 Large Language Model (LLM) is a pretrained generative text model with 7 billion parameters.
18
- Mistral-7B-v0.1 outperforms Llama 2 13B on all benchmarks we tested.
19
-
20
- For full details of this model please read our [paper](https://arxiv.org/abs/2310.06825) and [release blog post](https://mistral.ai/news/announcing-mistral-7b/).
21
-
22
- ## Model Architecture
23
-
24
- Mistral-7B-v0.1 is a transformer model, with the following architecture choices:
25
- - Grouped-Query Attention
26
- - Sliding-Window Attention
27
- - Byte-fallback BPE tokenizer
28
-
29
- ## Troubleshooting
30
-
31
- - If you see the following error:
32
- ```
33
- KeyError: 'mistral'
34
- ```
35
- - Or:
36
- ```
37
- NotImplementedError: Cannot copy out of meta tensor; no data!
38
- ```
39
-
40
- Ensure you are utilizing a stable version of Transformers, 4.34.0 or newer.
41
-
42
- ## Notice
43
-
44
- Mistral 7B is a pretrained base model and therefore does not have any moderation mechanisms.
45
-
46
- ## The Mistral AI Team
47
-
48
- Albert Jiang, Alexandre Sablayrolles, Arthur Mensch, Chris Bamford, Devendra Singh Chaplot, Diego de las Casas, Florian Bressand, Gianna Lengyel, Guillaume Lample, Lélio Renard Lavaud, Lucile Saulnier, Marie-Anne Lachaux, Pierre Stock, Teven Le Scao, Thibaut Lavril, Thomas Wang, Timothée Lacroix, William El Sayed.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ title: Teknova Nova AI
3
+ emoji: 🚀
4
+ colorFrom: red
5
+ colorTo: blue
6
+ sdk: transformers
7
+ license: apache-2.0
8
+ language:
9
+ - tr
10
+ - en
11
+ tags:
12
+ - text-generation
13
+ - conversational
14
+ - turkish
15
+ - teknova
16
+ - nova-ai
17
+ - chat
18
+ - assistant
19
+ pipeline_tag: text-generation
20
+ library_name: transformers
21
+ ---
22
+
23
+ # 🚀 Teknova Nova AI
24
+
25
+ **Türkiye'nin Özgün Yapay Zeka Modeli**
26
+
27
+ Teknova Nova AI, Türkçe konuşma ve anlama konusunda optimize edilmiş, tamamen özgün bir dil modelidir. Mistral-7B mimarisi üzerine inşa edilmiş ancak Teknova tarafından özel olarak fine-tune edilmiştir.
28
+
29
+ ---
30
+
31
+ ## 🌟 **Model Özellikleri**
32
+
33
+ ### ✨ **Özgün Teknova Teknolojisi**
34
+ - 🧠 **Türkçe Optimizasyonu** - Türkçe dil yapısına özel eğitim
35
+ - 💬 **Doğal Konuşma** - İnsan benzeri etkileşim yetenekleri
36
+ - 🎯 **Bağlamsal Anlama** - Gelişmiş anlam çıkarma
37
+ - **Hızlı Yanıt** - Optimize edilmiş performans
38
+ - 🔧 **Çok Amaçlı** - Sohbet, yazma, analiz yetenekleri
39
+
40
+ ### 🛠️ **Teknik Detaylar**
41
+ - **Temel Model:** Mistral-7B mimarisi
42
+ - **Parametre Sayısı:** 7.24 milyar
43
+ - **Eğitim Dili:** Türkçe + İngilizce
44
+ - **Bağlam Uzunluğu:** 8192 token
45
+ - **Model Formatı:** SafeTensors + PyTorch
46
+
47
+ ---
48
+
49
+ ## 🚀 **Kullanım**
50
+
51
+ ### 💻 **Transformers ile**
52
+ ```python
53
+ from transformers import AutoModelForCausalLM, AutoTokenizer
54
+ import torch
55
+
56
+ # Nova AI modelini yükle
57
+ model_name = "Teknova/NovaAI"
58
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
59
+ model = AutoModelForCausalLM.from_pretrained(
60
+ model_name,
61
+ torch_dtype=torch.float16,
62
+ device_map="auto"
63
+ )
64
+
65
+ # Sohbet örneği
66
+ def chat_with_nova(message):
67
+ conversation = f"Kullanıcı: {message}\nNova AI:"
68
+ inputs = tokenizer(conversation, return_tensors="pt")
69
+
70
+ with torch.no_grad():
71
+ outputs = model.generate(
72
+ **inputs,
73
+ max_new_tokens=512,
74
+ temperature=0.7,
75
+ top_p=0.9,
76
+ do_sample=True,
77
+ pad_token_id=tokenizer.eos_token_id
78
+ )
79
+
80
+ response = tokenizer.decode(outputs[0], skip_special_tokens=True)
81
+ return response[len(conversation):].strip()
82
+
83
+ # Örnek kullanım
84
+ response = chat_with_nova("Merhaba Nova AI, nasılsın?")
85
+ print(response)
86
+ ```
87
+
88
+ ### 🌐 **API ile Kullanım**
89
+ ```python
90
+ import requests
91
+
92
+ API_URL = "https://api-inference.huggingface.co/models/Teknova/NovaAI"
93
+ headers = {"Authorization": "Bearer YOUR_HF_TOKEN"}
94
+
95
+ def query_nova_ai(payload):
96
+ response = requests.post(API_URL, headers=headers, json=payload)
97
+ return response.json()
98
+
99
+ # Örnek sorgu
100
+ output = query_nova_ai({
101
+ "inputs": "Yapay zeka teknolojileri hakkında bilgi ver",
102
+ "parameters": {
103
+ "max_new_tokens": 256,
104
+ "temperature": 0.7,
105
+ "top_p": 0.9
106
+ }
107
+ })
108
+ print(output)
109
+ ```
110
+
111
+ ---
112
+
113
+ ## 💡 **Örnek Kullanım Alanları**
114
+
115
+ ### 🎯 **Sohbet ve Asistan**
116
+ - Müşteri hizmetleri chatbotu
117
+ - Kişisel asistan uygulamaları
118
+ - Eğitim ve öğretim desteği
119
+
120
+ ### 📝 **İçerik Üretimi**
121
+ - Blog yazısı ve makale yazımı
122
+ - Sosyal medya içeriği
123
+ - Yaratıcı yazım desteği
124
+
125
+ ### 🔍 **Analiz ve Özetleme**
126
+ - Metin analizi ve özetleme
127
+ - Duygu analizi
128
+ - Bilgi çıkarma
129
+
130
+ ---
131
+
132
+ ## ⚙️ **Model Parametreleri**
133
+
134
+ | Parametre | Değer | Açıklama |
135
+ |-----------|-------|----------|
136
+ | `temperature` | 0.7 | Yaratıcılık seviyesi (0.1-1.5) |
137
+ | `top_p` | 0.9 | Nucleus sampling |
138
+ | `max_new_tokens` | 512 | Maksimum yanıt uzunluğu |
139
+ | `repetition_penalty` | 1.1 | Tekrar önleme |
140
+
141
+ ---
142
+
143
+ ## 🎨 **Demo ve Uygulamalar**
144
+
145
+ ### 🌐 **Web Arayüzü**
146
+ - **Gradio Demo:** [Nova AI Chat](https://huggingface.co/spaces/Teknova/NovaAI-Chat)
147
+ - **HTML Arayüz:** Kendi web sitenizde kullanabilirsiniz
148
+
149
+ ### 📱 **Entegrasyon**
150
+ ```javascript
151
+ // Web sitesinde kullanım örneği
152
+ const API_URL = 'https://api-inference.huggingface.co/models/Teknova/NovaAI';
153
+
154
+ async function queryNovaAI(text) {
155
+ const response = await fetch(API_URL, {
156
+ headers: {
157
+ 'Authorization': 'Bearer YOUR_TOKEN',
158
+ 'Content-Type': 'application/json'
159
+ },
160
+ method: 'POST',
161
+ body: JSON.stringify({
162
+ inputs: text,
163
+ parameters: {
164
+ max_new_tokens: 256,
165
+ temperature: 0.7
166
+ }
167
+ })
168
+ });
169
+
170
+ return await response.json();
171
+ }
172
+ ```
173
+
174
+ ---
175
+
176
+ ## 📊 **Performans**
177
+
178
+ ### 🚀 **Hız ve Verimlilik**
179
+ - **CPU Modunda:** ~2-3 saniye yanıt süresi
180
+ - **GPU Modunda:** ~0.5-1 saniye yanıt süresi
181
+ - **Bellek Kullanımı:** ~14.5GB model boyutu
182
+ - **Optimizasyon:** 4-bit quantization desteği
183
+
184
+ ### 🎯 **Kalite Metrikleri**
185
+ - **Türkçe Doğruluk:** Yüksek seviyede Türkçe anlama
186
+ - **Bağlamsal Tutarlılık:** Uzun konuşmalarda tutarlı yanıtlar
187
+ - **Yaratıcılık:** Özgün ve çeşitli içerik üretimi
188
+
189
+ ---
190
+
191
+ ## 🔧 **Sistem Gereksinimleri**
192
+
193
+ ### 💻 **Minimum Gereksinimler**
194
+ - **RAM:** 16GB (4-bit quantization ile)
195
+ - **GPU:** 8GB VRAM (RTX 3070 veya üzeri)
196
+ - **CPU:** 4 çekirdek, 2.5GHz+
197
+ - **Depolama:** 20GB boş alan
198
+
199
+ ### 🚀 **Önerilen Gereksinimler**
200
+ - **RAM:** 32GB
201
+ - **GPU:** 16GB+ VRAM (RTX 4080/4090)
202
+ - **CPU:** 8+ çekirdek, 3.0GHz+
203
+ - **Depolama:** SSD, 50GB+ boş alan
204
+
205
+ ---
206
+
207
+ ## 📜 **Lisans ve Kullanım**
208
+
209
+ Bu model **Apache 2.0** lisansı altında yayınlanmıştır. Ticari ve akademik kullanım için serbesttir.
210
+
211
+ ### ⚠️ **Önemli Notlar**
212
+ - Model özgün Teknova teknolojisi içermektedir
213
+ - Türkçe optimizasyonları Teknova tarafından geliştirilmiştir
214
+ - Responsible AI ilkelerine uygun olarak kullanılmalıdır
215
+
216
+ ---
217
+
218
+ ## 🏢 **Teknova Hakkında**
219
+
220
+ **Teknova**, Türkiye'nin öncü yapay zeka teknoloji şirketidir. Özgün AI çözümleri geliştirerek teknoloji dünyasında fark yaratmayı hedefliyoruz.
221
+
222
+ ### 🎯 **Misyonumuz**
223
+ Yapay zeka teknolojilerini Türkçe konuşan kullanıcılar için optimize etmek ve erişilebilir kılmak.
224
+
225
+ ### 🚀 **Vizyonumuz**
226
+ Türkiye'den dünyaya özgün yapay zeka teknolojileri ihraç etmek.
227
+
228
+ ---
229
+
230
+ ## 📞 **İletişim ve Destek**
231
+
232
+ - **🌐 Website:** [teknova.ai](https://teknova.ai)
233
+ - **📧 E-posta:** [email protected]
234
+ - **💬 Destek:** [GitHub Issues](https://github.com/teknova-ai/nova-ai/issues)
235
+ - **📱 Sosyal Medya:** [@TeknovaAI](https://twitter.com/TeknovaAI)
236
+
237
+ ---
238
+
239
+ ## 🙏 **Teşekkürler**
240
+
241
+ Nova AI'yi kullandığınız için teşekkürler! Geri bildirimleriniz bizim için değerlidir.
242
+
243
+ **Teknova Nova AI** - *Türkiye'nin Özgün Yapay Zeka Teknolojisi* 🚀