Update README.md

README.md

@@ -41,6 +41,21 @@ for token in top_5_tokens:
 # אילת היא מטרופולין המהווה את מרכז הכלכלה
 ```
 
+```
+def ppl_naive(text, model, tokenizer):
+    input = tokenizer.encode(text, return_tensors="pt")
+    loss = model(input, labels=input)[0]
+    return torch.exp(loss).item()
+
+text = """{} היא עיר הבירה של מדינת ישראל, והעיר הגדולה ביותר בישראל בגודל האוכלוסייה"""
+
+for word in ["חיפה", "ירושלים", "תל אביב"]:
+  print(ppl_naive(text.format(word), model, tokenizer))
+
+# 10.181422233581543
+# 9.743313789367676
+# 10.171016693115234
+```
 
 When using AlephBertGimmel, please reference: