Update app.py

app.py

@@ -226,6 +226,18 @@ def create_assistant(prompt, file):
 #Funktion wird direkt aufgerufen aus der GUI - von hier muss auch die Rückmeldung kommen....
 #man kann einen Text-Prompt eingeben (mit oder ohne RAG), dazu ein Image hochladen, ein Bild zu einem reinen textprompt erzeugen lassen
 def generate_auswahl(prompt, file, chatbot, history, rag_option, model_option, openai_api_key, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3,):
+        #wenn RAG angeschaltet - Vektorstore initialisieren
+        #aber nur, wenn es noch nicht geshehen ist (splittet = False)
+        if (rag_option == "An"):
+            #muss nur einmal ausgeführt werden... 
+            if not splittet:
+                splits = document_loading_splitting()
+                document_storage_chroma(splits)
+            db = document_retrieval_chroma2()
+            splittet = True
+        else:
+            splittet = False
+
         #kein Bild hochgeladen -> auf Text antworten...
         if (file == None):
             result = generate_text(prompt, chatbot, history, rag_option, model_option, openai_api_key, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3,)
@@ -286,20 +298,11 @@ def generate_text_zu_bild(file, prompt, k, rag_option, chatbot):
     prompt_neu = prompt
     if (rag_option == "An"):
         print("Bild mit RAG..............................")
-        #muss nur einmal ausgeführt werden... 
-        if not splittet:
-            splits = document_loading_splitting()
-            document_storage_chroma(splits)
-        db = document_retrieval_chroma2()
-        #mit RAG:
         neu_text_mit_chunks = rag_chain2(prompt, db, k)
         #für Chat LLM:
         #prompt = generate_prompt_with_history_openai(neu_text_mit_chunks, history)
         #als reiner prompt:
         prompt_neu = generate_prompt_with_history(neu_text_mit_chunks, chatbot)
-        splittet = True
-    else:
-        splittet = False
 
     headers, payload = process_image(file, prompt_neu)
     response = requests.post("https://api.openai.com/v1/chat/completions", headers=headers, json=payload)
@@ -319,20 +322,11 @@ def generate_text_zu_doc(file, prompt, k, rag_option, chatbot):
     prompt_neu = prompt
     if (rag_option == "An"):
         print("Doc mit RAG..............................")
-        #muss nur einmal ausgeführt werden... 
-        if not splittet:
-            splits = document_loading_splitting()
-            document_storage_chroma(splits)
-        db = document_retrieval_chroma2()
-        #mit RAG:
         neu_text_mit_chunks = rag_chain2(prompt, db, k)
         #für Chat LLM:
         #prompt = generate_prompt_with_history_openai(neu_text_mit_chunks, history)
         #als reiner prompt:
         prompt_neu = generate_prompt_with_history(neu_text_mit_chunks, chatbot)
-        splittet = True
-    else:
-        splittet = False
         
     result = create_assistant(prompt_neu, file)
     return result    
@@ -386,13 +380,6 @@ def generate_text (prompt, chatbot, history, rag_option, model_option, openai_ap
     
         #zusätzliche Dokumenten Splits aus DB zum Prompt hinzufügen (aus VektorDB - Chroma oder Mongo DB)
         if (rag_option == "An"):
-            print("RAG aktiviert.......................")
-            #muss nur einmal ausgeführt werden... 
-            if not splittet:
-                splits = document_loading_splitting()
-                document_storage_chroma(splits)
-            db = document_retrieval_chroma(llm, history_text_und_prompt)
-            splittet = True
             print("LLM aufrufen mit RAG: ...........")
             result = rag_chain(llm, history_text_und_prompt, db)
         #elif (rag_option == "MongoDB"):