Update app.py

app.py

@@ -3,6 +3,7 @@ from huggingface_hub import InferenceClient
 import os
 import random
 import logging
+import openai  # OpenAI API를 사용하기 위해 추가
 
 # 로깅 설정
 logging.basicConfig(filename='language_model_playground.log', level=logging.DEBUG, 
@@ -18,7 +19,8 @@ MODELS = {
     "Mixtral 8x7B": "mistralai/Mistral-7B-Instruct-v0.3",
     "Mixtral Nous-Hermes": "NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO",
     "Cohere Command R+": "CohereForAI/c4ai-command-r-plus",
-    "Aya-23-35B": "CohereForAI/aya-23-35B"
+    "Aya-23-35B": "CohereForAI/aya-23-35B",
+    "GPT-4o Mini": "gpt-4o-mini"  # GPT-4o Mini 모델 추가
 }
 
 # HuggingFace 토큰 설정
@@ -26,7 +28,13 @@ hf_token = os.getenv("HF_TOKEN")
 if not hf_token:
     raise ValueError("HF_TOKEN 환경 변수가 설정되지 않았습니다.")
 
+# OpenAI API 클라이언트 설정
+openai.api_key = os.getenv("OPENAI_API_KEY")
+
 def call_hf_api(prompt, reference_text, max_tokens, temperature, top_p, model):
+    if model == "gpt-4o-mini":
+        return call_openai_api(prompt, max_tokens, temperature, top_p)
+    
     client = InferenceClient(model=model, token=hf_token)
     combined_prompt = f"{prompt}\n\n참고 텍스트:\n{reference_text}"
     random_seed = random.randint(0, 1000000)
@@ -44,6 +52,22 @@ def call_hf_api(prompt, reference_text, max_tokens, temperature, top_p, model):
         logging.error(f"HuggingFace API 호출 중 오류 발생: {str(e)}")
         return f"응답 생성 중 오류 발생: {str(e)}. 나중에 다시 시도해 주세요."
 
+def call_openai_api(prompt, max_tokens, temperature, top_p):
+    try:
+        response = openai.ChatCompletion.create(
+            model="gpt-4o-mini",
+            messages=[
+                {"role": "user", "content": prompt},
+            ],
+            max_tokens=max_tokens,
+            temperature=temperature,
+            top_p=top_p,
+        )
+        return response.choices[0].message['content']
+    except Exception as e:
+        logging.error(f"OpenAI API 호출 중 오류 발생: {str(e)}")
+        return f"OpenAI 응답 생성 중 오류 발생: {str(e)}. 나중에 다시 시도해 주세요."
+
 def generate_response(prompt, reference_text, max_tokens, temperature, top_p, model):
     response = call_hf_api(prompt, reference_text, max_tokens, temperature, top_p, MODELS[model])
     response_html = f"""