Update app.py

app.py

@@ -1,42 +1,53 @@
 import os
 import httpx
 from fastapi import FastAPI, Request, Response
+from contextlib import asynccontextmanager
 
-app = FastAPI(
-    title="Simple OpenAI Proxy",
-    description="A non-streaming proxy that waits for the full response from OpenAI."
-)
-
+# --- КОНФИГУРАЦИЯ ---
 OR_BASE_URL = "https://openrouter.ai/api"
+CLIENT_TIMEOUT = 280.0
 
-# Создаем один асинхронный клиент на все приложение
-# Увеличим таймаут по умолчанию, т.к. генерация может быть долгой
-client = httpx.AsyncClient(base_url=OR_BASE_URL, timeout=120.0)
-
-# "Hop-by-hop" заголовки, которые не должны проксироваться.
-# Они относятся к конкретному соединению, а не к сообщению в целом.
+# "Hop-by-hop" заголовки, которые не должны проксироваться
 HOP_BY_HOP_HEADERS = {
     "connection", "keep-alive", "proxy-authenticate", "proxy-authorization",
     "te", "trailers", "transfer-encoding", "upgrade",
 }
 
+# --- УПРАВЛЕНИЕ ЖИЗНЕННЫМ ЦИКЛОМ КЛИЕНТА ---
+# Это самый надежный способ управлять httpx.AsyncClient в FastAPI
+@asynccontextmanager
+async def lifespan(app: FastAPI):
+    # Код, который выполняется при старте сервера
+    async with httpx.AsyncClient(base_url=OR_BASE_URL, timeout=CLIENT_TIMEOUT) as client:
+        print("INFO:     HTTPX Client started.")
+        # Передаем созданный клиент в состояние приложения
+        app.state.http_client = client
+        yield
+    # Код, который выполняется при остановке сервера (клиент закрывается автоматически)
+    print("INFO:     HTTPX Client closed.")
+
+# --- ПРИЛОЖЕНИЕ FASTAPI ---
+app = FastAPI(
+    title="Robust OpenAI Proxy",
+    description="A non-streaming proxy with proper client lifecycle management.",
+    lifespan=lifespan  # Подключаем наш менеджер жизненного цикла
+)
+
+# --- ЭНДПОИНТЫ ---
 @app.get("/")
 async def home():
-    return {"status": "ok", "message": "Simple, non-streaming OpenAI proxy is working."}
-
+    return {"status": "ok", "message": "Robust, non-streaming OpenAI proxy is working."}
 
 @app.api_route("/{endpoint:path}", methods=["GET", "POST", "PUT", "PATCH", "DELETE"])
 async def proxy(endpoint: str, request: Request):
     try:
-        # 1. Формируем URL для запроса к OpenAI
         url = httpx.URL(path=f"/{endpoint}", query=request.url.query.encode("utf-8"))
-        
-        # 2. Копируем заголовки и тело из входящего запроса
         headers = {k: v for k, v in request.headers.items() if k.lower() != "host"}
         body = await request.body()
 
-        # 3. Отправляем запрос и ЖДЕМ ПОЛНОГО ОТВЕТА
-        # Никакого stream=True. Мы ждем, пока `httpx` полностью загрузит ответ.
+        # Получаем клиент из состояния приложения, а не из глобальной переменной
+        client: httpx.AsyncClient = request.app.state.http_client
+
         resp_openai = await client.request(
             method=request.method,
             url=url,
@@ -44,24 +55,21 @@ async def proxy(endpoint: str, request: Request):
             content=body
         )
 
-        # 4. Фильтруем "hop-by-hop" заголовки из ответа OpenAI
-        # Все остальные заголовки (Content-Type, openai-*, и т.д.) будут сохранены
         response_headers = {
             k: v for k, v in resp_openai.headers.items() 
             if k.lower() not in HOP_BY_HOP_HEADERS
         }
 
-        # 5. Возвращаем обычный `Response` со всеми данными от OpenAI
-        # Это не стриминг. Мы возвращаем готовый, полный ответ.
         return Response(
             content=resp_openai.content,
             status_code=resp_openai.status_code,
             headers=response_headers
         )
-
     except httpx.RequestError as e:
-        # Ошибка сети при обращении к OpenAI
-        return Response(content=f"Error connecting to OpenAI API: {e}", status_code=502) # 502 Bad Gateway
+        # Эта ошибка все еще возможна, если OpenAI недоступен
+        print(f"!!! HTTPX Request Error Caught: {e!r}")
+        return Response(content=f"Could not connect to OpenAI API. Details: {e!r}", status_code=502)
     except Exception as e:
-        # Внутренняя ошибка в самом прокси-сервере
-        return Response(content=f"Internal proxy error: {e}", status_code=500)
+        # Эта ошибка ловит все остальное, что и вызывало 500
+        print(f"!!! Generic Error Caught: {e!r}")
+        return Response(content=f"An internal proxy error occurred. Details: {e!r}", status_code=500)