app.py

import openai
import gradio as gr
from langchain import LLMChain, OpenAI, PromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

manager_prompt = """
    你是一位銀行經理，目前有一位客戶想跟你進行提款
    1. 如果客戶的訊息，跟提款沒有相關，請回覆客戶：請提出要提款的金額
    2. 目前客戶的餘額：2500元
    3. 客戶的訊息：{user_message}
    4. 請輸出，扣款後的金額。扣款後的金額為，目前客戶的餘額減去提款的金額。
    5. 內容越短越好，只會三種訊息：
      5.1 扣款後的金額，例如 500元
      5.2 餘額不足
      5.3 請提出要提款的金額
"""

manager_prompt_template = ChatPromptTemplate.from_template(manager_prompt)


def generate_response(prompt, model):

    if model == None: model = 'gpt-3.5-turbo' # Becuase in the test time the model's value is None, so it sets a default value to avoid the empty value.
    
    model = ChatOpenAI(model=model)
    parser = StrOutputParser()
    manager_chain = manager_prompt_template | model | parser
    
    return manager_chain.invoke(prompt)


dropdown = gr.Dropdown(label="選擇模型", choices=['gpt-3.5-turbo', 'gpt-4o-mini'], value='gpt-3.5-turbo')

iface = gr.Interface(
    fn=generate_response,  
    inputs=["text", dropdown],         
    outputs="text",       
    title="銀行經理", # 標題
    examples=[["我想要領取1500元"],["我想要領取3000元"]],
    description="你現在的銀行戶頭有2500元，請嘗試超領這個金額。無法一次一次領。" # 描述
    
)

iface.launch()