GraqAI_QA_Robot / app.py
Rooobert's picture
Create app.py
26b84ef verified
import gradio as gr
from groq import Groq
class GroqChatbot:
def __init__(self, api_key, model="mixtral-8x7b-32768"):
"""
初始化 Groq AI 聊天機器人
:param api_key: Groq API 金鑰
:param model: 要使用的模型,預設為 mixtral-8x7b-32768
"""
self.client = Groq(api_key=api_key)
self.model = model
self.conversation_history = []
def generate_response(self, user_message):
"""
使用 Groq AI 產生回覆
:param user_message: 使用者輸入的訊息
:return: AI 的回覆
"""
try:
# 準備對話歷史記錄
messages = [
{"role": "system", "content": "你是一個樂於助人的 AI 助理。請用繁體中文回答問題。"}
]
# 新增先前的對話歷史
for past_user, past_ai in self.conversation_history:
messages.append({"role": "user", "content": past_user})
messages.append({"role": "assistant", "content": past_ai})
# 新增目前使用者訊息
messages.append({"role": "user", "content": user_message})
# 呼叫 Groq API
chat_completion = self.client.chat.completions.create(
messages=messages,
model=self.model
)
# 取得回覆
response = chat_completion.choices[0].message.content
return response
except Exception as e:
return f"發生錯誤:{str(e)}"
def chat_interface(self, user_message):
"""
主要聊天介面方法
:param user_message: 使用者輸入的訊息
:return: AI 回覆和對話歷史
"""
# 產生回覆
response = self.generate_response(user_message)
# 更新對話歷史
self.conversation_history.append((user_message, response))
# 準備歷史顯示
history_text = ""
for i, (question, answer) in enumerate(self.conversation_history):
history_text += f"問題 {i+1}{question}\n"
history_text += f"回覆 {i+1}{answer}\n\n"
return response, history_text
def create_gradio_interface(api_key):
"""
建立 Gradio 聊天介面
:param api_key: Groq API 金鑰
:return: Gradio 介面
"""
# 初始化聊天機器人
chatbot = GroqChatbot(api_key)
# 示範問題
examples = [
"什麼是人工智能?",
"請解釋量子運算的基本原理",
"能分享一個有趣的科技創新故事嗎?"
]
# 建立 Gradio 介面
with gr.Blocks() as demo:
gr.Markdown("# 🤖 Groq AI 智能助理 🌐")
gr.Markdown("使用 Groq AI 技術的智慧對話助手")
with gr.Row():
with gr.Column(scale=3):
input_text = gr.Textbox(label="請在此輸入您的問題...")
submit_btn = gr.Button("傳送")
with gr.Column(scale=1):
gr.Markdown("### 快速範例")
example_buttons = [gr.Button(ex) for ex in examples]
output_text = gr.Textbox(label="AI 回覆")
history_text = gr.Textbox(label="對話紀錄")
# 傳送按鈕邏輯
submit_btn.click(
fn=chatbot.chat_interface,
inputs=input_text,
outputs=[output_text, history_text]
)
# 範例按鈕邏輯
for btn, ex in zip(example_buttons, examples):
btn.click(
fn=chatbot.chat_interface,
inputs=gr.State(ex),
outputs=[output_text, history_text]
)
return demo
# 使用方法
if __name__ == "__main__":
# 請更換為您的 Groq API 金鑰
GROQ_API_KEY = "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"
# 啟動 Gradio 介面
demo = create_gradio_interface(GROQ_API_KEY)
demo.launch()