研究方法

3.1 更新模型版本

由於上學期使用的語言模型已停止服務,為確保系統可持續運行,本階段改採用 llama-3.1-8b-instant作為主要生成模型。 此模型在成本與運算效能之間取得良好平衡,能滿足系統在對話生成上的基本需求,確保研究能在可控資源範圍內持續開發與測試其他功能模組。

model = "llama-3.1-8b-instant"
base_url="https://api.groq.com/openai/v1"

為確保模型能在正確的運行環境中執行,系統同時在初始化階段載入必要的通用函式庫,包括 re、json 與 numpy。 這三個模組是支撐後續語義分析與相似度計算的重要基礎,例如 re 用於關鍵字與數值擷取,json 負責處理模型的輸出格式, 而 numpy 則用於語義嵌入向量之間的運算與相似度計算。這些模組的載入確保了模型在更新至 llama-3.1-8b-instant 後, 仍能保持穩定的資料處理能力與運算效率。

import re
import json
import numpy as np