Skip to main content

Delentia เลือกและสลับโมเดลอย่างไร

โมเดลเป็นการตั้งค่า ไม่ใช่ส่วนประกอบตายตัว หน้านี้แยกสิ่งที่ทำงานจริงออกจากสิ่งที่เคยถูกพรรณนาไว้เกินจริง

สร้างและทดสอบแล้ว

  • คุณตั้งโมเดลเอง: โมเดลในเครื่อง (Ollama) โมเดลใดก็ได้บน OpenRouter หรือ endpoint ที่เข้ากันได้กับ OpenAI เปลี่ยนได้ด้วยคำสั่งเดียวหรือในหน้า Models
  • ต่องาน ระบบเลือกเส้นทางเร็ว (คำตอบสั้น ไม่กี่ขั้น) หรือเส้นทางช้า (ทีละขั้น) หากตัวเลือกเส้นทางเองล้มเหลว จะใช้เส้นทางช้า
  • โมเดลสำรองรับช่วงเมื่อโมเดลหลักล้มเหลว (เครือข่ายขัดข้อง หมดเวลา หรือตอบ 5xx/429) สำรองได้เฉพาะตัวที่เปิดเผยข้อมูลไม่มากกว่าโมเดลหลัก ผ่านนโยบายที่เก็บข้อมูล และมีราคาที่ทราบและอยู่ในงบ ทุกการสลับถูกบันทึก
  • ขีดจำกัดโทเค็นและค่าใช้จ่ายต่อรอบ จะปฏิเสธการเรียกที่กรณีเลวร้ายสุดเกินงบที่คุณตั้ง

ไม่มี / ยังไม่ได้วัด

  • ไม่มีรายชื่อโมเดลตายตัว ไม่มีแผง 7 โมเดล และไม่มีโมเดลใดเป็นพาร์ตเนอร์
  • ไม่ได้วัดการประหยัดต้นทุนหรือความหน่วงของการเลือกเส้นทาง จึงไม่อ้างตัวเลขใด
  • ไม่มีหลักฐานว่าการเลือกเร็ว/ช้าทำให้ผลดีขึ้นกับโมเดลที่เก่งพอ ใช้เพียงโมเดลสคริปต์และโมเดลท้องถิ่นขนาดเล็ก