เชื่อมต่อโมเดล AI ของคุณเอง: endpoint, คีย์ และการใช้บริการสำรอง

การตั้ง endpoint เองทำให้แอปส่งคำขอไปยังเซิร์ฟเวอร์ที่คุณเลือก โมเดลอาจทำงานบนคอมพิวเตอร์ของคุณหรือผู้ให้บริการภายนอก การกรอกที่อยู่ไม่ได้ทำให้โมเดลทำงานบนโทรศัพท์ เริ่มจากคำขอสั้น ๆ ที่ไม่มีข้อมูลอ่อนไหวก่อนลองเอกสารหรือเวิร์กโฟลว์

Mono โดย Reunified ให้คุณใช้โมเดลของตัวเองได้ และคำตอบจากโมเดลที่คุณรันเองไม่มีค่าใช้จ่ายใน Mono ตอนนี้ Mono เปิดให้ลงชื่อในรายชื่อรอ คู่มือนี้แสดงการตั้งค่าและให้รายการตรวจไว้ใช้เมื่อคุณได้สิทธิ์เข้าใช้ แม้เซิร์ฟเวอร์จะบอกว่าเข้ากันได้ ก็ควรทดสอบกับแอปและโมเดลที่คุณใช้จริง

1. เตรียมข้อมูลเชื่อมต่อให้ถูกต้อง

คุณต้องมี URL ฐานของ API รหัสโมเดลที่ถูกต้อง และคีย์ API ถ้าจำเป็น ทำตามคำแนะนำของผู้ดูแลเซิร์ฟเวอร์ ที่อยู่เว็บไซต์ หน้าดาวน์โหลดโมเดล หรือ URL ของเซิร์ฟเวอร์ MCP ไม่ใช่ endpoint ของ API โมเดล

Mono ส่งคำขอข้อความไปยังเส้นทาง Chat Completions ใต้ที่อยู่ที่คุณกรอก จึงควรกรอกฐานของ API ไม่ใช่เส้นทางเต็ม ตัวอย่างเช่น ถ้าผู้ให้บริการระบุ https://models.example.com/v1/chat/completions ให้กรอก https://models.example.com/v1 นี่เป็นที่อยู่สมมติ ไม่ใช่บริการจริง

ตรวจว่าโมเดลรองรับอะไรอีกบ้าง การตอบเป็นข้อความได้ไม่ได้แปลว่ารองรับรูปภาพ เครื่องมือ การสตรีม หรือทุกตัวเลือกของคำขอ

2. ตั้งค่าทีละบทบาทของโมเดล

เปิดการตั้งค่า ไปที่การเชื่อมต่อ แล้วเปิดโมเดลข้อความในส่วนเอนด์พอยต์ที่กำหนดเอง กรอก URL ของ endpoint คีย์ API และรหัสโมเดลในช่องของแต่ละอย่าง อย่าใส่คีย์ในข้อความแชทหรือภาพหน้าจอ เซิร์ฟเวอร์ในเครื่องที่ไม่ต้องลงชื่อเข้าใช้อาจไม่ต้องใช้คีย์ แต่นั่นไม่ได้ทำให้ปลอดภัยพอจะเปิดสู่อินเทอร์เน็ต

เริ่มจากโมเดลข้อความ Mono แยกการตั้งค่าของโมเดลข้อความ โมเดลโค้ด และโมเดลสนับสนุน การเปลี่ยนตัวหนึ่งจึงไม่เปลี่ยนตัวอื่น จดไว้ว่าเปลี่ยนตัวไหน เพื่อให้รู้ว่าจะเริ่มตรวจจากตรงไหนถ้าภายหลังมีปัญหา

เมื่อใช้โมเดลข้อความที่กำหนดเอง ฟีเจอร์บางอย่าง เช่น เครื่องมือและสกิล อาจทำงานไม่เหมือนกับโมเดลในตัวของ Mono ให้ทดสอบการสนทนาธรรมดาก่อน ถ้าขั้นตอนงานต้องใช้สกิล คำตอบข้อความที่ดีไม่ได้พิสูจน์ว่าขั้นตอนงานจะทำงาน

3. กำหนดพฤติกรรมเมื่อเชื่อมต่อไม่สำเร็จ

โมเดลที่กำหนดเองแต่ละตัวมีสวิตช์ “ใช้โมเดลเริ่มต้นเมื่อเข้าถึงไม่ได้” ซึ่งเปิดไว้เป็นค่าเริ่มต้น อย่าคิดว่าทุกฟีเจอร์จะตอบสนองต่อเซิร์ฟเวอร์ที่ล่มแบบเดียวกัน ให้ทดสอบ: หยุดเซิร์ฟเวอร์แล้วดูว่าเกิดอะไรขึ้นในฟีเจอร์ที่คุณใช้

ถ้าคำขอของคุณต้องไปที่เซิร์ฟเวอร์ของคุณเท่านั้น ด้วยเหตุผลด้านความเป็นส่วนตัวหรือค่าใช้จ่าย ให้ปิดสวิตช์นี้และทดสอบว่าเกิดอะไรขึ้นเมื่อเซิร์ฟเวอร์ล้มเหลว ตรวจว่าคำขอไปที่ไหนจริงๆ การตั้งค่าบนหน้าจออย่างเดียวไม่พอ การเปลี่ยนโมเดลข้อความยังทำให้ต้องตรวจโมเดลอื่นและเครื่องมือที่เชื่อมต่อด้วย

อ่านคู่มือความเป็นส่วนตัวและการคำนวณค่าใช้จ่ายก่อนส่งข้อมูลอ่อนไหว

4. ทดสอบด้วยคำขอเล็ก ๆ

ถามว่า “ตอบสามคำ แดง เขียว น้ำเงิน แยกคนละบรรทัด” ตรวจว่าคำตอบมาถึง บันทึกของเซิร์ฟเวอร์ (ถ้ามี) แสดงโมเดลที่คุณเลือก และหน้าการใช้งานของผู้ให้บริการตรงกับการทดสอบ

จากนั้นทดสอบฟีเจอร์ที่คุณต้องใช้จริงหนึ่งอย่าง เช่น การสนทนาที่ยาวขึ้น เปลี่ยนทีละอย่าง จดเวอร์ชันแอป เวอร์ชันเซิร์ฟเวอร์ รหัสโมเดล และวันที่ ผลของชุดหนึ่งไม่ได้แปลว่าทุกโมเดลจะใช้ได้

ถ้าเซิร์ฟเวอร์อยู่บนคอมพิวเตอร์ของคุณ ให้ทดสอบจากเครือข่ายจริงของโทรศัพท์ด้วย localhost บนโทรศัพท์หมายถึงตัวโทรศัพท์เอง ใช้วิธีเชื่อมต่อแบบมีการลงชื่อเข้าใช้ที่เซิร์ฟเวอร์รองรับ แทนการเปิดบริการที่ไม่มีการป้องกันสู่อินเทอร์เน็ต

5. หาชั้นที่ล้มเหลวก่อน

ลบข้อมูลลับออกจากบันทึกทุกชุดที่คุณแชร์ การลงชื่อเข้าเว็บไซต์ของผู้ให้บริการได้ไม่ได้พิสูจน์ว่าคีย์ API ใช้ได้ และการทดสอบข้อความที่สำเร็จไม่ได้แปลว่าตั้งค่าโมเดลโค้ดแล้ว

6. เก็บทางกลับสู่การตั้งค่าเดิม

จดการตั้งค่าเดิมไว้ โดยไม่ใส่ข้อมูลลับ หลังเปลี่ยนเซิร์ฟเวอร์ ให้ทดสอบเล็กๆ ซ้ำ และตรวจค่าใช้จ่ายทั้งในแอปและที่ผู้ให้บริการ ตรวจการตั้งค่าโมเดลอื่นก่อนเรียกการตั้งค่าว่า “ในเครื่อง” หรือ “ส่วนตัว”

เข้าร่วมรายชื่อรอ Monoเพื่อรับข่าวการเปิดใช้ หากต้องการเชื่อมบริการภายนอกแทนการเปลี่ยนโมเดล ให้ดูคู่มือเชื่อมต่อ MCP