AI Gateway อัปเดตเพิ่มฟีเจอร์ Session Affinity ใน Logs

AI Gateway อัปเดตเพิ่มฟีเจอร์ Session Affinity ใน Logs

ในยุคปัจจุบันที่เทคโนโลยี AI กำลังเข้ามามีบทบาทสำคัญในชีวิตเรา การติดตามและวิเคราะห์พฤติกรรมการทำงานของ AI นับว่าเป็นสิ่งจำเป็น ฟีเจอร์ใหม่จาก AI Gateway ที่ช่วยให้เราสามารถเห็นภาพรวมของการทำงาน AI จะทำให้การพัฒนา AI ก้าวหน้าไปอีกขั้น

AI Gateway ได้เพิ่มมุมมองใหม่ใน logs ที่ช่วยให้ผู้พัฒนาสามารถดูคำขอ (requests) ที่ถูกจัดกลุ่มเป็น sessions พร้อมทั้งระบุได้ว่า session affinity ตั้งค่าวิธีการจัดการกับคำขออย่างไร แต่ละบรรทัดจะบอกว่า agent หรือแอปไหนกำลังทำงานอยู่ เช่น Claude Code, Codex หรือ Cursor พร้อมข้อมูลต้นทุน, โมเดล, และผู้ให้บริการ

ทำไมฟีเจอร์นี้จึงสำคัญกับนักพัฒนาชาวไทย? การมีเครื่องมือนี้ช่วยให้เราเห็นภาพรวมของการทำงานของระบบ AI ได้อย่างชัดเจนยิ่งขึ้น ทั้งช่วยในการดูว่า session ใดมีการใช้ cache อย่างไร และมีค่าใช้จ่ายอย่างไร ซึ่งเป็นข้อมูลที่เป็นประโยชน์สำหรับการปรับปรุงประสิทธิภาพของโปรเจคและลดค่าใช้จ่ายที่ไม่จำเป็น

หากคุณต้องการลองใช้ฟีเจอร์ใหม่นี้ สามารถเปิด session ดูว่ามีอัตราการเข้าถึง cache หรือไม่ ระยะเวลา และเส้นทางที่ถูกใช้ นอกจากนี้ ยังสามารถกรอง sessions ตามจำนวนครั้งที่เกิดขึ้น, client, โมเดล, ผู้ให้บริการ, การยืนยันตัวตน, หรือต้นทุน

สำหรับท่านที่ต้องการจัดกลุ่ม requests เอง สามารถส่ง sessionId ใน providerOptions.gateway หรือเพิ่ม header x-session-id ในคำขอทุกๆ ครั้งในบทสนทนา หากไม่มีจะจัดกลุ่มตาม fingerprint ของการเปิดบทสนทนาและจะปรากฏในรูปแบบ fingerprinted sessions

ที่มา: Vercel