ปฏิภาณ นามเวช
คุยงาน

อ่านประมาณ 3 นาที

AI ตอบผิดได้แบบมั่นใจเต็มร้อย บทความนี้อธิบายว่า hallucination คืออะไร สถานการณ์ที่มักพลาด และวิธีป้องกันก่อนปล่อยให้ chatbot ตอบลูกค้าแทนคุณ

ทำไม AI ตอบมั่ว และธุรกิจต้องป้องกันอะไรก่อนให้บอทคุยกับลูกค้า

AI ตอบคำถามได้ลื่นไหลและมั่นใจในทุกคำตอบ ไม่ว่าคำตอบนั้นจะถูกหรือผิด นี่คือจุดที่อันตรายที่สุดของการใช้งาน AI เพราะปัญหาไม่ได้อยู่ที่มันตอบผิดเป็นบางครั้ง แต่อยู่ที่มันตอบผิดโดยไม่มีสัญญาณเตือนใดๆ ให้เรารู้ว่าควรสงสัย

Hallucination คืออะไร และทำไมถึงอันตราย

Hallucination คือการที่ AI สร้างข้อมูลที่ฟังดูสมเหตุสมผลแต่ไม่เป็นความจริง เช่น อ้างอิงงานวิจัยที่ไม่มีอยู่จริง สร้างชื่อ API ที่ไม่มี หรือให้ตัวเลขสถิติที่แต่งขึ้นมาเอง สิ่งที่อันตรายไม่ใช่ตัวข้อมูลผิดเอง แต่คือความมั่นใจของน้ำเสียงที่ทำให้คนเชื่อโดยไม่ตรวจสอบ

สถานการณ์ที่มักเกิดปัญหาจริง

อ้างอิงแหล่งข้อมูลหรือกฎหมายที่ไม่แม่นยำ

โดยเฉพาะเรื่องกฎหมาย ภาษี หรือระเบียบที่เปลี่ยนแปลงบ่อย AI อาจให้ข้อมูลที่ล้าสมัยหรือผสมกฎเกณฑ์จากหลายที่เข้าด้วยกันโดยไม่รู้ตัว

ตัวเลขและสถิติที่ดูสมเหตุสมผลแต่ไม่มีที่มาจริง

เวลาขอสถิติตลาดหรือข้อมูลเปรียบเทียบ AI อาจสร้างตัวเลขที่ "ฟังดูสมเหตุสมผล" ในบริบทนั้น แทนที่จะบอกว่าไม่มีข้อมูลแน่ชัด

โค้ดที่ใช้ฟังก์ชันหรือ library ที่ไม่มีอยู่จริง

โดยเฉพาะเทคโนโลยีใหม่หรือเวอร์ชันล่าสุด AI อาจสร้างชื่อ method ที่ฟังดูเข้าท่าตามแพทเทิร์นที่เคยเห็น แต่ไม่มีอยู่จริงในเวอร์ชันนั้น

สรุปเอกสารที่ตัดรายละเอียดสำคัญออกไปโดยไม่บอก

เวลาให้ AI สรุปเอกสารยาว มันอาจละเลยเงื่อนไขสำคัญหรือข้อยกเว้นที่ฝังอยู่ลึกๆ ทำให้สรุปที่ได้ดูสมบูรณ์แต่ขาดจุดสำคัญไป

วิธีป้องกันไม่ให้เกิดความเสียหายจริง

1. ตรวจสอบเรื่องที่มีผลกระทบสูงเสมอ

กฎหมาย การเงิน สุขภาพ หรือการตัดสินใจที่ย้อนกลับไม่ได้ ควรตรวจสอบจากแหล่งที่เชื่อถือได้เสมอ ไม่ว่า AI จะตอบมั่นใจแค่ไหนก็ตาม

2. ขอให้ AI บอกความไม่แน่ใจของตัวเอง

พิมพ์คำสั่งเช่น "ถ้าไม่แน่ใจหรือไม่มีข้อมูลจริง ให้บอกว่าไม่แน่ใจ อย่าเดา" ช่วยลดโอกาสที่ AI จะสร้างคำตอบขึ้นมาลอยๆ ได้ในระดับหนึ่ง แม้จะไม่ป้องกันได้ร้อยเปอร์เซ็นต์

3. ขอแหล่งอ้างอิงที่ตรวจสอบได้

เวลาต้องการข้อมูลที่ต้องอ้างอิง ให้ขอลิงก์หรือแหล่งที่มาที่ตรวจสอบได้จริง แล้วเปิดดูเองก่อนนำไปใช้ ไม่ใช่เชื่อเพราะ AI พูดว่ามีแหล่งอ้างอิง

4. ใช้ AI สองตัวหรือมากกว่าตรวจไขว้กันสำหรับเรื่องสำคัญ

ถ้าเรื่องนั้นสำคัญพอ การถามคำถามเดียวกันกับ AI คนละตัว แล้วเทียบคำตอบ ช่วยจับความผิดพลาดที่แต่ละตัวอาจพลาดคนละจุดได้

5. ฝึกสงสัยกับคำตอบที่ดู "ลงตัวเกินไป"

ถ้าคำตอบเรียบร้อยสมบูรณ์แบบเกินไปสำหรับคำถามที่ซับซ้อน ให้ตั้งข้อสงสัยไว้ก่อน คำตอบจริงมักมีความไม่แน่นอนหรือข้อยกเว้นอยู่บ้าง

สรุป

ปัญหาที่แท้จริงของการใช้ AI ไม่ใช่การที่มันตอบผิด แต่คือการที่เราเชื่อโดยไม่ตรวจสอบเพราะน้ำเสียงมั่นใจของมัน วิธีป้องกันที่ดีที่สุดไม่ใช่การเลิกใช้ AI แต่คือการฝึกนิสัยตรวจสอบเป็นประจำ โดยเฉพาะกับเรื่องที่มีผลกระทบสูง เพราะความรับผิดชอบต่อผลลัพธ์สุดท้ายยังคงเป็นของคนที่ตัดสินใจใช้คำตอบนั้น ไม่ใช่ของ AI

ก่อนให้ chatbot ตอบลูกค้า ต้องวางระบบอะไรบ้าง

  • ให้บอทตอบจากข้อมูลของคุณเท่านั้น เช่น รายการสินค้า เงื่อนไขการจัดส่ง และนโยบายคืนสินค้า ไม่ใช่ตอบจากความรู้ทั่วไปของโมเดล
  • สั่งให้บอทบอกว่าไม่ทราบ เมื่อคำถามอยู่นอกข้อมูลที่มี แล้วส่งต่อให้แอดมินทันที แทนการเดาคำตอบ
  • เก็บประวัติการสนทนาไว้ตรวจ สัปดาห์แรกควรอ่านทุกบทสนทนา เพื่อดูว่าบอทพลาดตรงไหนแล้วเติมข้อมูลให้ครบ
  • เรื่องเงินและข้อผูกมัดต้องผ่านคน เช่น คืนเงิน ให้ส่วนลด หรือยืนยันวันส่งของ

ดูวิธีทำบอทที่ตอบจากข้อมูลธุรกิจของคุณเองได้ที่ บริการรับทำระบบอัตโนมัติและ LINE Chatbot

+ อ่านต่อ

01 คุยงาน

อ่านแล้วอยากให้ทำระบบแบบในบทความ หรือมีคำถามต่อจากที่อ่าน ทักมาคุยได้เลย ประเมินฟรีตามขอบเขตงาน