การสร้างข้อมูลที่เสริมด้วยการดึงข้อมูล

RAG มีสองส่วน ส่วนแรกคือล่วงหน้า เอกสารถูกแบ่งเป็นชิ้นเล็ก ๆ แปลงเป็น embeddings และจัดทำดัชนี ต่อมาเมื่อมีคำถาม เราจะแปลงคำถามเป็น embedding แล้วค้นหาชิ้นที่ใกล้ที่สุด — โดยทั่วไปจะรวมกับการค้นหาคำหลัก — แล้วเอาชิ้นเหล่านั้นมาผนวกเข้ากับคำสั่งในการตอบคำถามโดยให้ตอบเฉพาะจากชิ้นเหล่านั้นและอ้างอิงแหล่งที่มา

เหตุผลที่มันเป็นที่นิยมในองค์กรคือด้านการดำเนินงานมากกว่าเทคนิค: ความรู้อยู่ในคลังเอกสารของคุณ การเปลี่ยนแปลงเอกสารทำให้คำตอบต่อไปเปลี่ยนไป ไม่ต้องทำการฝึกใหม่ ไม่มีความล่าช้า และสามารถกำหนดสิทธิ์ได้ในขณะที่ดึงข้อมูล ดังนั้นผู้ใช้จะไม่มีวันเห็นข้อความที่ไม่ได้รับอนุญาต

รูปแบบความล้มเหลวจะรวมอยู่ในที่เดียวกันนั้น ความล้มเหลวส่วนใหญ่ของ RAG เกิดจากการค้นหา ส่วนใหญ่ของปัญหา RAG เป็นปัญหาการค้นหา ความคล้ายคลึงของเวกเตอร์เพียงอย่างเดียวอ่อนแอเมื่อต้องการค้นหาสิ่งที่ระบุอย่างชัดเจน เช่น หมายเลขใบแจ้งหนี้ ตัวเลขสินค้า ชื่อคน ที่ซึ่งการค้นหาด้วยคำหลักทำได้ดีกว่า ซึ่งเป็นเหตุผลที่ การค้นหาแบบผสม การรันทั้งเวกเตอร์และคำหลักแล้วรวมอันดับกลายเป็นวิธีปฏิบัติที่เป็นมาตรฐาน ปัญหาเรื่องขอบเขตของชิ้นข้อมูลที่ทำให้แยกนิยามออกจากข้อยกเว้น ความขาดแคลนเมตาดาต้าที่กรองได้ และการดึงข้อมูลจำนวนมากเกินไป ทำให้เกิดส่วนที่เหลือของความล้มเหลว

ประเมินการค้นหาแยกจากการสร้างข้อความ โดยใช้คำถามและคู่ “คำถาม-แก้ไข-passage” ทีมที่ประเมินเฉพาะคำตอบสุดท้ายจะไม่สามารถบอกได้ว่าควรแก้ส่วนไหน ควร