การฝัง

โมเดลการสร้าง embedding อ่านข้อความและสร้างเวกเตอร์ — โดยมักเป็นหลายร้อยถึงหลายพันตัวเลข ระยะทางในพื้นที่นี้ประมาณความคล้ายคลึงทางความหมาย ดังนั้น "ยกเลิกการสมัครสมาชิก" จะอยู่ใกล้กับ "วิธีการยกเลิกแผนของฉัน" แม้ว่าจะไม่มีคำใดที่ตรงกันเลย คุณสมบัตินี้เป็นเครื่องมือหลักของการค้นหาแบบเชิงความหมาย การลบซ้ำ การจัดกลุ่ม การจัดประเภทโดยการหา nearest neighbour และส่วนการดึงข้อมูลของ RAG

สี่ประเด็นเชิงปฏิบัติ:

• พื้นที่เวกเตอร์จำเพาะโมเดล Embeddings จากโมเดลต่าง ๆ ไม่สามารถเปรียบเทียบกันได้ และการเปลี่ยนโมเดลหมายถึงการสร้าง embedding ใหม่ทั้งหมด
• ขนาดของ chunk มีผลต่อคุณภาพ chunk ที่ใหญ่เกินไปทำให้สัญญาณถูกทำให้หมดความชัดเจน ส่วน chunk ที่เล็กเกินไปทำให้สูญเสียบริบทโดยรอบ การแยกตามโครงสร้างของเอกสารมักทำได้