จากองค์ที่ 1 เราได้ร่วมกันงัดฝากระโปรงดูการทำงานของสมองกล AI จนเห็นความจริงข้อสำคัญที่สุดแล้วว่า: “ตัวโมเดลข้างในกล่องดำ เป็นคนขี้ลืม ตอบเสร็จแล้วลืมทันที (Stateless)” มันไม่มีความจำระยะยาวติดตัวมา และทำหน้าที่เพียงแค่รับข้อมูลเข้ามาเพื่อเดาคำตอบในรอบนั้นให้เสร็จสิ้นไป
แต่พอเรากลับมานั่งหน้าจอคอมพิวเตอร์ หรือเปิดมือถือคุยกับมันในชีวิตประจำวัน... เราทุกคนกลับสัมผัสได้ถึงประสบการณ์ที่สวนทางกันโดยสิ้นเชิง:
“อ้าว... ถ้ามันตอบเสร็จแล้วลืมทันทีจริง
แล้วทำไมเวลาเราคุยกับมันในห้องแชตเดิม เราถึงคุยต่อเนื่องได้เป็นชั่วโมง?
เราพิมพ์ทักไป ถามต่อ แย้งคำตอบ หรือบอกว่า 'เอาข้อเมื่อกี้มาแก้ใหม่ซิ' ทำไมมันถึงเข้าใจและจำเรื่องที่เราเพิ่งคุยไปได้ล่ะ?”
วันนี้ เรากำลังก้าวเข้าสู่ องค์ที่ 2: เครื่องจักรพยุงชีพหลังม่าน (กำเนิด Harness) และปริศนาแรกที่เราจะมาไขด้วยกัน ก็คือเรื่องที่เกิดขึ้นตรงหน้าเราใน "ห้องแชตห้องเดียว" (Single Session) นี่เองครับ!
1. ไม่ได้มีความจำพิเศษ... แต่คือ "เทคนิคการจัดเตรียมข้อมูล" ของคนทำระบบ!
ความจริงเบื้องหลังเรื่องนี้ ไม่ได้มีเวทมนตร์ลึกลับอะไรซ่อนอยู่เลยครับ และตัวโมเดลเองก็ไม่ได้เพิ่งงอกความจำขึ้นมาได้เองด้วย
สิ่งที่เกิดขึ้นจริง เป็นผลงานการออกแบบทางวิศวกรรมของ ตัวแอปพลิเคชัน (WebChat Application) ที่อยู่ตรงหน้าเราต่างหาก:
เห็นภาพไหมครับ? โมเดลไม่ได้จำรอบแรกได้เลยแม้แต่นิดเดียว! แต่เป็นเพราะ ตัวแอปพลิเคชันหน้าบ้าน ทำหน้าที่เป็นผู้ช่วยจัดเตรียมบริบท (Context Preparer) คอยกวาดคำถามเดิม คำตอบเดิม และคำถามล่าสุด มัดรวมกันเป็นแฟ้มเอกสารชุดใหม่ที่เรียกว่า "บริบท" (Context) แล้วยื่นทั้งก้อนส่งเข้าไปให้โมเดลอ่านพร้อมกันในรอบใหม่
พอโมเดลได้รับข้อมูลทั้งก้อน มันจึงกวาดสายตาอ่านและรู้ทันทีว่า "อ๋อ เมนูแรกที่คุยค้างไว้คือต้มจืดเต้าหู้นี่เอง" แล้วสร้างคำตอบวิธีทำกลับมาให้เราได้อย่างแนบเนียน!
2. แนวคิดของแต่ละค่าย: บริหาร Context ใน Session เดียวกันอย่างไร?
แม้กลไกพื้นฐานจะฟังดูตรงไปตรงมา แต่ในโลกความเป็นจริง บริษัทยักษ์ใหญ่แต่ละค่ายกลับมี "แนวคิดในการบริหาร Context ในห้องแชต" ที่ไม่เหมือนกันเลยครับ
เพราะการหอบข้อมูลประวัติส่งซ้ำไปซ้ำมา มันมี "ราคาทางวิศวกรรม" ที่ต้องจ่าย:
- ยิ่งประวัติยาว → จำนวนโทเคน (Token) ยิ่งเยอะ
- จำนวนโทเคนยิ่งเยอะ → ค่าใช้จ่ายของค่ายยิ่งพุ่งสูงขึ้น และโมเดลจะใช้เวลาคิดนานขึ้น (ช้าลง)
แต่ละค่ายจึงเลือกใช้วิธีรับมือกับปัญหานี้แตกต่างกันไปตามสไตล์ของตัวเอง:
แบบที่ 1: สายหอบหมดไม่สนลูกใคร (Full History / Append-only)
- วิธีคิด: คุยกัน 50 บรรทัด ก็กวาดทั้ง 50 บรรทัดส่งซ้ำเข้าไปทุกรอบ
- ข้อดี: ความต่อเนื่องเป๊ะมาก จำรายละเอียดที่เราคุยไว้ตั้งแต่ข้อความแรกได้ครบถ้วน
- ข้อเสีย: เปลืองโทเคนมหาศาล ยิ่งคุยยาวยิ่งเปลือง และถ้าคุยยาวมาก ๆ จนเกินความจุของระบบ ระบบจะเริ่มอืดหรือตัดจบไปดื้อ ๆ
แบบที่ 2: สายตัดตอน (Sliding Window / Truncation)
- วิธีคิด: เก็บเฉพาะประวัติ N ข้อความล่าสุด เช่น เก็บแค่ 10-15 ประโยคหลังสุด อะไรที่เก่ากว่านั้น "ตัดทิ้ง" ไม่ส่งเข้าโมเดล
- ข้อดี: ควบคุมต้นทุนและเวลาได้คงที่ ตอบไว สม่ำเสมอ
- ข้อเสีย: ถ้าเราคุยกันยาวมาก แล้วจู่ ๆ ย้อนกลับไปถามว่า "จำไอเดียแรกที่ผมพิมพ์เมื่อต้นชั่วโมงได้ไหม" โมเดลจะงงทันที เพราะประโยคนั้นหลุดออกไปจากหน้าต่างแล้ว!
แบบที่ 3: สายย่อสรุปความ (Summarization / Compaction)
- วิธีคิด: เมื่อบทสนทนาเริ่มยาวเกินกำหนด ตัวระบบจะแอบส่งประวัติช่วงต้นไปให้โมเดลอีกตัวช่วย "สรุปย่อเป็นใจความสั้น ๆ" แล้วเอาบทสรุปนั้นมาปะหัวประวัติช่วงล่าสุด
- ข้อดี: ประหยัดโทเคน แต่ยังคงเส้นเรื่องหลักของบทสนทนาไว้ได้
- ข้อเสีย: รายละเอียดปลีกย่อยหรือตัวเลขเฉพาะเจาะจงในประวัติช่วงแรกอาจจะตกหล่นไประหว่างการสรุป
แบบที่ 4: สายแคชประหยัดต้นทุน (Prompt / Context Caching)
- วิธีคิด: เป็นเทคโนโลยีใหม่ที่หลายค่ายเริ่มนำมาใช้ คือถ้าข้อความส่วนหัวของประวัติบทสนทนามันเหมือนเดิม เซิร์ฟเวอร์จะ "จำผลการประมวลผลของก้อนเดิมไว้ (Cache)" ไม่ต้องมานั่งคิดใหม่ทั้งหมดตั้งแต่ต้น
- ข้อดี: ช่วยให้ระบบตอบกลับไวขึ้นมาก และช่วยประหยัดต้นทุนค่าโทเคนขาเข้าได้อย่างมหาศาล
ข้อสังเกตของคนทำระบบ:
เวลาที่เราใช้ WebChat แล้วรู้สึกว่าบางค่ายคุยยาว ๆ แล้วฉลาดต่อเนื่อง แต่บางค่ายคุยไปสักพักแล้วเริ่ม "หลงลืมหรือตอบไม่ตรงเรื่อง"...
ความต่างตรงนี้ ไม่ได้อยู่ที่สมองกลฉลาดไม่เท่ากันอย่างเดียวครับ
แต่มันอยู่ที่ "ปรัชญาและกลยุทธ์ในการจัดเตรียม Context ของแอปพลิเคชันค่ายนั้น ๆ" ต่างหาก!
💡 เคล็ดลับคนใช้งานจริง: อยากรู้ข้อจำกัด Context ของค่ายไหน... ถามใน WebChat เป็นเบาะแสเบื้องต้นได้!
หลายคนอาจจะสงสัยว่า: “แล้วพวกเราในฐานะคนใช้งาน จะรู้ได้อย่างไรว่า WebChat ค่ายที่เรากำลังนั่งคุยอยู่ตรงหน้า เขาใช้แนวคิดแบบไหน และมีข้อจำกัดเรื่อง Context อย่างไรบ้าง?”
ทางลัดเบื้องต้นที่ง่ายที่สุดคือ: ลองพิมพ์ "ถามใน WebChat ที่เรากำลังใช้งานอยู่" ได้เลยครับ
ลองพิมพ์ถามไปตรง ๆ เช่น:
“คุณมีขนาด Context Window เท่าไหร่?”
“ในห้องแชตนี้ คุณจำประวัติการคุยย้อนหลังได้ประมาณกี่ข้อความ?”
“ถ้าเราคุยกันยาวมาก ๆ ระบบของคุณจะตัดข้อความเก่าทิ้ง หรือใช้วิธีสรุปย่อ?”
การถามโมเดลโดยตรงแบบนี้ จะช่วยให้เราได้ "เบาะแสเบื้องต้น" ที่รวดเร็วมาก เพราะบางค่ายอาจมีข้อมูลขอบเขตคร่าว ๆ ระบุไว้ในคำสั่งระดับระบบอยู่แล้ว
ข้อพึงระวังจากมุมมองคนทำระบบ:
คำตอบที่ได้จากหน้าแชตเป็นเพียง "เบาะแสเบื้องต้น" เท่านั้นนะครับ! เพราะบางครั้งตัวโมเดลเองอาจจะไม่ได้รับรู้ขนาด Context Window ที่แท้จริง หรืออาจจะเดานโยบายการตัดทอนประวัติของตัวแอปพลิเคชันขึ้นมาเองได้
ถ้าต้องการตัวเลขที่แม่นยำ ข้อจำกัดที่แน่นอน หรือสเปกที่เชื่อถือได้จริง ๆ แนะนำให้เปิดตรวจเช็กจากเอกสารทางการ (Official Documentation) ของผู้ให้บริการค่ายนั้น ๆ เสมอครับ
3. "โต๊ะทำงาน" ที่มีขนาดจำกัด: ทำความรู้จัก Context Window
คำว่า Context Window หรือ หน้าต่างบริบท ถ้าจะเปรียบเทียบให้เห็นภาพง่ายที่สุด:
มันก็คือ "ขนาดความกว้างของโต๊ะทำงาน" ที่โมเดลสามารถกางเอกสารอ่านได้ในรอบเดียวนั่นเองครับ!
โมเดลแต่ละตัว แต่ละรุ่น จะระบุขนาดโต๊ะทำงานมาอย่างชัดเจน เช่น:
- 8k tokens (ประมาณ 6,000 คำ)
- 32k tokens
- 128k tokens
- ไปจนถึงระดับบิ๊กเบิ้มอย่าง 1M หรือ 2M tokens (อ่านหนังสือได้เป็นสิบเล่มพร้อมกัน!)
หลายคนพอเห็นตัวเลข 1 ล้าน หรือ 2 ล้านโทเคน ก็มักจะตื่นเต้นว่า: “โห... ถ้าโต๊ะทำงานกว้างขนาดนี้ เราก็โยนทุกอย่างลงไปในห้องแชตได้สบาย ๆ เลยสิ!”
แต่ในความเป็นจริงของคนทำระบบ โต๊ะที่กว้างขึ้น ไม่ได้แปลว่าจะทำงานได้ดีขึ้นเสมอไปครับ:
- เรื่องเงินในกระเป๋า: ยิ่งวางเอกสารบนโต๊ะเยอะ โทเคนขาเข้า (Input Tokens) ก็ยิ่งบวม ค่ายบริการคิดเงินทุกตัวอักษรที่วางบนโต๊ะนะครับ!
- เรื่องเวลา: ยิ่งโต๊ะกว้าง โมเดลยิ่งต้องใช้เวลากวาดสายตาอ่านนานขึ้น ความเร็วในการเริ่มพ่นคำแรก (Time to First Token) ก็จะช้าลงอย่างเห็นได้ชัด
- อาการ "ของหายกลางโต๊ะ" (Lost in the Middle): นี่คือข้อจำกัดทางธรรมชาติของโมเดลครับ ถ้าเราวางเอกสารหนาเป็นพัน ๆ หน้าไว้บนโต๊ะ โมเดลมักจะจำเรื่องที่อยู่ "ต้นเอกสาร" กับ "ท้ายเอกสาร" ได้แม่นยำมาก แต่รายละเอียดสำคัญที่ซุกอยู่ "ตรงกลางโต๊ะ" มันมักจะมองข้ามหรือหาไม่เจอเอาดื้อ ๆ!
4. แล้วในฐานะคนใช้งาน... เราควบคุมอะไรได้บ้าง? (เจาะลึก Prompt Engineering ในห้องแชต)
มาถึงคำถามสำคัญของพวกเราทุกคนครับ: “ในเมื่อระบบหลังบ้านเขาจัดการเรื่องการหอบ Context ให้เราหมด แล้วพวกเราในฐานะคนนั่งคุยหน้าจอแชต เรามีอำนาจควบคุมอะไรได้บ้าง?”
คำตอบคือ: สิ่งเดียวที่เรามีอำนาจควบคุมได้เต็ม 100% ในห้องแชต ก็คือ "Prompt" ที่เราพิมพ์ส่งเข้าไปนั่นเองครับ!
และนี่คือที่มาของศาสตร์ที่คนยุคนี้ชอบพูดถึงกันมาก นั่นคือ Prompt Engineering ครับ
ในมุมของห้องแชตเดี่ยว (Single Chat) การทำ Prompt Engineering ไม่ใช่การใช้คาถาอาคมหรือคำศัพท์วิเศษอะไรเลยครับ แต่มันคือ "ศิลปะและวินัยในการสื่อสารโจทย์ให้ชัดเจน" เพื่อให้โมเดลที่ไร้ความทรงจำตัวนี้ สร้างคำตอบได้ตรงเป้าที่สุด โดยมี 4 แกนหลักง่าย ๆ:
- บอกบทบาทและเป้าหมายให้ชัด (Role & Goal): แทนที่จะบอกว่า "ช่วยดูข้อความนี้หน่อย" ให้เปลี่ยนเป็น "ช่วยสวมบทบาทเป็นบรรณาธิการหนังสือ ตรวจหาคำผิดและจุดที่อ่านสะดุดในย่อหน้านี้"
- ให้ข้อมูลแวดล้อมที่จำเป็น (Context within Prompt): เพราะมันไม่รู้ว่าเรากำลังทำอะไรอยู่ ถ้าเราอยากให้มันช่วยตอบอีเมลลูกค้า เราต้องแปะบริบทไปด้วยว่า "ลูกค้าคนนี้เป็นลูกค้าระดับองค์กรที่กำลังไม่พอใจเรื่องระบบล่มเมื่อวาน"
- ตั้งกรอบและข้อจำกัดให้รัดกุม (Constraints): บอกสิ่งที่ "ต้องการ" และสิ่งที่ "ห้ามทำ" ให้ชัด เช่น "สรุปใจความสำคัญเป็นข้อ ๆ ไม่เกิน 5 ข้อ และห้ามใช้ศัพท์เทคนิคภาษาอังกฤษ"
- ให้ตัวอย่างผลลัพธ์ที่อยากได้ (Few-shot / Format): ถ้าอยากได้รูปแบบเฉพาะเจาะจง การพิมพ์ตัวอย่างให้มันดูสัก 1 บรรทัด เช่น "เขียนตอบในรูปแบบ: [ชื่อปัญหา] - [สาเหตุ] - [แนวทางแก้ไข]" จะทำให้โมเดลตอบได้แม่นยำกว่าการพรรณนาคำสั่งยาว ๆ เป็นหน้ากระดาษครับ
✍️ สไตล์การสั่งงานของผม: "สั้น กระชับ ตรงประเด็น และครบถ้วน"
ถ้าถามถึงสไตล์ส่วนตัวของผมในการใช้งานจริง... ผมเป็นคนที่ชอบสั่งงาน AI สั้น ๆ แม้กระทั่งในหน้าต่างแชตครับ!
ผมจะไม่ยอมพิมพ์คำสั่งยาวเหยียดเป็นพรืดถ้าไม่จำเป็นเด็ดขาด เพราะยิ่งเขียนเยิ่นเย้อ โมเดลก็ยิ่งมีโอกาสหลงประเด็น และที่สำคัญคือเปลืองแรงคนพิมพ์โดยใช่เหตุ
หลักการส่วนตัวที่ผมยึดถือเสมอเวลาสั่งงาน มีแค่ 3 คำสั้น ๆ:
“กระชับ ตรงประเด็น และครบถ้วน”
- กระชับ: ตัดคำฟุ่มเฟือยและน้ำทิ้งไปให้หมด
- ตรงประเด็น: บอกสิ่งที่ต้องการให้ทำทันที ไม่อ้อมค้อม
- ครบถ้วน: มีทั้งเป้าหมาย ข้อมูลนำเข้าที่จำเป็น และกรอบผลลัพธ์ที่ต้องการครบถ้วนในตัวเอง
แน่นอนว่าการจะสั่งงานให้สั้นแต่ได้ใจความครบถ้วนแบบนี้ “เป็นทักษะที่ต้องอาศัยการฝึกฝนครับ” เหมือนกับการเขียนสั่งการของผู้บริหารที่ต้องกลั่นกรองความคิดให้ตกผลึกก่อนพิมพ์
แต่ถ้าวันไหนเราคิดไม่ออก หรือโจทย์มันซับซ้อนจนไม่รู้จะกลั่นคำสั่งออกมาอย่างไรดี... สำหรับผม ทางออกที่ดีที่สุดคือเรื่องที่เราจะคุยกันในหัวข้อถัดไปนี้ครับ!
💡 แล้วคำว่า "Context Engineering" ล่ะ... ในหน้าแชตเราทำได้จริงหรือ?
หลายคนอาจจะเคยได้ยินคำว่า Context Engineering ควบคู่กับ Prompt Engineering และมักจะเข้าใจว่า: “Context Engineering มันเป็นเรื่องของโปรแกรมเมอร์ที่ต้องเขียนโค้ดระบบ หรือเป็นเรื่องของ Agent ขั้นสูงเท่านั้น คนใช้หน้าเว็บแชตธรรมดาทำไม่ได้หรอก!”
แต่สำหรับผม... ในหน้าต่างแชต เราก็สามารถทำ Context Engineering ได้เท่าที่เครื่องมือจะเอื้ออำนวยครับ!
และวิธีทำ Context Engineering บนหน้าแชตที่ผมใช้งานอยู่เป็นประจำ ก็คือ:
“การเปิดห้องแชตอีก Session หนึ่ง เพื่อให้ AI ช่วยกลั่นกรองและออก Prompt...
สำหรับผม นั่นแหละคือการทำ 'Context Engineering' บนหน้าแชตแล้วครับ!”
ลองมองภาพตามการทำงานจริงดูนะครับ:
- ในห้องเตรียมงาน (Prep Session): เราโยนข้อมูลดิบ บริบทแวดล้อมที่ยุ่งเหยิง เป้าหมาย และข้อจำกัดทั้งหมดลงไป แล้วให้ AI ตัวนั้นทำหน้าที่ "วิศวกรรมบริบท" (Context Engineer) ช่วยคัดแยกขยะ สกัดเอาเฉพาะแก่นสาร จัดระเบียบข้อมูล และสังเคราะห์ออกมาเป็นโครงสร้างคำสั่งที่คมกริบ
- ในห้องทำงานจริง (Execution Session): เรานำเฉพาะ "แพ็กเกจคำสั่งและบริบทที่ผ่านการวิศวกรรมมาอย่างดีแล้ว" ไปป้อนให้โมเดลลงมือทำงานทันที
เห็นความเชื่อมโยงที่สวยงามไหมครับ?
- Prompt Engineering: คือหน้าตาของตัวคำสั่งสุดท้ายที่กระชับ ตรงประเด็น และพร้อมใช้งาน
- Context Engineering: คือกระบวนการคัดสรร จัดเตรียม และวิศวกรรมสภาพแวดล้อมของข้อมูลทั้งหมด เพื่อให้ได้คำสั่งและบริบทที่พร้อมที่สุดก่อนส่งเข้าโมเดล
การใช้ AI อีก Session มาช่วยทำ Context Engineering ให้เราตั้งแต่หน้าแชต จึงเป็นเคล็ดลับที่ทำให้คำสั่งในห้องทำงานจริงของผมสั้นมาก ไม่รกรุงรัง แต่กลับได้ผลงานที่มีคุณภาพที่น่าพอใจครับ! (และแน่นอนครับว่า เมื่อเราก้าวไปสู่เรื่อง Agent และ Harness ในบทต่อ ๆ ไป เราจะได้เห็น Context Engineering ในระดับโค้ดที่ซับซ้อนและเป็นอัตโนมัติยิ่งขึ้นไปอีกขั้นครับ!)
ปริศนาส่งท้าย: แล้วถ้าเรา "เปิดห้องแชตใหม่" ล่ะ?
มาถึงจุดนี้ เราเข้าใจทะลุปรุโปร่งแล้วว่า การคุยต่อเนื่องในห้องแชตเดิม เกิดจากการที่ระบบแอบรวบรวมประวัติการคุยในรอบนั้นส่งซ้ำเข้าไปให้โมเดลอ่านใหม่
แต่ผมอยากชวนทุกคนมาคิดถึงสถานการณ์ที่พวกเราทำกันอยู่ทุกวันครับ:
“ถ้าเราคุยงานจบ แล้วเรากดปุ่ม ‘New Chat’ เพื่อเปิดห้องสนทนาใหม่...
หรือเราปิดหน้าต่างเบราว์เซอร์ไปนอน แล้ววันรุ่งขึ้นเปิดเว็บกลับเข้ามาคุยใหม่...
ทำไม AI บางตัว ถึงยังจำได้ว่าเราเป็นใคร?
ทำไมมันยังจำได้ว่าเราชอบเขียนโค้ดภาษาอะไร หรือชอบให้ตอบสไตล์ไหน?
ทั้ง ๆ ที่ประวัติในห้องแชตเดิม ถูกปิดทิ้งไปหมดแล้ว!”
ใครเป็นคนคอยจำเรื่องราวของเราข้ามวันข้ามห้องแชต? และในเมื่อสมองกลเป็น Stateless... แล้ว "ความทรงจำ" พวกนี้มันไปแอบซ่อนอยู่ที่ไหนกันแน่?
เตรียมพบกับคำตอบได้ใน ตอนที่ 07: สมุดจดข้ามวัน: Memory Management ครับ!
ศัพท์เทคนิค → คำแปลภาษาคนทำงาน — แตะเพื่อย่อ/ขยาย
- Context (บริบท): ก้อนข้อมูลแวดล้อมทั้งหมด (ประวัติการคุย เอกสารอ้างอิง คำสั่ง) ที่ระบบรวบรวมส่งให้โมเดลอ่านเพื่อใช้สร้างคำตอบในรอบนั้น
- Context Window (หน้าต่างบริบท): ขนาดความกว้างของโต๊ะทำงานที่โมเดลสามารถรับข้อมูลได้สูงสุดในหนึ่งรอบการคำนวณ (วัดเป็นจำนวนโทเคน)
- Prompt Engineering: ศิลปะและวินัยในการออกแบบข้อความคำสั่ง เพื่อให้โมเดลเข้าใจโจทย์ บริบท ข้อจำกัด และสร้างผลลัพธ์ได้ตรงเป้าหมาย
- Context Engineering (ในมุมหน้าแชตสู่ Agent): กระบวนการคัดสรร จัดเตรียม และวิศวกรรมสภาพแวดล้อมของข้อมูลทั้งหมดก่อนส่งเข้าโมเดล ในหน้าแชตเราทำได้จริงโดยเปิดอีก Session ช่วยกลั่นกรองข้อมูลดิบให้ตกผลึกเป็นคำสั่งที่คมกริบ
หลักคิดเชิงสถาปัตยกรรม — แตะเพื่อย่อ/ขยาย
- การคุยต่อเนื่องในห้องแชตไม่ใช่เวทมนตร์ แต่เป็นการจัดการระดับแอปพลิเคชัน: ตัวสมองกลเป็น Stateless เสมอ แต่แอปพลิเคชันหน้าบ้านทำหน้าที่หอบประวัติเดิมส่งซ้ำเข้าไปในรอบใหม่
- ความฉลาดต่อเนื่องของแชตบอตขึ้นกับกลยุทธ์ของค่าย: แต่ละเจ้ามีวิธีบริหารประวัติในห้องแชตต่างกัน ทั้งแบบเก็บหมด (Append), เลื่อนหน้าต่าง (Sliding Window), ย่อสรุป (Summarize) และแคชบริบท (Caching) เพื่อชั่งน้ำหนักระหว่างความต่อเนื่อง ต้นทุน และความเร็ว
- โต๊ะกว้างไม่ได้แปลว่าดีกว่าเสมอไป: การมี Context Window ใหญ่เป็นล้านโทเคนช่วยให้อ่านข้อมูลก้อนโตได้ แต่ต้องระวังต้นทุนโทเคนที่บวมขึ้น ความเร็วที่ช้าลง และปัญหาของหายกลางโต๊ะ (Lost in the Middle)
- ในห้องแชตเดี่ยว จงผสาน Prompt และ Context Engineering แบบ "กระชับ ตรงประเด็น และครบถ้วน": หลีกเลี่ยงคำสั่งยาวเยิ่นเย้อโดยไม่จำเป็น เน้นสั่งงานสั้น ๆ แต่ครบถ้วนในตัวเอง โดยใช้เทคนิค Context Engineering หน้าแชตด้วยการเปิดอีก Session ช่วยสกัดแก่นสารและออก Prompt ให้ครับ
- ถาม WebChat เพื่อหาเบาะแสเบื้องต้น แต่ตรวจเอกสารทางการเพื่อความชัดเจน: เราสามารถพิมพ์ถามโมเดลในห้องแชตเพื่อเป็นแนวทางคร่าว ๆ ได้ แต่หากต้องการตัวเลขขนาด Context Window หรือนโยบายการตัดประวัติที่แน่นอนและเชื่อถือได้ ให้ตรวจสอบจากเอกสารของผู้ให้บริการเป็นหลักครับ