องค์ที่ 2 · ตอนที่ 06

เบื้องหลังการคุยต่อเนื่อง: Context และ Context Window ในห้องแชต

เบื้องหลังการคุยต่อเนื่อง: Context และ Context Window ในห้องแชต

จากองค์ที่ 1 เราได้ร่วมกันงัดฝากระโปรงดูการทำงานของสมองกล AI จนเห็นความจริงข้อสำคัญที่สุดแล้วว่า: “ตัวโมเดลข้างในกล่องดำ เป็นคนขี้ลืม ตอบเสร็จแล้วลืมทันที (Stateless)” มันไม่มีความจำระยะยาวติดตัวมา และทำหน้าที่เพียงแค่รับข้อมูลเข้ามาเพื่อเดาคำตอบในรอบนั้นให้เสร็จสิ้นไป

แต่พอเรากลับมานั่งหน้าจอคอมพิวเตอร์ หรือเปิดมือถือคุยกับมันในชีวิตประจำวัน... เราทุกคนกลับสัมผัสได้ถึงประสบการณ์ที่สวนทางกันโดยสิ้นเชิง:

“อ้าว... ถ้ามันตอบเสร็จแล้วลืมทันทีจริง
แล้วทำไมเวลาเราคุยกับมันในห้องแชตเดิม เราถึงคุยต่อเนื่องได้เป็นชั่วโมง?
เราพิมพ์ทักไป ถามต่อ แย้งคำตอบ หรือบอกว่า 'เอาข้อเมื่อกี้มาแก้ใหม่ซิ' ทำไมมันถึงเข้าใจและจำเรื่องที่เราเพิ่งคุยไปได้ล่ะ?”

วันนี้ เรากำลังก้าวเข้าสู่ องค์ที่ 2: เครื่องจักรพยุงชีพหลังม่าน (กำเนิด Harness) และปริศนาแรกที่เราจะมาไขด้วยกัน ก็คือเรื่องที่เกิดขึ้นตรงหน้าเราใน "ห้องแชตห้องเดียว" (Single Session) นี่เองครับ!

1. ไม่ได้มีความจำพิเศษ... แต่คือ "เทคนิคการจัดเตรียมข้อมูล" ของคนทำระบบ!

ความจริงเบื้องหลังเรื่องนี้ ไม่ได้มีเวทมนตร์ลึกลับอะไรซ่อนอยู่เลยครับ และตัวโมเดลเองก็ไม่ได้เพิ่งงอกความจำขึ้นมาได้เองด้วย

สิ่งที่เกิดขึ้นจริง เป็นผลงานการออกแบบทางวิศวกรรมของ ตัวแอปพลิเคชัน (WebChat Application) ที่อยู่ตรงหน้าเราต่างหาก:

แผนภาพประกอบ chapter 06 diagram 01
แผนภาพประกอบเรื่อง

เห็นภาพไหมครับ? โมเดลไม่ได้จำรอบแรกได้เลยแม้แต่นิดเดียว! แต่เป็นเพราะ ตัวแอปพลิเคชันหน้าบ้าน ทำหน้าที่เป็นผู้ช่วยจัดเตรียมบริบท (Context Preparer) คอยกวาดคำถามเดิม คำตอบเดิม และคำถามล่าสุด มัดรวมกันเป็นแฟ้มเอกสารชุดใหม่ที่เรียกว่า "บริบท" (Context) แล้วยื่นทั้งก้อนส่งเข้าไปให้โมเดลอ่านพร้อมกันในรอบใหม่

พอโมเดลได้รับข้อมูลทั้งก้อน มันจึงกวาดสายตาอ่านและรู้ทันทีว่า "อ๋อ เมนูแรกที่คุยค้างไว้คือต้มจืดเต้าหู้นี่เอง" แล้วสร้างคำตอบวิธีทำกลับมาให้เราได้อย่างแนบเนียน!

2. แนวคิดของแต่ละค่าย: บริหาร Context ใน Session เดียวกันอย่างไร?

แม้กลไกพื้นฐานจะฟังดูตรงไปตรงมา แต่ในโลกความเป็นจริง บริษัทยักษ์ใหญ่แต่ละค่ายกลับมี "แนวคิดในการบริหาร Context ในห้องแชต" ที่ไม่เหมือนกันเลยครับ

เพราะการหอบข้อมูลประวัติส่งซ้ำไปซ้ำมา มันมี "ราคาทางวิศวกรรม" ที่ต้องจ่าย:

  • ยิ่งประวัติยาว → จำนวนโทเคน (Token) ยิ่งเยอะ
  • จำนวนโทเคนยิ่งเยอะ → ค่าใช้จ่ายของค่ายยิ่งพุ่งสูงขึ้น และโมเดลจะใช้เวลาคิดนานขึ้น (ช้าลง)

แต่ละค่ายจึงเลือกใช้วิธีรับมือกับปัญหานี้แตกต่างกันไปตามสไตล์ของตัวเอง:

แบบที่ 1: สายหอบหมดไม่สนลูกใคร (Full History / Append-only)

  • วิธีคิด: คุยกัน 50 บรรทัด ก็กวาดทั้ง 50 บรรทัดส่งซ้ำเข้าไปทุกรอบ
  • ข้อดี: ความต่อเนื่องเป๊ะมาก จำรายละเอียดที่เราคุยไว้ตั้งแต่ข้อความแรกได้ครบถ้วน
  • ข้อเสีย: เปลืองโทเคนมหาศาล ยิ่งคุยยาวยิ่งเปลือง และถ้าคุยยาวมาก ๆ จนเกินความจุของระบบ ระบบจะเริ่มอืดหรือตัดจบไปดื้อ ๆ

แบบที่ 2: สายตัดตอน (Sliding Window / Truncation)

  • วิธีคิด: เก็บเฉพาะประวัติ N ข้อความล่าสุด เช่น เก็บแค่ 10-15 ประโยคหลังสุด อะไรที่เก่ากว่านั้น "ตัดทิ้ง" ไม่ส่งเข้าโมเดล
  • ข้อดี: ควบคุมต้นทุนและเวลาได้คงที่ ตอบไว สม่ำเสมอ
  • ข้อเสีย: ถ้าเราคุยกันยาวมาก แล้วจู่ ๆ ย้อนกลับไปถามว่า "จำไอเดียแรกที่ผมพิมพ์เมื่อต้นชั่วโมงได้ไหม" โมเดลจะงงทันที เพราะประโยคนั้นหลุดออกไปจากหน้าต่างแล้ว!

แบบที่ 3: สายย่อสรุปความ (Summarization / Compaction)

  • วิธีคิด: เมื่อบทสนทนาเริ่มยาวเกินกำหนด ตัวระบบจะแอบส่งประวัติช่วงต้นไปให้โมเดลอีกตัวช่วย "สรุปย่อเป็นใจความสั้น ๆ" แล้วเอาบทสรุปนั้นมาปะหัวประวัติช่วงล่าสุด
  • ข้อดี: ประหยัดโทเคน แต่ยังคงเส้นเรื่องหลักของบทสนทนาไว้ได้
  • ข้อเสีย: รายละเอียดปลีกย่อยหรือตัวเลขเฉพาะเจาะจงในประวัติช่วงแรกอาจจะตกหล่นไประหว่างการสรุป

แบบที่ 4: สายแคชประหยัดต้นทุน (Prompt / Context Caching)

  • วิธีคิด: เป็นเทคโนโลยีใหม่ที่หลายค่ายเริ่มนำมาใช้ คือถ้าข้อความส่วนหัวของประวัติบทสนทนามันเหมือนเดิม เซิร์ฟเวอร์จะ "จำผลการประมวลผลของก้อนเดิมไว้ (Cache)" ไม่ต้องมานั่งคิดใหม่ทั้งหมดตั้งแต่ต้น
  • ข้อดี: ช่วยให้ระบบตอบกลับไวขึ้นมาก และช่วยประหยัดต้นทุนค่าโทเคนขาเข้าได้อย่างมหาศาล

ข้อสังเกตของคนทำระบบ:

เวลาที่เราใช้ WebChat แล้วรู้สึกว่าบางค่ายคุยยาว ๆ แล้วฉลาดต่อเนื่อง แต่บางค่ายคุยไปสักพักแล้วเริ่ม "หลงลืมหรือตอบไม่ตรงเรื่อง"...
ความต่างตรงนี้ ไม่ได้อยู่ที่สมองกลฉลาดไม่เท่ากันอย่างเดียวครับ
แต่มันอยู่ที่ "ปรัชญาและกลยุทธ์ในการจัดเตรียม Context ของแอปพลิเคชันค่ายนั้น ๆ" ต่างหาก!

💡 เคล็ดลับคนใช้งานจริง: อยากรู้ข้อจำกัด Context ของค่ายไหน... ถามใน WebChat เป็นเบาะแสเบื้องต้นได้!

หลายคนอาจจะสงสัยว่า: “แล้วพวกเราในฐานะคนใช้งาน จะรู้ได้อย่างไรว่า WebChat ค่ายที่เรากำลังนั่งคุยอยู่ตรงหน้า เขาใช้แนวคิดแบบไหน และมีข้อจำกัดเรื่อง Context อย่างไรบ้าง?”

ทางลัดเบื้องต้นที่ง่ายที่สุดคือ: ลองพิมพ์ "ถามใน WebChat ที่เรากำลังใช้งานอยู่" ได้เลยครับ

ลองพิมพ์ถามไปตรง ๆ เช่น:

“คุณมีขนาด Context Window เท่าไหร่?”
“ในห้องแชตนี้ คุณจำประวัติการคุยย้อนหลังได้ประมาณกี่ข้อความ?”
“ถ้าเราคุยกันยาวมาก ๆ ระบบของคุณจะตัดข้อความเก่าทิ้ง หรือใช้วิธีสรุปย่อ?”

การถามโมเดลโดยตรงแบบนี้ จะช่วยให้เราได้ "เบาะแสเบื้องต้น" ที่รวดเร็วมาก เพราะบางค่ายอาจมีข้อมูลขอบเขตคร่าว ๆ ระบุไว้ในคำสั่งระดับระบบอยู่แล้ว

ข้อพึงระวังจากมุมมองคนทำระบบ:

คำตอบที่ได้จากหน้าแชตเป็นเพียง "เบาะแสเบื้องต้น" เท่านั้นนะครับ! เพราะบางครั้งตัวโมเดลเองอาจจะไม่ได้รับรู้ขนาด Context Window ที่แท้จริง หรืออาจจะเดานโยบายการตัดทอนประวัติของตัวแอปพลิเคชันขึ้นมาเองได้
ถ้าต้องการตัวเลขที่แม่นยำ ข้อจำกัดที่แน่นอน หรือสเปกที่เชื่อถือได้จริง ๆ แนะนำให้เปิดตรวจเช็กจากเอกสารทางการ (Official Documentation) ของผู้ให้บริการค่ายนั้น ๆ เสมอครับ

3. "โต๊ะทำงาน" ที่มีขนาดจำกัด: ทำความรู้จัก Context Window

คำว่า Context Window หรือ หน้าต่างบริบท ถ้าจะเปรียบเทียบให้เห็นภาพง่ายที่สุด:

มันก็คือ "ขนาดความกว้างของโต๊ะทำงาน" ที่โมเดลสามารถกางเอกสารอ่านได้ในรอบเดียวนั่นเองครับ!

โมเดลแต่ละตัว แต่ละรุ่น จะระบุขนาดโต๊ะทำงานมาอย่างชัดเจน เช่น:

  • 8k tokens (ประมาณ 6,000 คำ)
  • 32k tokens
  • 128k tokens
  • ไปจนถึงระดับบิ๊กเบิ้มอย่าง 1M หรือ 2M tokens (อ่านหนังสือได้เป็นสิบเล่มพร้อมกัน!)

หลายคนพอเห็นตัวเลข 1 ล้าน หรือ 2 ล้านโทเคน ก็มักจะตื่นเต้นว่า: “โห... ถ้าโต๊ะทำงานกว้างขนาดนี้ เราก็โยนทุกอย่างลงไปในห้องแชตได้สบาย ๆ เลยสิ!”

แต่ในความเป็นจริงของคนทำระบบ โต๊ะที่กว้างขึ้น ไม่ได้แปลว่าจะทำงานได้ดีขึ้นเสมอไปครับ:

  1. เรื่องเงินในกระเป๋า: ยิ่งวางเอกสารบนโต๊ะเยอะ โทเคนขาเข้า (Input Tokens) ก็ยิ่งบวม ค่ายบริการคิดเงินทุกตัวอักษรที่วางบนโต๊ะนะครับ!
  2. เรื่องเวลา: ยิ่งโต๊ะกว้าง โมเดลยิ่งต้องใช้เวลากวาดสายตาอ่านนานขึ้น ความเร็วในการเริ่มพ่นคำแรก (Time to First Token) ก็จะช้าลงอย่างเห็นได้ชัด
  3. อาการ "ของหายกลางโต๊ะ" (Lost in the Middle): นี่คือข้อจำกัดทางธรรมชาติของโมเดลครับ ถ้าเราวางเอกสารหนาเป็นพัน ๆ หน้าไว้บนโต๊ะ โมเดลมักจะจำเรื่องที่อยู่ "ต้นเอกสาร" กับ "ท้ายเอกสาร" ได้แม่นยำมาก แต่รายละเอียดสำคัญที่ซุกอยู่ "ตรงกลางโต๊ะ" มันมักจะมองข้ามหรือหาไม่เจอเอาดื้อ ๆ!

4. แล้วในฐานะคนใช้งาน... เราควบคุมอะไรได้บ้าง? (เจาะลึก Prompt Engineering ในห้องแชต)

มาถึงคำถามสำคัญของพวกเราทุกคนครับ: “ในเมื่อระบบหลังบ้านเขาจัดการเรื่องการหอบ Context ให้เราหมด แล้วพวกเราในฐานะคนนั่งคุยหน้าจอแชต เรามีอำนาจควบคุมอะไรได้บ้าง?”

คำตอบคือ: สิ่งเดียวที่เรามีอำนาจควบคุมได้เต็ม 100% ในห้องแชต ก็คือ "Prompt" ที่เราพิมพ์ส่งเข้าไปนั่นเองครับ!

และนี่คือที่มาของศาสตร์ที่คนยุคนี้ชอบพูดถึงกันมาก นั่นคือ Prompt Engineering ครับ

ในมุมของห้องแชตเดี่ยว (Single Chat) การทำ Prompt Engineering ไม่ใช่การใช้คาถาอาคมหรือคำศัพท์วิเศษอะไรเลยครับ แต่มันคือ "ศิลปะและวินัยในการสื่อสารโจทย์ให้ชัดเจน" เพื่อให้โมเดลที่ไร้ความทรงจำตัวนี้ สร้างคำตอบได้ตรงเป้าที่สุด โดยมี 4 แกนหลักง่าย ๆ:

  1. บอกบทบาทและเป้าหมายให้ชัด (Role & Goal): แทนที่จะบอกว่า "ช่วยดูข้อความนี้หน่อย" ให้เปลี่ยนเป็น "ช่วยสวมบทบาทเป็นบรรณาธิการหนังสือ ตรวจหาคำผิดและจุดที่อ่านสะดุดในย่อหน้านี้"
  2. ให้ข้อมูลแวดล้อมที่จำเป็น (Context within Prompt): เพราะมันไม่รู้ว่าเรากำลังทำอะไรอยู่ ถ้าเราอยากให้มันช่วยตอบอีเมลลูกค้า เราต้องแปะบริบทไปด้วยว่า "ลูกค้าคนนี้เป็นลูกค้าระดับองค์กรที่กำลังไม่พอใจเรื่องระบบล่มเมื่อวาน"
  3. ตั้งกรอบและข้อจำกัดให้รัดกุม (Constraints): บอกสิ่งที่ "ต้องการ" และสิ่งที่ "ห้ามทำ" ให้ชัด เช่น "สรุปใจความสำคัญเป็นข้อ ๆ ไม่เกิน 5 ข้อ และห้ามใช้ศัพท์เทคนิคภาษาอังกฤษ"
  4. ให้ตัวอย่างผลลัพธ์ที่อยากได้ (Few-shot / Format): ถ้าอยากได้รูปแบบเฉพาะเจาะจง การพิมพ์ตัวอย่างให้มันดูสัก 1 บรรทัด เช่น "เขียนตอบในรูปแบบ: [ชื่อปัญหา] - [สาเหตุ] - [แนวทางแก้ไข]" จะทำให้โมเดลตอบได้แม่นยำกว่าการพรรณนาคำสั่งยาว ๆ เป็นหน้ากระดาษครับ

✍️ สไตล์การสั่งงานของผม: "สั้น กระชับ ตรงประเด็น และครบถ้วน"

ถ้าถามถึงสไตล์ส่วนตัวของผมในการใช้งานจริง... ผมเป็นคนที่ชอบสั่งงาน AI สั้น ๆ แม้กระทั่งในหน้าต่างแชตครับ!

ผมจะไม่ยอมพิมพ์คำสั่งยาวเหยียดเป็นพรืดถ้าไม่จำเป็นเด็ดขาด เพราะยิ่งเขียนเยิ่นเย้อ โมเดลก็ยิ่งมีโอกาสหลงประเด็น และที่สำคัญคือเปลืองแรงคนพิมพ์โดยใช่เหตุ

หลักการส่วนตัวที่ผมยึดถือเสมอเวลาสั่งงาน มีแค่ 3 คำสั้น ๆ:

“กระชับ ตรงประเด็น และครบถ้วน”

  • กระชับ: ตัดคำฟุ่มเฟือยและน้ำทิ้งไปให้หมด
  • ตรงประเด็น: บอกสิ่งที่ต้องการให้ทำทันที ไม่อ้อมค้อม
  • ครบถ้วน: มีทั้งเป้าหมาย ข้อมูลนำเข้าที่จำเป็น และกรอบผลลัพธ์ที่ต้องการครบถ้วนในตัวเอง

แน่นอนว่าการจะสั่งงานให้สั้นแต่ได้ใจความครบถ้วนแบบนี้ “เป็นทักษะที่ต้องอาศัยการฝึกฝนครับ” เหมือนกับการเขียนสั่งการของผู้บริหารที่ต้องกลั่นกรองความคิดให้ตกผลึกก่อนพิมพ์

แต่ถ้าวันไหนเราคิดไม่ออก หรือโจทย์มันซับซ้อนจนไม่รู้จะกลั่นคำสั่งออกมาอย่างไรดี... สำหรับผม ทางออกที่ดีที่สุดคือเรื่องที่เราจะคุยกันในหัวข้อถัดไปนี้ครับ!

💡 แล้วคำว่า "Context Engineering" ล่ะ... ในหน้าแชตเราทำได้จริงหรือ?

หลายคนอาจจะเคยได้ยินคำว่า Context Engineering ควบคู่กับ Prompt Engineering และมักจะเข้าใจว่า: “Context Engineering มันเป็นเรื่องของโปรแกรมเมอร์ที่ต้องเขียนโค้ดระบบ หรือเป็นเรื่องของ Agent ขั้นสูงเท่านั้น คนใช้หน้าเว็บแชตธรรมดาทำไม่ได้หรอก!”

แต่สำหรับผม... ในหน้าต่างแชต เราก็สามารถทำ Context Engineering ได้เท่าที่เครื่องมือจะเอื้ออำนวยครับ!

และวิธีทำ Context Engineering บนหน้าแชตที่ผมใช้งานอยู่เป็นประจำ ก็คือ:

“การเปิดห้องแชตอีก Session หนึ่ง เพื่อให้ AI ช่วยกลั่นกรองและออก Prompt...
สำหรับผม นั่นแหละคือการทำ 'Context Engineering' บนหน้าแชตแล้วครับ!”

ลองมองภาพตามการทำงานจริงดูนะครับ:

  1. ในห้องเตรียมงาน (Prep Session): เราโยนข้อมูลดิบ บริบทแวดล้อมที่ยุ่งเหยิง เป้าหมาย และข้อจำกัดทั้งหมดลงไป แล้วให้ AI ตัวนั้นทำหน้าที่ "วิศวกรรมบริบท" (Context Engineer) ช่วยคัดแยกขยะ สกัดเอาเฉพาะแก่นสาร จัดระเบียบข้อมูล และสังเคราะห์ออกมาเป็นโครงสร้างคำสั่งที่คมกริบ
  2. ในห้องทำงานจริง (Execution Session): เรานำเฉพาะ "แพ็กเกจคำสั่งและบริบทที่ผ่านการวิศวกรรมมาอย่างดีแล้ว" ไปป้อนให้โมเดลลงมือทำงานทันที

เห็นความเชื่อมโยงที่สวยงามไหมครับ?

  • Prompt Engineering: คือหน้าตาของตัวคำสั่งสุดท้ายที่กระชับ ตรงประเด็น และพร้อมใช้งาน
  • Context Engineering: คือกระบวนการคัดสรร จัดเตรียม และวิศวกรรมสภาพแวดล้อมของข้อมูลทั้งหมด เพื่อให้ได้คำสั่งและบริบทที่พร้อมที่สุดก่อนส่งเข้าโมเดล

การใช้ AI อีก Session มาช่วยทำ Context Engineering ให้เราตั้งแต่หน้าแชต จึงเป็นเคล็ดลับที่ทำให้คำสั่งในห้องทำงานจริงของผมสั้นมาก ไม่รกรุงรัง แต่กลับได้ผลงานที่มีคุณภาพที่น่าพอใจครับ! (และแน่นอนครับว่า เมื่อเราก้าวไปสู่เรื่อง Agent และ Harness ในบทต่อ ๆ ไป เราจะได้เห็น Context Engineering ในระดับโค้ดที่ซับซ้อนและเป็นอัตโนมัติยิ่งขึ้นไปอีกขั้นครับ!)

ปริศนาส่งท้าย: แล้วถ้าเรา "เปิดห้องแชตใหม่" ล่ะ?

มาถึงจุดนี้ เราเข้าใจทะลุปรุโปร่งแล้วว่า การคุยต่อเนื่องในห้องแชตเดิม เกิดจากการที่ระบบแอบรวบรวมประวัติการคุยในรอบนั้นส่งซ้ำเข้าไปให้โมเดลอ่านใหม่

แต่ผมอยากชวนทุกคนมาคิดถึงสถานการณ์ที่พวกเราทำกันอยู่ทุกวันครับ:

“ถ้าเราคุยงานจบ แล้วเรากดปุ่ม ‘New Chat’ เพื่อเปิดห้องสนทนาใหม่...
หรือเราปิดหน้าต่างเบราว์เซอร์ไปนอน แล้ววันรุ่งขึ้นเปิดเว็บกลับเข้ามาคุยใหม่...
ทำไม AI บางตัว ถึงยังจำได้ว่าเราเป็นใคร?
ทำไมมันยังจำได้ว่าเราชอบเขียนโค้ดภาษาอะไร หรือชอบให้ตอบสไตล์ไหน?
ทั้ง ๆ ที่ประวัติในห้องแชตเดิม ถูกปิดทิ้งไปหมดแล้ว!”

ใครเป็นคนคอยจำเรื่องราวของเราข้ามวันข้ามห้องแชต? และในเมื่อสมองกลเป็น Stateless... แล้ว "ความทรงจำ" พวกนี้มันไปแอบซ่อนอยู่ที่ไหนกันแน่?

เตรียมพบกับคำตอบได้ใน ตอนที่ 07: สมุดจดข้ามวัน: Memory Management ครับ!

ศัพท์เทคนิค → คำแปลภาษาคนทำงาน — แตะเพื่อย่อ/ขยาย
  • Context (บริบท): ก้อนข้อมูลแวดล้อมทั้งหมด (ประวัติการคุย เอกสารอ้างอิง คำสั่ง) ที่ระบบรวบรวมส่งให้โมเดลอ่านเพื่อใช้สร้างคำตอบในรอบนั้น
  • Context Window (หน้าต่างบริบท): ขนาดความกว้างของโต๊ะทำงานที่โมเดลสามารถรับข้อมูลได้สูงสุดในหนึ่งรอบการคำนวณ (วัดเป็นจำนวนโทเคน)
  • Prompt Engineering: ศิลปะและวินัยในการออกแบบข้อความคำสั่ง เพื่อให้โมเดลเข้าใจโจทย์ บริบท ข้อจำกัด และสร้างผลลัพธ์ได้ตรงเป้าหมาย
  • Context Engineering (ในมุมหน้าแชตสู่ Agent): กระบวนการคัดสรร จัดเตรียม และวิศวกรรมสภาพแวดล้อมของข้อมูลทั้งหมดก่อนส่งเข้าโมเดล ในหน้าแชตเราทำได้จริงโดยเปิดอีก Session ช่วยกลั่นกรองข้อมูลดิบให้ตกผลึกเป็นคำสั่งที่คมกริบ
หลักคิดเชิงสถาปัตยกรรม — แตะเพื่อย่อ/ขยาย
  • การคุยต่อเนื่องในห้องแชตไม่ใช่เวทมนตร์ แต่เป็นการจัดการระดับแอปพลิเคชัน: ตัวสมองกลเป็น Stateless เสมอ แต่แอปพลิเคชันหน้าบ้านทำหน้าที่หอบประวัติเดิมส่งซ้ำเข้าไปในรอบใหม่
  • ความฉลาดต่อเนื่องของแชตบอตขึ้นกับกลยุทธ์ของค่าย: แต่ละเจ้ามีวิธีบริหารประวัติในห้องแชตต่างกัน ทั้งแบบเก็บหมด (Append), เลื่อนหน้าต่าง (Sliding Window), ย่อสรุป (Summarize) และแคชบริบท (Caching) เพื่อชั่งน้ำหนักระหว่างความต่อเนื่อง ต้นทุน และความเร็ว
  • โต๊ะกว้างไม่ได้แปลว่าดีกว่าเสมอไป: การมี Context Window ใหญ่เป็นล้านโทเคนช่วยให้อ่านข้อมูลก้อนโตได้ แต่ต้องระวังต้นทุนโทเคนที่บวมขึ้น ความเร็วที่ช้าลง และปัญหาของหายกลางโต๊ะ (Lost in the Middle)
  • ในห้องแชตเดี่ยว จงผสาน Prompt และ Context Engineering แบบ "กระชับ ตรงประเด็น และครบถ้วน": หลีกเลี่ยงคำสั่งยาวเยิ่นเย้อโดยไม่จำเป็น เน้นสั่งงานสั้น ๆ แต่ครบถ้วนในตัวเอง โดยใช้เทคนิค Context Engineering หน้าแชตด้วยการเปิดอีก Session ช่วยสกัดแก่นสารและออก Prompt ให้ครับ
  • ถาม WebChat เพื่อหาเบาะแสเบื้องต้น แต่ตรวจเอกสารทางการเพื่อความชัดเจน: เราสามารถพิมพ์ถามโมเดลในห้องแชตเพื่อเป็นแนวทางคร่าว ๆ ได้ แต่หากต้องการตัวเลขขนาด Context Window หรือนโยบายการตัดประวัติที่แน่นอนและเชื่อถือได้ ให้ตรวจสอบจากเอกสารของผู้ให้บริการเป็นหลักครับ