องค์ที่ 4 · ตอนที่ 18

วันที่เอา AI มาวิ่งในเครื่อง — ประสบการณ์จริงกับการลองใช้ Local AI

วันที่เอา AI มาวิ่งในเครื่อง — ประสบการณ์จริงกับการลองใช้ Local AI

ในตอนที่แล้ว เราได้กางแผนผังสถาปัตยกรรมสองขั้ว ระหว่างการยิงข้อมูลขึ้นก้อนเมฆ (Cloud AI) กับการเก็บข้อมูลไว้คิดในบ้าน (Local AI)

สำหรับคนที่คุ้นเคยกับการเปิดเว็บเบราว์เซอร์คุยกับ ChatGPT หรือ Gemini มาตลอด ความคิดที่ว่า “เราสามารถดาวน์โหลดสมองกล AI ทั้งตัวมาติดตั้งและสั่งรันบนคอมพิวเตอร์ที่ตั้งอยู่บนโต๊ะทำงานของเราได้จริง ๆ” อาจจะฟังดูเหมือนเรื่องไกลตัว หรือเป็นเรื่องเฉพาะทางของนักวิจัยในห้องแล็บ

แต่วันนี้ ผมอยากพาทุกคนถอยออกจากทฤษฎีบนหน้ากระดาษ แล้วมาฟัง “เรื่องจริงจากโต๊ะทำงานของผม” เส้นทางการลองผิดลองถูก ตั้งแต่วันที่ใช้โน้ตบุ๊กเครื่องเดิม วันที่ตัดสินใจอัปเกรดเครื่องคอมพิวเตอร์ตั้งโต๊ะ การได้เห็นความมหัศจรรย์ของการสรุปงานโปรเจกต์ และข้อจำกัดจริง ๆ ที่โมเดลในเครื่องยังทำได้ไม่ดีครับ

1. จุดเริ่มต้นบนโน้ตบุ๊ก VRAM 6GB: คุยพอรู้เรื่อง แต่ไปต่อไม่ไหว

จุดเริ่มต้นการทดลอง Local AI ของผมไม่ได้เริ่มจากเครื่องเซิร์ฟเวอร์ราคาแพงเลยครับ ผมเริ่มต้นจากคอมพิวเตอร์โน้ตบุ๊กเครื่องเดิมที่มีหน่วยความจำการ์ดจอ VRAM 6GB

ผมติดตั้งโปรแกรมสำหรับรันโมเดลยอดนิยมอย่าง LM Studio แล้วลองดาวน์โหลดโมเดลขนาดกะทัดรัดอย่าง Gemma4 E4B มาทดลองรันดู

ผลการทดสอบในวันแรก:

  • การพูดคุยทั่วไป: เราคุยกันพอรู้เรื่องครับ ถามคำถามสั้น ๆ ตอบได้ แต่... ผลลัพธ์ยังไม่ดีนัก ภาษาและตรรกะยังดูแข็ง ๆ ทื่อ ๆ
  • การอ่านไฟล์: ผมลองทดสอบให้มันเปิดไฟล์และอ่านไฟล์ผ่าน Hermes Agent ซึ่งพอกล้อมแกล้มทำได้ในระดับพื้นฐาน
  • งานจริงจัง: แต่พอผมลองโยนงานที่มีความซับซ้อนอย่างการสรุปรายงานความคืบหน้าโครงการ (Project Progress) หรือการทำบันทึกการประชุม (Minutes of Meeting - MOM) ตัวระบบก็เริ่มไปไม่รอด ตอบวน สรุปตกหล่น และเครื่องทำงานช้าจนเห็นได้ชัด

บทเรียนจากโน้ตบุ๊ก VRAM 6GB ในวันนั้นทำให้ผมเห็นสัจธรรมข้อแรกทันที: “ถ้าฮาร์ดแวร์มีข้อจำกัด โมเดลตัวเล็กจิ๋วอาจพอเป็นเพื่อนคุยเล่นได้ แต่สำหรับงานที่ผมทดลองในครั้งนั้น มันยังไม่พร้อมจะเป็นผู้ช่วยทำงานจริง”

2. ก้าวกระโดดสู่ PC + RTX 5060 Ti 16GB: เมื่อสมองกลได้พื้นที่หายใจ

หลังจากเห็นข้อจำกัดของชุดเดิม ผมจึงลองขยับสเปกและเปลี่ยนโมเดล โดยจัดหาเครื่องคอมพิวเตอร์ตั้งโต๊ะ (PC) และติดตั้งการ์ดจอ NVIDIA RTX 5060 Ti ที่มีหน่วยความจำ VRAM ขนาด 16GB เข้าไป

ในส่วนของการตั้งค่าเชิงเทคนิค (Configuration) เพื่อสั่งให้ระบบรันบน GPU ได้อย่างเต็มประสิทธิภาพนั้น ผมยกหน้าที่ให้ลูก ๆ ช่วยจัดการดาวน์โหลดโมเดลและเซ็ตอัปสภาพแวดล้อมให้เรียบร้อย ตัวผมเองไม่ได้ลงลึกในรายละเอียดการคอนฟิกเหล่านั้น เพราะในฐานะผู้ใช้งาน สิ่งที่ผมสนใจที่สุดคือ “ผลงานที่ได้เมื่อเอามาใช้งานจริง”

และโมเดลล่าสุดที่ลูกช่วยโหลดมาให้ผมลองใช้งาน คือตัว Huihui-Qwen3.8-27B-abliterated-GGUF

การขยับจากโน้ตบุ๊กเดิม มาสู่ชุดเครื่อง PC การ์ดจอ VRAM 16GB พร้อมโมเดลชุดใหม่ มันทำให้เห็นความแตกต่างอย่างชัดเจนในการทำงานจริงครับ!

แผนภาพประกอบ chapter 18 diagram 01
แผนภาพประกอบเรื่อง

3. บททดสอบงานจริง: สรุป Project Progress ข้ามทีมที่น่าประทับใจ

สิ่งที่ทำให้ผมประทับใจและรู้สึกว่า Local AI เริ่มนำมาใช้งานได้จริงในชีวิตการทำงาน เกิดขึ้นในการทดลองนี้ครับ:

  1. ส่งแม่แบบที่ต้องการ (Template): ผมส่งไฟล์ PDF Project Progress ที่มีการจัดหน้าตาและรูปแบบ (Format) สรุปรายงานไว้อย่างประณีต เข้าไปให้โมเดลดูเป็นตัวตั้งต้น
  2. ส่งข้อมูลดิบประจำสัปดาห์: จากนั้น ผมป้อนไฟล์ Weekly Report ของแต่ละทีมงานที่ส่งเข้ามาในรอบสัปดาห์นั้นเข้าไป
  3. สั่งให้สังเคราะห์ผลลัพธ์: ผมสั่งให้โมเดลอ่านรายงานของทุกทีม แล้วจัดทำสรุป Project Progress รอบใหม่ โดยให้ลงใน Format เดียวกับตัวอย่าง PDF ตั้งต้น

ผลลัพธ์ที่ปรากฏบนหน้าจอสร้างความประทับใจให้ผมมากครับ! ตัวโมเดลนี้สามารถอ่านข้อมูลความคืบหน้าจากรายงานของแต่ละทีม ดึงประเด็นสำคัญมาจัดกลุ่ม และ สรุปผลพร้อมจัดลงใน Format ตัวอย่างได้อย่างถูกต้อง สวยงาม และสามารถนำไปใช้งานต่อได้จริง

นี่คือจุดเปลี่ยนที่น่าประทับใจ: ชุดเครื่องและโมเดลที่ลองครั้งใหม่นี้ทำงานสรุปรายงานของผมได้ดีขึ้นอย่างเห็นได้ชัด สามารถสังเคราะห์เอกสารที่มีโครงสร้างชัดเจนได้อย่างน่าพอใจ โดยที่ข้อมูลความคืบหน้าของโครงการยังคงหมุนเวียนอยู่ภายในเครื่องคอมพิวเตอร์ของเรา

4. ความจริงที่ต้องยอมรับ: งานเขียนโค้ด (Coding) ยังไม่น่าพอใจ

แม้การสรุปเอกสารรายงานโครงการจะทำได้น่าประทับใจ แต่ในโลกของวิศวกรรม เราต้องพูดความจริงกันทั้งสองด้านครับ

ผมได้นำโมเดลในเครื่องชุดนี้ไปทดลองกับงานอีกประเภทหนึ่ง นั่นคือ งานช่วยเขียนโค้ด (Coding)

ผลปรากฏว่า: ยังไม่เป็นที่น่าพอใจนักครับ

  • แม้จะเขียนสคริปต์สั้น ๆ หรือฟังก์ชันง่าย ๆ ได้
  • แต่เมื่องานเขียนโค้ดเริ่มมีความซับซ้อน ต้องเข้าใจโครงสร้างโปรเจกต์หลายไฟล์ หรือต้องแก้บั๊กเชิงลึก โมเดลในเครื่องยังให้คำตอบที่ติดขัด มีข้อผิดพลาดในตรรกะ และมักจะตอบไม่จบกระบวนความ

ตรงจุดนี้ทำให้ผมเห็นเส้นแบ่งที่ชัดเจนว่า: สำหรับงานเขียนโค้ดที่ต้องการตรรกะระดับสูงและมีความแม่นยำทางไวยากรณ์ขั้นสูง การใช้ Coding Agent ที่เชื่อมต่อกับโมเดลบนคลาวด์ (เช่น Gemini Flash, DeepSeek หรือ Claude) ยังคงทำผลงานได้เฉียบคมและเชื่อถือได้มากกว่าอย่างเห็นได้ชัดครับ

5. มุมมองสถาปัตยกรรม (Architect’s Lens): บทเรียนจากโต๊ะทำงานจริง

จากประสบการณ์ตรงทั้งหมดนี้ ผมกลั่นออกมาเป็นหลักคิด 3 ข้อสำหรับคนที่กำลังคิดจะเอา AI มาวิ่งในบ้าน:

แผนภาพประกอบ chapter 18 diagram 02
แผนภาพประกอบเรื่อง
  1. ชุดเครื่องและโมเดลที่เหมาะสม: การที่งานสรุปรายงานของผมสำเร็จได้ ประสบการณ์ครั้งใหม่นี้เกิดจากการเปลี่ยนทั้งตัวเครื่อง การ์ดจอ และโมเดลชุดใหม่ (Huihui-Qwen3.8-27B-abliterated-GGUF) ที่ช่วยให้การประมวลผลเอกสารทำได้ราบรื่นขึ้นอย่างชัดเจน
  2. แม่แบบคือเข็มทิศ: สังเกตไหมครับว่า การที่โมเดลสรุปงาน Project Progress ได้เป๊ะ เป็นเพราะผม "ส่ง PDF ที่มี Format ตั้งต้นไปให้มันดู" ไม่ใช่สั่งลอย ๆ ด้วยคำพูด!
  3. อย่าฝืนใช้เครื่องมือผิดประเภท: งานเอกสารลับ ข้อมูลโครงการภายใน สรุปงานประจำสัปดาห์ → โยนให้ Local AI ช่วยจัดการเพื่อให้ควบคุมข้อมูลได้เองและไม่มีค่า Token; แต่งานเขียนโค้ดซับซ้อนหรืองานค้นคว้าตรรกะยาก ๆ → ปล่อยให้ Cloud AI รับหน้าที่ไป อย่าไปเค้นโมเดลในเครื่องให้เหนื่อยแรง

บทสรุปและสิ่งที่จะคุยกันต่อ

และจากบทเรียนในการทดสอบ Project Progress ที่ผ่านมา มีจุดสังเกตสำคัญที่น่าคิดอย่างยิ่ง: ทำไมเวลาที่เราส่ง "แม่แบบ Format ตัวจริง" แนบไปพร้อมกับข้อมูลดิบ AI ถึงส่งมอบงานออกมาได้เป๊ะราวกับมืออาชีพ ทั้ง ๆ ที่เราไม่ได้พิมพ์สั่งงานยาวเหยียดเลยแม้แต่น้อย?

ในทางกลับกัน ทำไมเวลาที่เราไม่มีเอกสารอะไรให้มันดูเลย แต่พยายามพิมพ์สั่งงานยาวเป็นหน้ากระดาษ AI กลับตอบออกทะเลและแต่งเรื่องขึ้นมาเอง?

ในตอนต่อไป — ตอนที่ 19: สั่งให้ชัดและจัดให้ครบ — แนวทางลูกผสม (Hybrid Prompt–Context Approach) เราจะมาเปิดเผยความแตกต่างระหว่าง "การสั่งงานลูกน้อง" กับ "การจัดโต๊ะทำงานและแฟ้มเอกสาร" ซึ่งเป็นตัวเปลี่ยนเกมที่แท้จริงของการใช้งาน AI ให้ได้ผลลัพธ์ดั่งใจครับ!

ศัพท์เทคนิค → คำแปลภาษาคนทำงาน — แตะเพื่อย่อ/ขยาย
  • VRAM (Video RAM): หน่วยความจำบนการ์ดจอ ซึ่งทำหน้าที่เป็นโต๊ะทำงานความเร็วสูงสำหรับวางไฟล์โมเดล AI (เช่น 16GB บน RTX 5060 Ti)
  • Model Parameters (จากผลทดลอง 4B สู่ 27B): จากผลการทดลองสองชุดนี้ โมเดลขนาดกะทัดรัดอย่าง Gemma4 E4B บนโน้ตบุ๊กเดิมเหมาะกับการคุยตอบทั่วไปหรืองานง่าย ๆ ขณะที่ชุดเครื่องใหม่กับ Huihui-Qwen3.8-27B เริ่มมีความสามารถในการสังเคราะห์งานเอกสารที่มีโครงสร้างได้อย่างน่าประทับใจ
  • LM Studio: ซอฟต์แวร์สำเร็จรูปที่ช่วยให้คนทั่วไปสามารถดาวน์โหลด คอนฟิก และรันโมเดล AI บนคอมพิวเตอร์ส่วนบุคคลได้อย่างสะดวก
หลักคิดเชิงสถาปัตยกรรม — แตะเพื่อย่อ/ขยาย
  • Grounding with Templates: การให้ AI ทำงานได้ผลลัพธ์ดั่งใจ หัวใจไม่ได้อยู่ที่การสั่งงานด้วยคำพูดที่ซับซ้อน แต่อยู่ที่การป้อน "ตัวอย่างโครงสร้างที่ถูกต้อง (Format Template)" ควบคู่ไปกับข้อมูลดิบ
  • Realistic Expectations: อย่าหลงเชื่อคำโฆษณาว่าโมเดลในเครื่องสามารถทดแทนโมเดลยักษ์ใหญ่บนคลาวด์ได้ทุกเรื่อง จงเลือกใช้ให้ตรงกับงาน (Fit-for-Purpose) เพื่อความคุ้มค่าและได้ผลงานที่ดีที่สุดครับ