🚨 Qwen 27B รัน Local บน AMD ใบเดียวได้แล้ว — รอบนี้ซอฟต์แวร์…

🚨 Qwen 27B รัน Local บน AMD ใบเดียวได้แล้ว — รอบนี้ซอฟต์แวร์พร้อมตั้งแต่ Day 0

ใครเล่น Local AI น่าจะชอบข่าวนี้ครับ เพราะรอบนี้ไม่ได้มีแค่ “ฮาร์ดแวร์รันได้” แต่ฝั่งซอฟต์แวร์พร้อมใช้งานตั้งแต่วันเปิดตัวด้วย

AMD ประกาศ Day 0 support ให้ Qwen3.8-27B รันบนเครื่องที่ใช้ Ryzen AI Max+ หรือ Radeon AI PRO R9700 32GB ใบเดียวผ่าน llama.cpp ได้เลย

ถ้าไม่อยากเขียนโค้ดก็เปิดผ่าน LM Studio ส่วนคนที่กำลังทำแอปสามารถใช้ Lemonade เป็น Local Inference layer แล้วเชื่อมผ่าน API ต่อเข้าระบบของตัวเองได้

ตัวโมเดลเป็น Dense Vision-Language 27B รองรับทั้งข้อความ ภาพ วิดีโอ Tool Calling และ Thinking Mode ที่ปรับระดับได้ พร้อม Native Context สูงสุด 262,144 Tokens และปล่อย Weights ภายใต้ Apache 2.0

พูดง่าย ๆ คือ ตอนนี้ Local AI เริ่มขยับจาก “โหลดโมเดลมาคุยเล่น” ไปสู่การเอาโมเดลใหญ่พอสมควรมาทำเป็น Local Agent / RAG / Vision Workflow / Coding Workflow บนเครื่องเดียวได้จริงมากขึ้น

เรื่องความเร็ว AMD รายงานผลทดสอบเบื้องต้นบน Windows ผ่าน llama.cpp + Vulkan ว่าได้สูงสุดประมาณ:

• Ryzen AI Max+ 395 → 24.5 tokens/s • Radeon AI PRO R9700 → 51.8 tokens/s

แต่ตรงนี้ต้องพูดแฟร์ ๆ ว่าเป็นตัวเลขจาก AMD เอง และประสิทธิภาพจริงยังขึ้นกับ Quantization, Context Length, Runtime รวมถึงการตั้งค่าของแต่ละเครื่องด้วย

อีกเรื่องที่สำคัญคือ 27B แบบ Dense ไม่ได้เบา

AMD แนะนำว่าถ้าอยากรันแบบค่อนข้างสบายควรมี VGM/VRAM ประมาณ 24GB ขึ้นไป ถ้ามีน้อยกว่านี้ไม่ได้แปลว่ารันไม่ได้ แต่ต้องเริ่มคิดเรื่อง Quantization, Context และ Memory มากขึ้น

นี่เป็นจุดที่หลายคนมักเข้าใจผิดเวลาเล่น Local AI

เห็นคำว่า “27B” แล้วอย่าเพิ่งดูแค่ว่าโหลดเข้าเครื่องได้หรือไม่ เพราะ โหลดได้ ≠ ใช้งาน Workflow จริงได้ลื่น

ถ้าจะทำ Agent หรือ RAG จริง Context จะโตขึ้นเรื่อย ๆ ไหนจะ System Prompt, Tools, Memory, Documents และ Output อีก ดังนั้น VRAM ที่เหลือหลังโหลดโมเดลสำคัญมาก

สำหรับผม ประเด็นที่น่าสนใจกว่าตัวเลข benchmark คือทิศทางของ Local AI

เราเริ่มเห็นเครื่องระดับ Workstation เครื่องเดียวที่สามารถ พัฒนา ทดสอบ และรัน AI App บนเครื่องเดียวกัน ได้ โดยบาง Workflow ไม่จำเป็นต้องส่ง Prompt หรือข้อมูลทุกอย่างขึ้น Cloud

Use case ที่เริ่มน่าสนใจขึ้น เช่น Local Coding Agent, Private Document RAG, Vision Agent สำหรับงานภายใน, Automation ที่แตะข้อมูลอ่อนไหว หรือ AI Assistant ที่ต้องเปิดทำงานตลอดโดยไม่อยากเสียค่า API ทุกครั้ง

แต่สุดท้ายฮาร์ดแวร์ทำให้โมเดล “รันได้” เท่านั้นครับ

สิ่งที่ทำให้มันมีประโยชน์จริงยังเป็น Workflow, Memory, Tools, Guardrails และการตรวจผล

สรุปสั้น ๆ: จากนี้คำถามของ Local AI อาจไม่ใช่แค่ “เครื่องผมรันโมเดลนี้ไหวไหม” แต่จะกลายเป็น “ถ้ารันไหวแล้ว เราจะเอามันไปทำอะไรให้คุ้มกับเครื่อง” มากกว่า

#Qwen #AMD #LocalAI #AIAgent #SynapTechAI

---

📖 อ่านบทความเต็มบน Facebook | 🔔 ติดตาม SynapTech