คำถามสัมภาษณ์วิศวกร AI: คาดหวังอะไรได้บ้างและเตรียมตัวอย่างไร

วิศวกร AI ทำหน้าที่สร้างและปรับใช้ระบบ AI ในสภาพแวดล้อมจริง เปลี่ยนโมเดลอย่างเช่น LLM ให้เป็นแอปพลิเคชันที่เชื่อถือได้และส่งมอบคุณค่าทางธุรกิจ

บทบาทนี้แตกต่างโดยเนื้อแท้จากนักวิทยาศาสตร์ข้อมูล ซึ่งมุ่งเน้นการวิเคราะห์ข้อมูลและการสร้างโมเดลเชิงสำรวจเป็นหลัก และแน่นอนว่าแตกต่างจากนักวิจัยด้านการเรียนรู้ของเครื่องที่เน้นความก้าวหน้าทางทฤษฎีและอัลกอริทึมใหม่ ๆ

ดังนั้น การสัมภาษณ์วิศวกร AI จึงให้ความสำคัญกับแนวคิดการออกแบบระบบเชิงปฏิบัติมากกว่าทฤษฎีล้วนหรือการสร้างโมเดลทางสถิติ ในบทความนี้ ฉันจะครอบคลุมคำถามสัมภาษณ์เกี่ยวกับ LLM แนวคิดหลักของ AI การออกแบบระบบ การปรับใช้และ MLOps การเขียนโค้ดและการนำไปใช้ ตลอดจนสถานการณ์จริง

คำถามสัมภาษณ์วิศวกร AI ระดับเริ่มต้น

คำถามพื้นฐานเหล่านี้มีไว้เพื่อตรวจสอบว่าเข้าใจคำศัพท์และความแตกต่างสำคัญที่หล่อหลอมวิธีสร้างและพูดคุยเกี่ยวกับระบบ AI หรือไม่

ความแตกต่างระหว่างโมเดล AI กับโมเดลการเรียนรู้ของเครื่องคืออะไร?

โมเดล AI คือระบบใด ๆ ที่ทำงานที่โดยหลักแล้วต้องอาศัยสติปัญญามนุษย์ รวมถึงแนวทางแบบกฎเกณฑ์หรือสัญลักษณ์บางส่วน ส่วนโมเดลการเรียนรู้ของเครื่องเป็นส่วนย่อยที่เรียนรู้รูปแบบโดยตรงจากข้อมูลที่ป้อนเข้าไป

ในแง่การใช้งานจริง วิศวกร AI มักทำงานกับโมเดล ML โดยเฉพาะ LLM แต่ก็ต้องผสานองค์ประกอบที่ไม่ใช่ ML เช่น เอ็นจินกฎหรือกราฟความรู้ เมื่อจำเป็นเพื่อให้ได้ผลลัพธ์ที่มีความน่าเชื่อถือสูง

LLM คืออะไร?

Large Language Model คือโครงข่ายประสาทแบบทรานส์ฟอร์เมอร์ขนาดใหญ่ตามชื่อ ที่ผ่านการฝึกบนคลังข้อความมหาศาลเพื่อสร้างข้อความที่สอดคล้องกัน ในระบบจริง LLM ทำหน้าที่เป็นกลไกการใช้เหตุผลเบื้องหลังแชตบอต เครื่องสรุปความ และเอเจนต์

การทำโทเค็น (Tokenization) คืออะไร?

การทำโทเค็นคือการแปลงข้อความดิบให้เป็นโทเค็นตัวเลขที่โมเดลสามารถประมวลผลได้ ซึ่งมีผลโดยตรงต่อค่าใช้จ่าย ความยาวบริบท และวิธีที่โมเดลมองเห็นข้อความ กล่าวคือ ส่วนของข้อความจะถูกกำหนดตัวระบุเชิงตัวเลขที่เรียกว่าโทเค็น เพื่อให้พร้อมป้อนเข้าสู่โมเดล ระบบในงานจริงใช้ตัวทำโทเค็นแบบหน่วยคำย่อย เช่น BPE และติดตามจำนวนโทเค็นเพื่อควบคุมค่าใช้จ่าย API และเวลาแฝง

พรอมป์ตคืออะไร?

พรอมป์ตคือข้อความอินพุตที่ป้อนให้ LLM เพื่อสร้างเอาต์พุต โดยทั่วไปเป็นสิ่งประดิษฐ์ที่ออกแบบมาอย่างวิศวกรรม มีคำสั่ง ตัวอย่างในบางครั้ง และบริบทเต็มเพื่อเพิ่มความสามารถในการปรับตัวของ LLM ให้สูงสุด

ความแตกต่างระหว่างการอนุมาน (inference) กับการฝึก (training) คืออะไร?

การฝึกคือการอัปเดตน้ำหนักของโมเดล ส่วนการอนุมานคือการสร้างผลลัพธ์จากโมเดลที่ฝึกแล้ว วิศวกร AI มุ่งเน้นที่การเพิ่มประสิทธิภาพและการปรับขนาดการอนุมานเป็นหลัก

ระบบ AI ที่อิง API คืออะไร?

คือการใช้โมเดลที่ผ่านการฝึกล่วงหน้าผ่านเอ็นด์พอยต์บนคลาวด์ เช่น OpenAI หรือ Anthropic เพื่อลดภาระโครงสร้างพื้นฐาน โดยยังต้องบริหารจัดการพรอมป์ตและค่าใช้จ่ายอยู่

ความแตกต่างระหว่างการปรับจูน (fine-tuning) กับการใช้พรอมป์ตคืออะไร?

การใช้พรอมป์ตเปลี่ยนพฤติกรรมของโมเดลในช่วงอนุมาน ส่วนการปรับจูนคือการอัปเดตน้ำหนักของโมเดล ซึ่งช้ากว่าแต่โดยทั่วไปจะนำไปสู่ LLM ที่ปรับแต่งเฉพาะทางมากขึ้น ดังนั้นการใช้พรอมป์ตจึงเร็วกว่าและถูกกว่าสำหรับกรณีใช้งานส่วนใหญ่ในงานจริง

RAG หรือ Retrieval-Augmented Generation คืออะไร?

RAG จะดึงเอกสารที่เกี่ยวข้องจากคลังความรู้ที่กำหนดและเพิ่มเข้าไปในพรอมป์ต ดังนั้น LLM จึงใช้ข้อมูลเพิ่มที่ผ่านการตรวจสอบเพื่อทำนายข้อมูลที่เชื่อถือได้มากขึ้นและลดอาการเพ้อ (hallucinations)

คำถามสัมภาษณ์แนวคิดหลักของวิศวกร AI

นอกเหนือจากคำนิยาม ผู้สัมภาษณ์ต้องการเห็นว่าเข้าใจกลไกเบื้องหลังเอมเบดดิง การประเมินผล และความท้าทายถาวรอย่างอาการเพ้อหรือไม่

เอมเบดดิงคืออะไร และใช้อย่างไร?

เอมเบดดิงคือเวกเตอร์หนาแน่นที่แทนความหมายเชิงความหมาย ช่วยในการค้นหาเชิงความหมายและการดึงคืนในฐานข้อมูลเวกเตอร์ อาจนึกภาพเอมเบดดิงเป็นตารางที่รับอินพุตเชิงตัวเลขและกำหนดเวกเตอร์มิติสูงในปริภูมิที่แทนความหมายได้ดีกว่า

ประเมินระบบ LLM อย่างไร?

ผสานเมตริกอัตโนมัติ เช่น ความซื่อต่อแหล่งและความเกี่ยวข้อง เข้ากับการทบทวนโดยมนุษย์และ KPI ทางธุรกิจ ในการใช้งานจริง เราต้องมีสายงานประเมินผลแบบต่อเนื่อง

อะไรทำให้ LLM เกิดอาการเพ้อ (hallucinations)?

ช่องว่างในข้อมูลฝึก และธรรมชาติที่มั่นใจเกินไปของการทำนายโทเค็นถัดไป อาจบังคับให้โมเดลทำนายโทเค็นโดยไม่มีฐานข้อมูลรองรับเพียงพอ ซึ่งเรียกว่าอาการเพ้อ

ลดอาการเพ้อได้อย่างไร?

RAG เป็นวิธีที่เชื่อถือได้และมีประสิทธิภาพวิธีหนึ่ง เพราะมอบการยึดโยงกับแหล่งข้อมูลที่เชื่อถือได้ที่คุณจัดให้ ผสานกับรูปแบบเอาต์พุตแบบมีโครงสร้าง การตรวจสอบความสม่ำเสมอด้วยตนเอง และการตรวจสอบข้อเท็จจริง จะช่วยลดอาการเพ้อได้เพิ่มเติม

คำถามสัมภาษณ์เกี่ยวกับ LLM และ Generative AI

ส่วนนี้เจาะลึกสถาปัตยกรรมและพฤติกรรมของโมเดลเอง ตั้งแต่กลไก attention ไปจนถึงการออกแบบพรอมป์ต

ทรานส์ฟอร์เมอร์ทำงานอย่างไรในภาพรวม?

ประมวลผลแบบขนานด้วย self-attention แทนการวนทวนซ้ำ โมเดลภาษาใหญ่สมัยใหม่มักเป็นแบบดีโคเดอร์อย่างเดียวและทำนายโทเค็นแบบออโตรีเกรสซีฟ

Attention คืออะไร?

Attention คำนวณความเกี่ยวข้องแบบถ่วงน้ำหนักระหว่างโทเค็น เพื่อให้เกิดการพึ่งพาในระยะไกลโดยไม่ขึ้นกับตำแหน่ง

Context window คืออะไร?

จำนวนโทเค็นสูงสุดที่โมเดลสามารถประมวลผลได้ในหนึ่งคำขออนุมาน เป็นข้อจำกัดต่อการออกแบบพรอมป์ตและการจัดการประวัติการสนทนา

อุณหภูมิ (temperature) ในการสร้างข้อความคืออะไร?

เป็นตัวควบคุมความสุ่มในการสุ่มตัวอย่าง: ค่าต่ำให้ผลลัพธ์ที่กำหนดได้มากกว่า ขณะที่ค่าสูงเพิ่มความคิดสร้างสรรค์ ในระบบจริงจะจูนตามกรณีใช้งานเพื่อสมดุลความเชื่อถือได้กับความหลากหลาย

วิศวกรรมพรอมป์ต (prompt engineering) คืออะไร?

การออกแบบ ทดสอบ ตรวจสอบ ปรับจูน และวนซ้ำพรอมป์ตอย่างเป็นระบบเพื่อให้ได้พฤติกรรมที่เชื่อถือได้ดีที่สุด ในงานจริง พรอมป์ตจะถูกจัดเวอร์ชันร่วมกับโค้ด และขึ้นกับตัวโมเดลอย่างมากแทนที่จะใช้เทมเพลตทั่วไป

System prompts กับ user prompts ต่างกันอย่างไร?

System prompts กำหนดบทบาท ข้อจำกัด และรูปแบบเอาต์พุตของการสนทนา ส่วน user prompts มีคำขอเฉพาะเรื่องนั้น ๆ

การใช้เครื่องมือหรือการเรียกฟังก์ชัน (tool use/function calling) คืออะไร?

ช่วยให้ LLM เรียกใช้เครื่องมือภายนอกที่คุณกำหนดได้ เช่น API และฐานข้อมูล และจัดรูปแบบการเรียกได้ถูกต้อง เป็นแนวคิดหลักเบื้องหลังเอเจนต์หลายขั้นตอน

การใช้พรอมป์ตแบบ chain-of-thought ช่วยเพิ่มประสิทธิภาพอย่างไร?

สั่งให้โมเดลสร้างขั้นตอนการให้เหตุผลระดับกลางก่อนคำตอบสุดท้าย เพื่อเพิ่มความแม่นยำของงานที่ซับซ้อน

คำถามสัมภาษณ์การออกแบบระบบสำหรับวิศวกร AI

คำถามการออกแบบระบบทดสอบความสามารถในการแปลงความรู้เกี่ยวกับ LLM ให้เป็นสถาปัตยกรรมตั้งแต่ต้นจนจบที่รองรับผู้ใช้จริงและข้อจำกัดจริง

ออกแบบแชตบอตโดยใช้ LLM

ส่วนหน้า หน่วยความจำการสนทนา การจัดลำดับพรอมป์ต การเรียก API ของ LLM การตรวจสอบเอาต์พุต การบันทึกล็อก การจำกัดอัตรา และการติดตามต้นทุน

ออกแบบระบบค้นหาเอกสารโดยใช้เอมเบดดิง

รับเข้าและแบ่งชิ้นเอกสาร → ทำเอมเบด → เก็บในฐานข้อมูลเวกเตอร์พร้อมเมทาดาตา → เอมเบดคำค้น → ค้นหาเชิงความหมาย (หรือแบบผสม) → จัดอันดับผลลัพธ์

ออกแบบไปป์ไลน์ RAG

การรับเข้าและการแบ่งชิ้น → การทำเอมเบดและการจัดเก็บ → การดึงคืนตอนคิวรีพร้อมการจัดอันดับใหม่ → การเสริมพรอมป์ต → การสร้างด้วย LLM → การประมวลผลภายหลังและการอ้างอิงแหล่งข้อมูล

จะรับมือกับการอนุมานที่ทราฟฟิกสูงอย่างไร?

ใช้การจัดคิว การประมวลผลเป็นชุด การควอนไทซ์ การสเกลแนวนอน แคชพรอมป์ต และการบาลานซ์โหลด โดยคงเวลาแฝงตาม SLA

จะลดเวลาแฝงในระบบ AI อย่างไร?

ใช้การย่อพรอมป์ต การแคช โมเดลที่เล็กลงหรือกลั่นแล้ว การถอดรหัสแบบคาดเดา และฮาร์ดแวร์เร่งความเร็ว

จะประเมินและเฝ้าระวังเอาต์พุตอย่างไร?

บันทึกคำขอ/การตอบกลับ รันคะแนนคุณภาพอัตโนมัติ สุ่มตัวอย่างเพื่อให้มนุษย์ทบทวน ติดตามเมตริกทางธุรกิจ และตั้งการเตือนเมื่อคุณภาพลดลง

คำถามด้านการปรับใช้และ MLOps สำหรับวิศวกร AI

เมื่อออกแบบระบบแล้ว ผู้สัมภาษณ์ต้องการรู้ว่าสามารถส่งมอบ ดูแล และทำให้ระบบทำงานได้อย่างเชื่อถือได้จริงหรือไม่

จะปรับใช้แอปพลิเคชันที่ใช้ LLM อย่างไร?

ทำคอนเทนเนอร์ด้วย FastAPI ผสานผ่าน SDK หรือเซิร์ฟเวอร์แบบโฮสต์เองเช่น vLLM จัดการด้วย Kubernetes หรือแบบไร้เซิร์ฟเวอร์ และใช้ CI/CD กับพรอมป์ตและโค้ด

จะจัดการเวอร์ชันของโมเดลอย่างไร?

จัดเวอร์ชันพรอมป์ต โมเดลเอมเบดดิง และอะแดปเตอร์ที่ปรับจูนด้วยเครื่องมืออย่าง LangChain Hub, MLflow หรือ Hugging Face

จะเฝ้าระวังประสิทธิภาพโมเดลในงานจริงอย่างไร?

ติดตามเวลาแฝง ปริมาณงาน ค่าใช้จ่าย อัตราความผิดพลาด และคุณภาพเอาต์พุต โดยใช้ Prometheus, Grafana และเครื่องมือประเมิน LLM

Model drift ในระบบ AI คืออะไร?

ความเสื่อมถอยที่เกิดจากการเปลี่ยนแปลงของการกระจายอินพุต พฤติกรรมผู้ใช้ หรือแหล่งข้อมูล ปรากฏเป็นความเกี่ยวข้องที่ลดลงหรืออาการเพ้อที่เพิ่มขึ้น

จะสเกลการอนุมานอย่างไร?

ใช้การทำแบตช์แบบต่อเนื่อง การควอนไทซ์เช่น 4/8 บิต การแบ่งโมเดลแบบขนาน และเอนจินอย่าง vLLM หรือ TGI

มีเครื่องมือใดบ้างสำหรับการปรับใช้ AI?

Docker/Kubernetes, vLLM หรือ Text Generation Inference, ฐานข้อมูลเวกเตอร์อย่าง Pinecone หรือ Weaviate, LangSmith และแพลตฟอร์มคลาวด์อย่าง AWS Bedrock, Azure OpenAI หรือ GCP Vertex AI

คำถามสัมภาษณ์เชิงสถานการณ์สำหรับวิศวกร AI

คำถามเหล่านี้จำลองเหตุการณ์จริงในการผลิตเพื่อตรวจดูวิธีให้เหตุผลในการดีบักและบรรเทาปัญหาเมื่ออยู่ภายใต้ความกดดัน

แชตบอต LLM ของคุณให้คำตอบผิด คุณจะทำอย่างไร?

ตรวจสอบพรอมป์ตและประวัติการสนทนา เสริมความยึดโยง RAG เพิ่มการตรวจสอบเอาต์พุต และใช้วงป้อนกลับจากผู้ใช้

เวลาแฝงเพิ่มขึ้นอย่างกะทันหัน จะแก้ไขอย่างไร?

โปรไฟล์ปริมาณโทเค็น ขีดจำกัดอัตรา เครือข่าย คิว และสุขภาพของเอ็นด์พอยต์ โดยใช้การติดตามแบบ end-to-end

ต้นทุนพุ่งสูงในงานจริง แนวทางของคุณคืออะไร?

วิเคราะห์การใช้โทเค็น เพิ่มแคช ย่อพรอมป์ต เลือกเส้นทางไปยังโมเดลที่ถูกกว่า และตั้งการแจ้งเตือนงบประมาณอัตโนมัติ

ผู้ใช้รายงานอาการเพ้อ จะบรรเทาอย่างไร?

เพิ่มการอ้างอิงแหล่งที่มา บังคับใช้เอาต์พุตแบบมีโครงสร้างพร้อมการตรวจสอบ และเพิ่มขั้นตอนการวิจารณ์ด้วยตนเองของโมเดล

ระบบ RAG ของคุณส่งคืนผลลัพธ์ที่ไม่เกี่ยวข้อง เกิดจากอะไร?

ตรวจสอบการแบ่งชิ้น คุณภาพเอมเบดดิง ตัวกรองเมทาดาตา เกณฑ์ความคล้ายคลึง และการจัดอันดับใหม่ในการดึงคืน

ความแตกต่างของการสัมภาษณ์ วิศวกร AI กับ วิศวกรการเรียนรู้ของเครื่อง

วิศวกร AI มุ่งเน้น LLM วิศวกรรมพรอมป์ต RAG การจัดการ API และแอปพลิเคชันที่ผู้ใช้เผชิญหน้า ขณะที่วิศวกรการเรียนรู้ของเครื่องมุ่งที่การฝึกโมเดล สายงานข้อมูล และการเพิ่มประสิทธิภาพ

อาจนึกภาพวิศวกร AI เป็นวิศวกรซอฟต์แวร์ที่เชี่ยวชาญในการสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย AI ให้ใช้งานได้จริง ขณะที่วิศวกรการเรียนรู้ของเครื่องเน้นการวิจัยและพัฒนาโมเดลพื้นฐานมากกว่า

การสัมภาษณ์โดยทั่วไปจะทดสอบผู้สมัครด้าน AI ในการผสานระบบและความเชื่อถือได้ในการใช้งานจริง

ข้อผิดพลาดที่พบบ่อยในการสัมภาษณ์วิศวกร AI

แม้ผู้สมัครที่แข็งแกร่งก็อาจพลาดได้ ด้วยหลุมพรางซ้ำ ๆ บางประการที่บ่งชี้ถึงการขาดประสบการณ์ด้านการผลิต

• โฟกัสที่ทฤษฎีมากเกินไปแทนเวิร์กโฟลว์ในงานจริง
• ปฏิบัติต่อ LLM เป็นกล่องดำโดยไม่กล่าวถึงพรอมป์ตหรือโหมดความล้มเหลว
• มองข้ามการแลกเปลี่ยนในการออกแบบระบบ เช่น เวลาแฝง vs ความแม่นยำ vs ต้นทุน
• ละเลยแนวปฏิบัติด้านการเฝ้าระวังและการวนปรับปรุง
• ขาดตัวอย่างเฉพาะจากโครงการที่ปรับใช้จริง

วิธีเตรียมตัวสำหรับการสัมภาษณ์วิศวกร AI

แผนการเตรียมตัวที่มีเป้าหมายชัดเจนควรพัฒนาทักษะเชิงปฏิบัติควบคู่กับความรู้เชิงแนวคิดที่กล่าวถึงข้างต้น

• สร้างและปรับใช้โครงการ LLM แบบครบวงจรสองโครงการ เช่น แชตบอต RAG และแอปเอกสารอัจฉริยะ
• ฝึกการอธิบายการออกแบบระบบตั้งแต่รับอินพุตไปจนถึงเอาต์พุตที่ถูกเฝ้าระวัง
• สั่งสมประสบการณ์จริงกับ Docker, Kubernetes, vLLM, LangChain/LlamaIndex และฐานข้อมูลเวกเตอร์
• เชี่ยวชาญการผสาน API การแยกผลลัพธ์แบบมีโครงสร้าง และการติดตามทรซิง
• ดูแลโครงการที่กำลังดำเนินอยู่และติดตามอัปเดตด้านวิศวกรรม AI ที่มุ่งเน้นการผลิต

สรุป

วิศวกรรม AI คือการสร้างระบบที่เชื่อถือได้ การสัมภาษณ์ที่พบบ่อยจะทดสอบการแก้ปัญหาในโลกจริง ตั้งแต่สถาปัตยกรรมไปจนถึงการปรับใช้และแนวคิดเชิงระบบ

ประสบการณ์เชิงปฏิบัติในงานจริงที่แน่นคือปัจจัยสร้างความแตกต่างที่แข็งแกร่งที่สุด มุ่งเน้นการส่งมอบคุณค่าที่วัดผลได้ แล้วจะโดดเด่นในฐานะผู้สมัครที่แข็งแกร่ง