Courses
การทำงานกับ OpenAI API
3 ชม.
172.6K
นับตั้งแต่การเปิดตัว ChatGPT ช่วงปลายปี 2022 (เหตุการณ์ที่จุดชนวนการปฏิวัติด้าน AI อย่างต่อเนื่อง) โมเดลสร้างสรรค์อัตโนมัติได้พัฒนาทรงพลังและหลากหลายขึ้นเรื่อยๆ โมเดลใหม่ที่มีขนาด คุณสมบัติ โหมด และการใช้งานแตกต่างกันออกมาสู่ตลาดทุกวัน ทำให้ยากต่อการคาดคะเนขอบเขตของสิ่งที่เป็นไปได้
โดยภาพรวม แนวโน้มชัดเจนคือการพัฒนาโมเดลที่ใหญ่และซับซ้อนมากขึ้น การเพิ่มจำนวนพารามิเตอร์ของโมเดลและปริมาณข้อมูลฝึกสอนถูกมองว่าเป็นกลยุทธ์ที่ดีที่สุดในการปรับปรุงประสิทธิภาพของโมเดลภาษาขนาดใหญ่ (LLMs) ซึ่งเป็นเทคโนโลยีพื้นฐานเบื้องหลังโมเดลสร้างสรรค์อัตโนมัติ ดูบทความแยกของเราเพื่อทำความเข้าใจรายละเอียดว่า LLM คืออะไร
อย่างไรก็ดี ด้วยความกังวลที่เพิ่มขึ้นเกี่ยวกับทรัพยากรที่ต้องใช้ในการฝึกและรันโมเดลขนาดใหญ่เหล่านี้ (รวมถึง ผลกระทบต่อสิ่งแวดล้อม ที่เกี่ยวข้อง) ประสิทธิภาพในการพัฒนาและนำ AI ไปใช้งานกำลังได้รับความสนใจอย่างรวดเร็ว
บทความนี้จะนำเสนอ Stable Code 3B โมเดลล่าสุดที่ปล่อยโดย Stability AI ซึ่งออกแบบมาโดยเฉพาะเพื่อการเขียนโค้ดที่แม่นยำและตอบสนองได้ดี โมเดลสำหรับงานเขียนโค้ดที่แม่นยำอย่างยิ่งนี้ให้ประสิทธิภาพเทียบเท่า LLM ชั้นแนวหน้า ในขณะที่ลดขนาดลงอย่างมาก
Stable Code 3B คืออะไร
Stable Code 3B เปิดตัวในเดือนมกราคม 2024 โดย Stability AI เป็น LLM ขนาด 3 พันล้านพารามิเตอร์ที่พัฒนาขึ้นเพื่อวัตถุประสงค์ด้านการเขียนโค้ด เป็นเวอร์ชันที่ล้ำหน้ากว่ารุ่นก่อนหน้าอย่าง Stable Code Alpha 3B
Stable Code 3B โดดเด่นในงานเติมโค้ดอัตโนมัติ และสามารถใช้เป็นเครื่องมือการเรียนรู้ที่ยอดเยี่ยมสำหรับผู้เริ่มต้นเขียนโปรแกรม โมเดลเปิดให้ใช้งานฟรีเพื่อการวิจัยหรือการใช้งานส่วนบุคคล สำหรับการใช้งานเชิงพาณิชย์ ผู้ใช้ต้องสมัครสมาชิกหนึ่งใน Stability AI Memberships
Stable Code 3B เป็นหนึ่งในผลิตภัณฑ์ที่ดีที่สุดในบรรดา LLM ที่มีขนาดใกล้เคียงกัน (ดูรายละเอียดตัวชี้วัดประสิทธิภาพในส่วนถัดไป) โดยให้ผลลัพธ์ที่ยอดเยี่ยมในขณะที่มีขนาดเล็กลงมาก ด้วยการออกแบบที่กะทัดรัดและมีประสิทธิภาพ Stable Code 3B สามารถทำงานแบบออฟไลน์บนแล็ปท็อปทั่วไปได้ แม้กระทั่งเครื่องที่ไม่มีการ์ดจอแยก เช่น MacBook Air
Stable Code 3B ทำงานอย่างไร
Stable Code 3B เป็นโมเดลขนาดกะทัดรัดที่มี 2.7 พันล้านพารามิเตอร์ เป็นทรานส์ฟอร์เมอร์แบบตัวถอดรหัสเท่านั้น คล้ายกับ LLaMA แบบโอเพ่นซอร์สของ Meta ดูบทความแยกของเราเพื่อทราบรายละเอียดทั้งหมดเกี่ยวกับ LLaMA
กระบวนการฝึกของ Stable Code 3B ได้แรงบันดาลใจอย่างชัดเจนจาก CodeLLaMA ของ Meta โมเดลเริ่มต้นจาก LLM ที่ผ่านการพรีเทรนของ Stability AI อย่าง StableLM-3b-4e1t ซึ่งทำหน้าที่เป็น โมเดลฐาน
โมเดลนี้ผ่านกระบวนการ ปรับจูนแบบละเอียด สองขั้นตอน ในขั้นแรก โมเดลถูกฝึกด้วยชุดข้อมูลโค้ดและที่เกี่ยวข้องกับโค้ดหลายชุด รวมถึง CommitPack, GitHub Issues, StarCoder และชุดข้อมูลคณิตศาสตร์อื่นๆ ข้อมูลฝึกประกอบด้วยโค้ดจาก 18 ภาษาโปรแกรมยอดนิยม เช่น Python, R, Java และ C
จากนั้น โมเดลถูกปรับจูนต่อด้วยซีเควนซ์ที่ยาวขึ้น 16,384 โทเคน โดยใช้เทคนิค fill-in-the-middle ตามที่แนะนำใน งานวิจัยของ CodeLLama ขั้นตอนที่สองนี้ทำให้โมเดลรองรับหน้าต่างบริบทที่ยาวถึง 100k โทเคน ซึ่งเหมาะอย่างยิ่งสำหรับงานเขียนโค้ด ด้วยความเป็นไปได้ในการป้อนซีเควนซ์ที่ยาวขึ้น นักพัฒนาสามารถให้บริบทและชิ้นส่วนโค้ดที่ยาวกว่าจากฐานโค้ดของตน เพื่อให้ได้ผลลัพธ์ที่เกี่ยวข้องและแม่นยำมากขึ้น
ตัวชี้วัดประสิทธิภาพของ Stable Code 3B
นักพัฒนาของ Stability AI ได้สร้างโมเดลที่ทำผลงานระดับแนวหน้าหากเทียบกับโมเดลขนาดใกล้เคียงกัน บนเมตริก MultiPL-E ครอบคลุมหลายภาษาโปรแกรมที่ทดสอบ การเปรียบเทียบแสดงไว้ในภาพต่อไปนี้:
การเปรียบเทียบประสิทธิภาพ Multi-PL ของโมเดลที่ต่ำกว่า 3B ที่มา: Stability AI
Stable Code 3B ยังโดดเด่นเมื่อเทียบกับโมเดลที่ใหญ่กว่ามาก ยกตัวอย่างเช่น ทำได้ในระดับเดียวกับ CodeLLaMA 7b ซึ่งเป็นแรงบันดาลใจหลักของมัน โดยลดขนาดโมเดลลงได้ถึง 60%
การเปรียบเทียบ Stable Code Completion 3B กับ CodeLLama 7B ที่มา: Stability AI
การใช้งาน Stable Code 3B
ผู้ช่วยเขียนโค้ดที่ขับเคลื่อนด้วย AI อย่าง Stable Code 3B เปิดโอกาสมากมายในงานพัฒนาซอฟต์แวร์และการวิเคราะห์ข้อมูล ต่อไปนี้คือบางวิธีที่โปรแกรมเมอร์ใช้งาน AI อยู่แล้ว:
การทำงานอัตโนมัติ
Stable Code 3B สามารถทำงานซ้ำๆ ที่น่าเบื่อได้อย่างราบรื่น เช่น รันคำสั่ง SQL พื้นฐาน วิเคราะห์ข้อมูลเชิงสำรวจ และจัดระเบียบโครงการดาต้าไซเอนซ์ ช่วยให้โปรแกรมเมอร์ข้ามงานที่กินเวลาและโฟกัสกับงานที่ซับซ้อนและท้าทายมากขึ้น หากต้องการดูว่าทำงานจริงอย่างไร โปรดดู คู่มือการใช้ ChatGPT สำหรับดาต้าไซเอนซ์ ของเรา
การแก้บั๊ก
การดีบักมักใช้เวลามากและอาจท้าทาย โดยเฉพาะเมื่อทำงานกับโครงการที่ซับซ้อนซึ่งมีโค้ดหลายร้อยบรรทัด Stable Code 3B เป็นผู้ช่วยที่เหมาะสมในการเร่งกระบวนการนี้ โดยสแกนโค้ดได้ในไม่กี่วินาทีและให้ข้อเสนอแนะทั้งโค้ดและโครงสร้างเพื่อแก้ไข ด้วยหน้าต่างบริบทที่ยาว ผู้ใช้สามารถส่งสคริปต์ขนาดใหญ่ให้โมเดล และ Stable Code 3B จะค้นหาข้อผิดพลาดและจุดเสี่ยงที่อาจเกิดขึ้นในโค้ดได้
การเพิ่มประสิทธิภาพโค้ด
เมื่อทำงานกับโครงการที่ซับซ้อนและต้องใช้ทรัพยากรคอมพิวติ้งจำนวนมาก ประสิทธิภาพเป็นสิ่งจำเป็น วิธีการเขียนโค้ดส่งผลต่อประสิทธิภาพอย่างมาก Stable Code 3B สามารถช่วยเขียนโค้ดใหม่เพื่อเพิ่มประสิทธิภาพ ประหยัดทั้งเวลา ทรัพยากร และค่าใช้จ่าย
การตีความโค้ด
บางครั้งการทำความเข้าใจโค้ดของผู้อื่นอาจเป็นเรื่องยาก โดยเฉพาะสำหรับผู้เริ่มต้น Stable Code 3B ไม่เพียงเสนอแนวทางปรับปรุงโค้ดเท่านั้น แต่ยังอธิบายรายละเอียดของโค้ดชิ้นหนึ่งได้ ช่วยให้เรียนรู้ได้เร็วขึ้น
หากต้องการเรียนรู้ว่า AI แบบสร้างสรรค์สามารถใช้เพื่อการเรียนรู้อย่างไร แนะนำให้ลองใช้ DataCamp Workspace เราใช้โมเดล GPT 3.5 และ GPT-4 เพื่อขับเคลื่อน IDE ดาต้าไซเอนซ์และช่วยทำความเข้าใจไวยากรณ์ที่ซับซ้อน ดูคู่มือแยกของเราเพื่อ เริ่มต้นใช้งาน DataCamp Workspace
วิธีดาวน์โหลดโมเดล Stable Code 3B
วิธีเริ่มต้นใช้งาน Stable Code 3B ที่ดีที่สุดคือผ่าน HuggingFace API สามารถนำเข้าโมเดลเข้าสู่สภาพแวดล้อม Python ได้อย่างง่ายดายและเริ่มสร้างข้อความด้วยโค้ดต่อไปนี้:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("stabilityai/stable-code-3b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
"stabilityai/stable-code-3b",
trust_remote_code=True,
torch_dtype="auto",
)
model.cuda()
inputs = tokenizer("import torch\nimport torch.nn as nn", return_tensors="pt").to(model.device)
tokens = model.generate(
**inputs,
max_new_tokens=48,
temperature=0.2,
do_sample=True,
)
print(tokenizer.decode(tokens[0], skip_special_tokens=True))วิธีใช้ Stable Code 3B สำหรับแอปพลิเคชันเชิงพาณิชย์
ตามที่กล่าวไปแล้ว Stable Code 3B เปิดให้ใช้งานฟรีเพื่อการวิจัยหรือการใช้งานส่วนบุคคล สำหรับการใช้งานเชิงพาณิชย์ ผู้ใช้ต้องสมัครสมาชิกหนึ่งใน Stability AI Memberships
ปัจจุบัน Stability AI มีสมาชิกแบบเสียค่าใช้จ่ายสองประเภทเพิ่มเติมจากแบบที่ไม่ใช่เชิงพาณิชย์ ดังภาพต่อไปนี้:
แพ็กเกจ Professional มีค่าใช้จ่ายเดือนละ $20 และให้สิทธิ์เข้าถึงและใช้เชิงพาณิชย์กับ Core Models ของ Stability AI ซึ่งรวมโมเดลสำหรับการสร้างภาพ วิดีโอ 3D ข้อความ และโค้ด ส่วนแพ็กเกจ Enterprise ออกแบบมาสำหรับบริษัทขนาดใหญ่ มีราคาตามกำหนดเองและมาพร้อมฟีเจอร์ในระดับองค์กร
เรียนรู้อื่นๆ เพิ่มเติม
นี่เป็นยุคสมัยที่น่าตื่นเต้นสำหรับมืออาชีพด้านข้อมูล อุตสาหกรรมกำลังอยู่บนขอบของการเปลี่ยนแปลงครั้งใหญ่ตามการยอมรับเครื่องมือ AI แบบสร้างสรรค์อย่างแพร่หลาย เช่น Stable Code 3B
วิธีที่ดีที่สุดในการรับมือกับการปฏิวัติ AI ที่กำลังดำเนินอยู่นี้คือการติดตามข่าวสารและอัปเดตอย่างสม่ำเสมอ DataCamp ช่วยได้ ลองดูบทความเฉพาะของเราที่ครอบคลุมเครื่องมือ AI แบบสร้างสรรค์อันทรงพลังอื่นๆ:
หัวข้อ