course
Arbeta med OpenAI API
3 timmar
172.6K
Sedan lanseringen av ChatGPT i slutet av 2022 (händelsen som inledde den pågående AI-revolutionen) har generativa AI-modeller blivit kraftfullare och mer varierade. Nya modeller med olika storlek, funktioner, modaliteter och användningsområden når marknaden varje dag, vilket gör det svårt att fastställa gränserna för det möjliga.
Överlag finns det en tydlig trend mot att utveckla större och mer komplexa modeller. Att öka antalet parametrar i modellerna och mängden träningsdata anses vara den bästa strategin för att förbättra prestandan i stora språkmodeller (LLM:er), den underliggande tekniken bakom generativa AI-modeller. Ta en titt på vår separata artikel för att i detalj få veta vad LLM:er är.
Med tanke på de växande farhågorna kring resurserna som krävs för att träna och köra dessa stora modeller (liksom deras miljöavtryck) får effektivitet i AI-utveckling och -driftsättning snabbt allt större betydelse.
Den här artikeln presenterar Stable Code 3B, den senaste modellen från Stability AI, särskilt utformad för exakt och responsiv kodning. Som en mycket träffsäker modell för kodningsuppgifter levererar LLM:en prestandanivåer i klass med de mest avancerade modellerna, samtidigt som storleken avsevärt minskas.
Vad är Stable Code 3B?
Stable Code 3B släpptes i januari 2024 av Stability AI och är en LLM med 3 miljarder parametrar utvecklad för kodningsändamål. Det är en avancerad version av föregångaren Stable Code Alpha 3B.
Stable Code 3B utmärker sig i uppgifter för kodkomplettering och kan användas som ett utmärkt utbildningsverktyg för nya programmerare. Modellen släpps kostnadsfritt för forskningsändamål eller personligt bruk. För kommersiella tillämpningar behöver användare teckna ett av Stability AI:s medlemskap.
Stable Code 3B är en av de bästa produkterna bland LLM:er i samma storlek (se fler detaljer om dess prestandamått i nästa avsnitt) och uppnår starka resultat trots avsevärt mindre storlek. Tack vare sin kompakta design och effektivitet kan Stable Code 3B köras offline på vanliga laptops, även sådana utan dedikerat GPU, som en MacBook Air.
Hur fungerar Stable Code 3B?
Stable Code 3B är en kompakt modell med 2,7 miljarder parametrar. Det är en transformer med enbart dekoder, liknande Metas öppna LLaMA. Läs vår separata artikel för alla detaljer om LLaMA.
Träningsprocessen för Stable Code 3B är tydligt inspirerad av Metas CodeLLaMA. Modellen utgår från Stability AI:s förtränade LLM, StableLM-3b-4e1t, som fungerar som dess grundmodell.
Den här modellen följde en finjusteringsprocess i två steg. I det första steget tränades modellen på flera kod- och kodrelaterade dataset, inklusive CommitPack, GitHub Issues, StarCoder och andra matte-dataset. Träningsdatan omfattar kod från 18 vanligt använda programmeringsspråk, inklusive Python, R, Java och C.
Därefter finjusterades modellen ytterligare med längre sekvenser om 16 384 token med tekniken fill-in-the-middle, enligt förslagen i CodeLLamas forskningsartikel. Det andra steget gör att modellen kan hantera långa kontextfönster upp till 100 000 token. Detta är särskilt lämpligt för kodningsuppgifter. Med möjligheten att ge längre inmatningssekvenser kan utvecklare förse modellen med mer kontext och längre kodstycken från sin kodbas för att generera mer relevanta och korrekta svar.
Prestandamått för Stable Code 3B
Stability AI:s utvecklare har skapat en modell som når topprestanda jämfört med modeller i liknande storlek på MultiPL-E-mått över flera testade programmeringsspråk. Jämförelsen illustreras i följande bild:
Multi-PL-prestandajämförelse för modeller under 3B. Källa: Stability AI
Stabe Code 3B utmärker sig också jämfört med betydligt större modeller. Till exempel uppnår den samma prestandanivå som CodeLLaMA 7b, sin främsta inspirationskälla, med 60 % mindre modellstorlek.
Jämförelse mellan Stable Code Completion 3B och CodeLLama 7B. Källa: Stability AI
Tillämpningar av Stable Code 3B
AI-drivna kodningsassistenter som Stable Code 3B erbjuder många möjligheter inom mjukvaruutveckling och dataanalys. Här är några sätt som programmerare redan använder AI på:
Automatisering av uppgifter
Stable Code 3B kan sömlöst automatisera repetitiva och monotona uppgifter, såsom att göra grundläggande SQL-frågor, utföra explorativ dataanalys och effektivisera data science-projekt. Detta kan hjälpa programmerare att slippa tidskrävande moment och fokusera på mer komplexa och utmanande arbete. För att se hur detta fungerar i praktiken, kolla in vår illustrativa guide till att använda ChatGPT för data science.
Buggfixning
Felsökning tar ofta avsevärd tid och kan vara utmanande, särskilt i komplexa projekt med hundratals rader kod. Stable Code 3B är den perfekta assistenten för att påskynda processen genom att skanna din kod på några sekunder och ge förslag på kod och struktur för att åtgärda problem. Tack vare sitt långa kontextfönster kan användare ge modellen stora skript, och Stable Code 3B hittar potentiella fel och fallgropar i din kod.
Optimering av kod
När du arbetar i komplexa projekt som kräver mycket beräkningsresurser är effektivitet ett måste. Hur koden är skriven kan påverka effektiviteten kraftigt. Stable Code 3B kan hjälpa till att skriva om din kod för att förbättra effektiviteten och därigenom spara tid, resurser och pengar.
Tolkning av kod
Ibland kan det vara svårt att förstå andras kod, särskilt för juniora kodare. Stable Code 3B kan inte bara föreslå förbättringar av koden utan även ge detaljerade förklaringar av en viss kodsnutt och därigenom hjälpa dig att lära dig snabbare.
För att lära dig hur generativ AI kan användas i lärandesyfte rekommenderar vi varmt att du provar DataCamp Workspace. Vi använder modellerna GPT 3.5 och GPT-4 för att driva vår data science-IDE och hjälpa dig att förstå komplex syntax. Läs vår separata guide för att komma igång i DataCamp Workspace.
Hur du laddar ner modellen Stable Code 3B
Det bästa sättet att komma igång med Stable Code 3B är via HuggingFace API. Du kan enkelt importera modellen till din Python-miljö och börja generera text med följande kod:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("stabilityai/stable-code-3b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
"stabilityai/stable-code-3b",
trust_remote_code=True,
torch_dtype="auto",
)
model.cuda()
inputs = tokenizer("import torch\nimport torch.nn as nn", return_tensors="pt").to(model.device)
tokens = model.generate(
**inputs,
max_new_tokens=48,
temperature=0.2,
do_sample=True,
)
print(tokenizer.decode(tokens[0], skip_special_tokens=True))Hur du använder Stable Code 3B för kommersiella tillämpningar
Som redan nämnts släpps Stable Code 3B kostnadsfritt för forskningsändamål eller personligt bruk. För kommersiella tillämpningar måste användare teckna ett av Stability AI:s medlemskap.
För närvarande erbjuder Stability AI två typer av medlemskap utöver det icke-kommersiella, vilket illustreras i följande bild:
Professional-medlemskapet kostar 20 dollar i månaden och ger användare tillgång till och rätt att kommersiellt använda Stability AI:s Core Models, som inkluderar modeller för generering av bild, video, 3D, text och kod. Enterprise-medlemskapet är utformat för stora företag och har anpassad prissättning och ett paket av företagsfunktioner.
Lär dig mer
Vi lever i en spännande tid för alla som arbetar med data. Branschen står inför omvälvningar till följd av den massiva användningen av generativa AI-verktyg som Stable Code 3B.
Det bästa sättet att navigera den pågående AI-revolutionen är att hålla sig uppdaterad. DataCamp har det du behöver. Läs våra särskilda artiklar om andra kraftfulla generativa AI-verktyg: