Wat is Stable Code 3B?

Sinds de lancering van ChatGPT eind 2022 (de gebeurtenis die de huidige AI-revolutie inluidde) zijn generatieve AI-modellen krachtiger en gevarieerder geworden. Dagelijks verschijnen er nieuwe modellen met uiteenlopende groottes, functies, modaliteiten en toepassingen op de markt, waardoor het lastig is om de grenzen van het mogelijke te bepalen.

Over het geheel genomen is er een duidelijke trend richting steeds grotere en complexere modellen. Het verhogen van het aantal parameters en de hoeveelheid trainingsdata wordt gezien als de beste strategie om de prestaties van large language models (LLM’s) te verbeteren, de onderliggende technologie achter generatieve AI-modellen. Lees ons aparte artikel om in detail te weten wat LLM’s zijn.

Gezien de groeiende zorgen over de middelen die nodig zijn om deze grote modellen te trainen en te draaien (evenals hun bijbehorende ecologische voetafdruk), wint efficiëntie in AI-ontwikkeling en -implementatie snel aan belang.

Dit artikel introduceert Stable Code 3B, het nieuwste model van Stability AI, speciaal ontworpen voor nauwkeurig en responsief coderen. Dit LLM is uiterst accuraat voor codeertaken en levert prestaties op het niveau van state-of-the-art LLM’s, terwijl het formaat aanzienlijk kleiner is.

Wat is Stable Code 3B?

Stable Code 3B, uitgebracht in januari 2024 door Stability AI, is een LLM met 3 miljard parameters dat is ontwikkeld voor programmeerdoeleinden. Het is een geavanceerde versie van zijn voorganger, Stable Code Alpha 3B.

Stable Code 3B blinkt uit in code completion-taken en kan gebruikt worden als uitstekend leermiddel voor beginnende programmeurs. Het model is gratis beschikbaar voor onderzoek of persoonlijk gebruik. Voor commerciële toepassingen moeten gebruikers zich abonneren op een van de Stability AI Memberships.

Stable Code 3B behoort tot de beste producten onder LLM’s van dezelfde grootte (zie meer details over de prestatieresultaten in de volgende sectie) en behaalt sterke resultaten met een aanzienlijk kleiner formaat. Dankzij het compacte ontwerp en de efficiëntie kan Stable Code 3B offline draaien op gewone laptops, zelfs op modellen zonder dedicated GPU, zoals een MacBook Air.

Hoe werkt Stable Code 3B?

Stable Code 3B is een compact model met 2,7 miljard parameters. Het is een decoder-only transformer, vergelijkbaar met Meta’s open-source LLaMA. Lees ons aparte artikel voor alle details over LLaMA.

Het trainingsproces van Stable Code 3B is duidelijk geïnspireerd op Meta’s CodeLLaMA. Het model vertrekt vanuit Stability AI’s voorgetrainde LLM, StableLM-3b-4e1t, dat fungeert als foundation model.

Dit model volgde een fine-tuningproces in twee stappen. In de eerste stap werd het getraind op meerdere code- en coderelated datasets, waaronder CommitPack, GitHub Issues, StarCoder & andere Math-datasets. De trainingsdata omvatten code uit 18 veelgebruikte programmeertalen, waaronder Python, R, Java en C.

Vervolgens werd het model verder verfijnd met langere sequenties van 16.384 tokens met fill-in-the-middle-technieken, zoals voorgesteld in het onderzoeksartikel. De tweede stap stelt het model in staat om lange contextvensters tot 100k tokens te ondersteunen. Dit is met name geschikt voor programmeertaken. Met de mogelijkheid om langere invoersequenties te gebruiken, kunnen developers het model meer context en langere codefragmenten uit hun codebase aanbieden om relevantere en nauwkeurigere outputs te genereren.

Prestatieresultaten van Stable Code 3B

De ontwikkelaars van Stability AI hebben een model gebouwd dat state-of-the-art presteert in vergelijking met modellen van vergelijkbare grootte op de MultiPL-E-metrieken over meerdere geteste programmeertalen. De vergelijking wordt geïllustreerd in de volgende afbeelding:

Multi-PL prestatievergelijking van modellen onder 3B. Bron: Stability AI

Stabe Code 3B steekt ook gunstig af tegen aanzienlijk grotere modellen. Zo bereikt het hetzelfde prestatieniveau als CodeLLaMA 7b, zijn belangrijkste inspiratiebron, met een reductie van 60% in modelgrootte.

Vergelijking van Stable Code Completion 3B met CodeLLama 7B. Bron: Stability AI

Toepassingen van Stable Code 3B

AI-gestuurde codeerassistenten zoals Stable Code 3B bieden veel kansen in softwareontwikkeling en data-analyse. Hier is een lijst met manieren waarop programmeurs AI nu al inzetten:

Taakautomatisering

Stable Code 3B kan moeiteloos repetitieve en saaie taken automatiseren, zoals het uitvoeren van basis-SQL-queries, exploratieve data-analyse en het stroomlijnen van data science-projecten. Dit helpt programmeurs tijdrovende taken over te slaan en zich te richten op complexer en uitdagender werk. Wil je zien hoe dit in de praktijk werkt, bekijk dan onze illustratieve gids voor het gebruik van ChatGPT voor data science.

Bugfixing

Debuggen kost vaak veel tijd en kan lastig zijn, zeker bij complexe projecten met honderden regels code. Stable Code 3B is de perfecte assistent om dit proces te versnellen door je code in seconden te scannen en suggesties te geven voor code en structuur om het te verhelpen. Dankzij het lange contextvenster kunnen gebruikers het model grote scripts aanbieden en zal Stable Code 3B potentiële fouten en valkuilen in je code opsporen.

Code-optimalisatie

Bij complexe projecten die veel rekenkracht vereisen, is efficiëntie cruciaal. De manier waarop code is geschreven kan de efficiëntie sterk beïnvloeden. Stable Code 3B kan helpen je code te herschrijven om de efficiëntie te verbeteren, waardoor je tijd, middelen en geld bespaart.

Code-interpretatie

Andermans code begrijpen kan soms lastig zijn, zeker voor junior developers. Stable Code 3B kan niet alleen codeverbeteringen voorstellen, maar ook gedetailleerde uitleg geven over een bepaald stuk code, zodat je sneller kunt leren.

Wil je leren hoe generatieve AI kan worden ingezet voor leerdoeleinden, probeer dan zeker DataCamp Workspace. We gebruiken de GPT 3.5- en GPT-4-modellen om onze data science-IDE aan te sturen en je te helpen complexe syntax te begrijpen. Bekijk onze aparte gids om aan de slag te gaan in DataCamp Workspace.

Hoe download je het Stable Code 3B-model

De beste manier om te starten met Stable Code 3B is via de HuggingFace API. Je kunt het model eenvoudig in je Python-omgeving importeren en tekst genereren met de volgende code:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("stabilityai/stable-code-3b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
  "stabilityai/stable-code-3b",
  trust_remote_code=True,
  torch_dtype="auto",
)
model.cuda()
inputs = tokenizer("import torch\nimport torch.nn as nn", return_tensors="pt").to(model.device)
tokens = model.generate(
  **inputs,
  max_new_tokens=48,
  temperature=0.2,
  do_sample=True,
)
print(tokenizer.decode(tokens[0], skip_special_tokens=True))

Hoe gebruik je Stable Code 3B voor commerciële toepassingen

Zoals al vermeld, is Stable Code 3B gratis uitgebracht voor onderzoek of persoonlijk gebruik. Voor commerciële toepassingen moeten gebruikers een abonnement nemen op een van de Stability AI Memberships.

Momenteel biedt Stability AI twee typen memberships naast de niet-commerciële variant, zoals weergegeven in de volgende afbeelding:

Stability AI Memberships

Het Professional-lidmaatschap kost $20 per maand en geeft gebruikers toegang tot en het recht om commercieel gebruik te maken van de Stability AI Core Models, waaronder modellen voor beeld-, video-, 3D-, tekst- en codegeneratie. Het Enterprise-lidmaatschap is bedoeld voor grote bedrijven en kent maatwerkprijzen en een set enterprise-functies.

Meer leren

We leven in een spannende tijd om dataprofs te zijn. De sector staat op de drempel van een grote omwenteling door de brede adoptie van generatieve AI-tools zoals Stable Code 3B.

De beste manier om door de huidige AI-revolutie te navigeren is door op de hoogte te blijven. DataCamp helpt je daarbij. Bekijk onze speciale artikelen over andere krachtige generatieve AI-tools:

• De OpenAI API in Python
• LLaMA 2 fine-tunen: een stapsgewijze gids voor het aanpassen van het Large Language Model
• Mistral 7B Tutorial: een stapsgewijze gids voor het gebruik en fine-tunen van Mistral 7B
• Hoe je GPT 3.5 fine-tunet: het volledige potentieel van AI ontsluiten