Corso
Understanding ChatGPT
1 ore
435.9K
Funzionalità dell'API di OpenAI
Ecco alcune delle caratteristiche principali che rendono l'API di OpenAI uno strumento prezioso per chiunque voglia integrare l'IA nel proprio business:
1. Modelli di IA preaddestrati
I modelli preaddestrati sono modelli di machine learning già addestrati su un ampio dataset, spesso su un compito generale, prima di essere usati per un compito specifico. Il team di OpenAI ha addestrato e rilasciato questi modelli sotto forma di API, il che significa che “loro addestrano una volta, noi usiamo molte volte”, con un enorme risparmio di tempo e risorse.
Alcuni dei modelli rilasciati sono:
- GPT-4: Versioni migliorate dei modelli GPT-3.5, in grado di comprendere e creare sia testo che codice.
- GPT-3.5: Versioni potenziate dei modelli GPT-3, capaci di comprendere e generare testo o codice.
- GPT Base: Modelli che possono elaborare e generare testo o codice, ma privi della capacità di seguire istruzioni.
- DALL·E: Un modello che crea e modifica immagini a partire da prompt testuali.
- Whisper: Trasforma input audio in testo scritto.
- Embeddings: Modelli che convertono il testo in valori numerici.
- Moderation: Un modello messo a punto per identificare testo potenzialmente sensibile o non sicuro.
Questi modelli sono stati addestrati su enormi quantitativi di dati e hanno utilizzato una potenza di calcolo molto elevata, spesso non disponibile o accessibile a singoli o anche a molte organizzazioni. Ora, data scientist e aziende possono sfruttare facilmente i modelli preaddestrati sotto forma di API.
2. Modelli di IA personalizzabili
La personalizzazione dei modelli nell'API di OpenAI avviene principalmente tramite il processo noto come fine-tuning, che permette di adattare i modelli preaddestrati per rispondere meglio a casi d'uso specifici.
L'API di OpenAI consente di prendere i modelli preaddestrati e, usando i nostri dati di training, addestrarli ulteriormente e impiegare i modelli ottimizzati per i nostri casi d'uso. Puoi leggere di più sul processo di fine-tuning di un modello GPT-3 qui. Il fine-tuning riduce i costi e abilita richieste a bassa latenza per le applicazioni a valle.
3. Interfaccia API semplice
La piattaforma API di OpenAI è intuitiva e semplice da usare per un principiante. Con poche righe di codice, grazie alla documentazione completa e agli esempi di quick start, è facile iniziare a usare l'API nei tuoi casi d'uso senza dover affrontare una ripida curva di apprendimento.
Questa semplicità è utile per chi è alle prime fasi della carriera nei dati, rendendo il passo verso l'IA meno intimidatorio e più coinvolgente.
4. Infrastruttura scalabile
OpenAI ha scalato i cluster Kubernetes fino a 7.500 nodi per fornire un'infrastruttura scalabile per grandi modelli come GPT-3, CLIP e DALL·E, oltre che per una rapida ricerca iterativa su piccola scala. Azure OpenAI Service gira sull'infrastruttura globale di Azure per soddisfare esigenze di produzione come sicurezza aziendale critica, conformità e disponibilità regionale, a riprova di un'infrastruttura scalabile a supporto dell'uso dell'API di OpenAI.
Man mano che i tuoi progetti crescono per dimensioni e complessità, hai bisogno di un'infrastruttura che cresca con loro. La capacità di scalare dell'API di OpenAI quando l'utilizzo aumenta è particolarmente utile nel passaggio da progetti piccoli a progetti più grandi ed esigenti, rendendo l'API di OpenAI uno strumento affidabile per i tuoi progetti.
Casi d'uso dell'API di OpenAI nei settori
Oltre 300 applicazioni stanno già utilizzando GPT-3 tramite l'API di OpenAI, segno di una vasta gamma di applicazioni creative e originali sviluppate in tutto il mondo. Ecco alcuni dei comuni impieghi dell'API di OpenAI nell'industria:
1. Chatbot e assistenti virtuali
La capacità dell'API di OpenAI di comprendere e generare testo simile a quello umano la rende una candidata ideale per creare chatbot e assistenti virtuali intelligenti. I modelli preaddestrati come GPT-4 o ChatGPT possono alimentare agenti conversazionali in grado di interagire con gli utenti in modo naturale e intuitivo. Questi agenti possono essere distribuiti su siti web, applicazioni o piattaforme di assistenza clienti per aumentare il coinvolgimento e fornire supporto automatico.
2. Analisi del sentiment
L'analisi del sentiment riguarda la comprensione del sentimento dietro dati testuali. Con l'API di OpenAI, puoi analizzare recensioni dei clienti, commenti sui social media o qualsiasi testo per misurare l'opinione pubblica o la soddisfazione dei clienti. Utilizzando modelli come GPT-4 o 3.5, puoi automatizzare il processo di analisi del sentiment, ricavando insight che possono essere cruciali per le strategie aziendali.
3. Riconoscimento immagini
Sebbene OpenAI sia spesso associata all'elaborazione del testo, esplora anche il dominio del riconoscimento delle immagini con modelli come CLIP. CLIP è un modello che apprende concetti visivi da descrizioni in linguaggio naturale e può essere utilizzato tramite l'API di OpenAI per compiti come rilevamento oggetti, classificazione di immagini e altro. Questo apre possibilità in vari campi, tra cui l'healthcare, dove il riconoscimento immagini può essere impiegato per identificare condizioni mediche dai dati di imaging.
4. Gaming e reinforcement learning
L'API di OpenAI trova applicazione anche nell'industria del gaming e negli ambienti di reinforcement learning. I modelli possono essere addestrati o perfezionati per interagire con ambienti di gioco, prendendo decisioni che possono giocare in autonomia oppure assistere i giocatori durante il gameplay.
OpenAI lo ha dimostrato con modelli come Dactyl, che ha imparato a risolvere un cubo di Rubik usando il reinforcement learning, e OpenAI Five, che ha gareggiato contro giocatori umani nel gioco Dota 2.
Ora che abbiamo compreso l'API di OpenAI e i suoi casi d'uso, passiamo alla pratica e iniziamo a utilizzarla.
Hands-on: primi passi con l'API di OpenAI
Supponiamo che tu sia un assoluto principiante dell'API di OpenAI e ti guidiamo a effettuare la tua prima chiamata API passo dopo passo.
Passo 1: crea un account sulla piattaforma OpenAI
Prima di tutto, ti serve un account sulla piattaforma OpenAI.
Vai sulla piattaforma di OpenAI e segui le istruzioni per creare un account. Una volta registrato, dovresti vedere qualcosa di simile a questo:
Passo 2: ottieni la tua chiave API
Una volta configurato l'account, dovrai recuperare la tua chiave API, essenziale per interagire con l'API.
Vai alla pagina delle chiavi API nel tuo account OpenAI, come mostrato nello schema qui sotto.
Ora puoi creare una chiave API, che dovrai copiare e conservare in modo sicuro, poiché non potrai visualizzarla di nuovo. Tuttavia, se la perdi o te ne serve una nuova, puoi generarne un'altra.
Passo 3: installa la libreria Python di OpenAI
Ora che l'account e le chiavi API sono pronti, il passo successivo è lavorare sulla configurazione della macchina locale. Possiamo accedere all'API di OpenAI dalla macchina locale tramite la libreria Python di OpenAI.
Puoi installarla con pip usando il comando seguente:
pip install openai
Passo 4: effettua la tua prima chiamata API
Ora che hai la tua chiave API e la libreria OpenAI installata, è il momento di effettuare la prima chiamata API.
Ecco il codice per farlo:
def get_chat_completion(prompt, model="gpt-3.5-turbo"):
# Creating a message as required by the API
messages = [{"role": "user", "content": prompt}]
# Calling the ChatCompletion API
response = openai.ChatCompletion.create(
model=model,
messages=messages,
temperature=0,
)
# Returning the extracted response
return response.choices[0].message["content"]
response = get_chat_completion("Translate into Spanish: As a beginner data scientist, I'm excited to learn about OpenAI API!")
print(response)
Scriviamo una funzione helper per utilizzare l'API ChatCompletion selezionando il modello “gpt-3.5-turbo”, che accetta il prompt generato dall'utente e restituisce la risposta.
Ecco la risposta (sentiti libero di verificarla se mastichi un po' di spagnolo!):
Passo 5: esplora oltre
Dopo la tua prima chiamata API, sei già a buon punto! Ecco alcuni prossimi passi da considerare:
- Esplora i diversi motori e trova quello che funziona meglio per il tuo caso d'uso.
- Sperimenta con prompt e parametri diversi per vedere come risponde l'API.
- Approfondisci la documentazione di OpenAI per scoprire cosa puoi fare con l'API.
L'idea qui è che da questo punto dovrai fare brainstorming su come usare l'API per il problema di business in questione (alla fine del tutorial trovi altre risorse).
Best practice per l'uso dell'API di OpenAI
Ora che ti senti a tuo agio con l'API, ecco alcune best practice da tenere a mente prima di usarla nei progetti:
1. Capire il pricing dell'API
L'API offre una gamma di modelli, ciascuno con capacità e fasce di prezzo diverse, in un approccio pay-for-what-you-use. I costi sono addebitati per 1.000 token, dove i token sono essenzialmente pezzi di parole e 1.000 token corrispondono a circa 750 parole. Trovi i prezzi aggiornati di tutti i modelli sulla pagina dei prezzi di OpenAI.
Quando ti registri, inizi con 5 $ di credito gratuito utilizzabile nei primi tre mesi. Puoi seguire il tutorial e comprendere meglio l'API prima di decidere se pagare.
2. Mettere in sicurezza la tua chiave API
Invece di inserire in hardcode la tua chiave API direttamente nel codice sorgente dell'applicazione, usa variabili d'ambiente per memorizzare e recuperare la chiave: è una pratica più sicura.
È anche difficile gestire chiavi API in hardcode, soprattutto in un team. Se la chiave deve essere ruotata o cambiata, ogni istanza della chiave codificata nel sorgente va trovata e aggiornata.
3. Usare i modelli più recenti
OpenAI raccomanda di utilizzare i modelli più recenti per il problema che vuoi risolvere quando sono disponibili più versioni. Ha senso, perché i modelli più nuovi sono più capaci ma spesso anche più costosi. In generale, vale la pena sperimentare alcuni modelli disponibili e scegliere quello che meglio si adatta alle tue esigenze, considerando il compromesso costo-prestazioni.
4. Sfruttare al meglio i limiti di token con il batching
Il batching è una tecnica che ti permette di raggruppare più attività in una singola richiesta API per elaborarle in modo efficiente insieme, invece di inviare richieste individuali per ciascuna attività.
L'API di OpenAI impone limiti separati al numero di richieste al minuto e al numero di token al minuto che puoi elaborare. Se raggiungi il limite di richieste al minuto ma hai ancora capacità inutilizzata nel limite di token al minuto, il batching può aiutarti a utilizzare in modo efficiente questa capacità.
Raggruppando più attività piccole in un'unica richiesta, riduci il numero totale di richieste inviate e possibilmente elabori più token in una singola richiesta, restando così entro i limiti di rate e ottimizzando i costi.
Conclusione
Se sei relativamente nuovo alla data science, potresti non avere molta dimestichezza con le API. In passato era normale, ma con i rapidi progressi e le capacità dell'IA di aziende come OpenAI, saper usare in modo efficace i loro modelli preaddestrati (e affinarli) tramite API è diventata una competenza essenziale per ogni data scientist per risparmiare tempo, costi e altre risorse.
Questo tutorial ha presentato OpenAI, la sua API e alcuni comuni casi d'uso specifici per i settori. Ti ha anche guidato alla pratica con l'API di OpenAI insieme alle best practice da seguire.
Il prossimo passo è ampliare le tue conoscenze sull'API di OpenAI con tutorial come:
- Cheatsheet dell'API di OpenAI in Python
- Uso di GPT-3.5 e GPT-4 tramite l'API di OpenAI in Python
- Introduzione alle text embeddings con l'API di OpenAI
- Tutorial sul function calling di OpenAI
Se preferisci un approccio guidato che ti dia un'esperienza pratica a complemento di questo tutorial, dai un'occhiata al nostro corso Working with the OpenAI API.
Argomenti
