Guida per principianti a GPT-3

Natural Language Processing (NLP) è un sottoinsieme della linguistica, dell’informatica, dell’intelligenza artificiale e dell’ingegneria dell’informazione che si occupa delle interazioni tra computer e lingue umane (naturali), in particolare di come programmare i computer per elaborare e analizzare grandi quantità di dati in linguaggio naturale.

Interessante, vero? Che ne diresti se ti dicessimo che abbiamo chiesto a un algoritmo chiamato GPT-3 di scrivere per intero questo paragrafo e che ci è riuscito al primo tentativo? Non stiamo scherzando! Guarda qui…

GPT-3 in azione

Abbastanza incredibile, giusto?! Torniamo però all’NLP. Permette ai computer di elaborare il linguaggio umano sotto forma di testo o voce e di “comprenderne” il significato completo, includendo l’intento e il sentimento di chi parla o scrive. L’NLP, come campo, è stata la culla di alcune delle scoperte e implementazioni di IA più entusiasmanti dell’ultimo decennio. Negli ultimi anni, il trend più promettente e prolifico in quest’area è quello dei large language model, tra cui rientra il modello GPT-3.

GPT-3 è considerato da alcuni come il primo passo nella ricerca dell’Intelligenza Artificiale Generale. Ha catturato più attenzione di qualsiasi altro modello di IA in circolazione. La sua straordinaria flessibilità nell’eseguire una serie di compiti generalizzati con un’efficienza e un’accuratezza quasi umane è ciò che lo rende così entusiasmante. È stato rilasciato sotto forma di API con l’intento di offrire a data scientist, sviluppatori e persone di ogni estrazione e professione in tutto il mondo un accesso senza precedenti a uno dei modelli linguistici più potenti al mondo. 

Il modello è stato creato da OpenAI, un’azienda all’avanguardia nella R&S sull’intelligenza artificiale. Dalla sua prima versione, nel luglio 2020, gli sviluppatori di tutto il mondo hanno già trovato centinaia di applicazioni entusiasmanti per GPT-3, con il potenziale di elevare i modi in cui comunichiamo, impariamo e giochiamo. È in grado di risolvere con facilità compiti generali basati sul linguaggio e può muoversi liberamente tra stili e finalità testuali diverse. 

Prima di GPT-3, i modelli linguistici erano progettati per svolgere un singolo compito di NLP, come generazione di testo, riassunto o classificazione. GPT-3 è il primo vero modello linguistico generalizzato nella storia dell’elaborazione del linguaggio naturale in grado di eseguire altrettanto bene una vasta gamma di compiti di NLP. GPT-3 sta per “Generative Pre-trained Transformer” ed è la terza iterazione del modello di OpenAI. Vediamo questi tre termini: 

• Generative: I modelli generativi sono un tipo di modello statistico usato per generare nuovi punti dati. Questi modelli apprendono le relazioni sottostanti tra le variabili in un dataset per generare nuovi dati simili a quelli del dataset.  
• Pre-trained: I modelli pre-addestrati sono modelli già addestrati su un grande dataset. Questo permette di usarli in compiti per i quali sarebbe difficile addestrare un modello da zero. Un modello pre-addestrato può non essere accurato al 100%, ma evita di reinventare la ruota, facendo risparmiare tempo e migliorando le prestazioni.
• Transformer: Un modello transformer è una celebre rete neurale artificiale inventata nel 2017. È un modello di deep learning progettato per gestire dati sequenziali, come il testo. I transformer sono spesso usati per compiti come la traduzione automatica e la classificazione del testo. 

Nella prossima sezione vedremo il contesto più ampio dei modelli linguistici: cosa sono, come funzionano e a cosa servono. Puoi scoprire di più su cosa sappiamo di GPT-4 in un articolo a parte, approfondire l’IA qui o leggere le ultime novità su OpenAI, Google AI e cosa significano per la data science.

Cosa sono i Large Language Model?

Negli ultimi anni, c’è stato un enorme interesse nel campo dell’elaborazione del linguaggio naturale (NLP) per la costruzione di large language model, o LLM. Gli LLM, addestrati su grandi quantità di testo, possono essere utilizzati per una varietà di compiti basati sul linguaggio, tra cui generazione di testo, traduzione automatica e question answering.

Il language modeling è il compito di utilizzare la probabilità per capire come le frasi si compongono in una data lingua. Semplici modelli linguistici possono guardare una parola e prevedere la parola (o le parole) più probabile che la segua, sulla base dell’analisi statistica di sequenze di testo esistenti. Per esempio, la frase "I love walking my ..." è più probabile che si concluda con la parola "dog" che con la parola "refrigerator". È importante addestrare il modello linguistico con molti dati per renderlo accurato nel prevedere le sequenze di parole.

Gli LLM possono essere visti come macchine di previsione statistica: in input c’è il testo, in output ci sono previsioni. Probabilmente lo conosci dalla funzione di completamento automatico del tuo telefono. Per esempio, se scrivi “good”, l’autocomplete potrebbe suggerire “morning” o “luck”. Le applicazioni di NLP come l’autocomplete si basano molto sui modelli linguistici. 

Sebbene i modelli linguistici esistano da molto tempo, solo di recente hanno avuto un tale successo. Ciò è dovuto a diversi fattori, tra cui la disponibilità di grandi quantità di dati di addestramento, lo sviluppo di algoritmi di training migliori e l’uso delle GPU per accelerare l’addestramento. Con più dati, i modelli possono apprendere di più sulle relazioni tra le parole e sul contesto in cui vengono usate. Questo consente ai modelli di comprendere meglio il significato del testo e generare previsioni più accurate.

Il successo degli LLM è dovuto alla loro capacità di catturare le dipendenze tra le parole in un testo. Per esempio, nella frase "The cat sat on the mat", la parola "cat" dipende da "the" e la parola "mat" dipende da "on". In un large language model, queste dipendenze sono catturate nei parametri del modello. Man mano che i modelli linguistici sono diventati più avanzati, il numero di parametri è esploso, come si vede nel seguente grafico pubblicato da Microsoft Research.

Tendenza delle dimensioni dei modelli NLP all’avanguardia nel tempo su scala logaritmica
Fonte: post del blog Microsoft Research Using DeepSpeed and Megatron to Train MT-NLG 530B dell’11 ottobre 2021

Il pre-training dei large language model richiede grandi quantità di calcolo, che è ad alta intensità energetica. La crescente domanda di questi modelli richiede sempre più risorse computazionali. Questo comporta costi ambientali significativi, come un uso insostenibile di energia ed emissioni di carbonio.

In uno studio del 2019, ricercatori dell’Università del Massachusetts hanno stimato che l’addestramento di un grande modello di deep learning produce 626.000 libbre di anidride carbonica che riscalda il pianeta, pari alle emissioni nell’arco di vita di cinque auto. Man mano che i modelli crescono, le loro esigenze di calcolo superano i miglioramenti nell’efficienza dell’hardware. Uno studio del 2021 stima che l’addestramento di GPT-3 abbia prodotto circa 552 tonnellate metriche di anidride carbonica. È più o meno quanto produrrebbero 120 auto in un anno di guida.

Tuttavia, il paper Green AI del 2019 osserva “che la tendenza a rilasciare pubblicamente modelli pre-addestrati è un successo green” e gli autori incoraggiano le organizzazioni “a continuare a rilasciare i loro modelli per far risparmiare ad altri i costi di riaddestramento”. Aziende come OpenAI, che rilasciano large language model pre-addestrati, stanno ricercando e sviluppando continuamente tecniche per ridurre l’impronta di carbonio dell’addestramento dei modelli. 

GPT-3 è altamente accurato nell’eseguire vari compiti di NLP grazie all’enorme dimensione del dataset su cui è stato addestrato e alla sua ampia architettura, composta da 175 miliardi di parametri, che gli consente di comprendere le relazioni logiche nei dati. GPT-3 è pre-addestrato su un corpus di testi da cinque grandi dataset che includono Common Crawl, WebText2, Books1, Books2 e Wikipedia. Nel complesso, questo corpus include quasi un trilione di parole, consentendo a GPT-3 di eseguire con successo un numero sorprendente di compiti di NLP in modalità zero-shot, cioè senza fornire dati di esempio. 

Nella prossima sezione esploreremo i transformer, la famosa architettura che abilita modelli che hanno rivoluzionato il campo del language modeling e ridefinito ciò che è possibile nello spazio NLP.

Cosa sono i modelli Transformer?

Il transformer è un tipo di architettura di rete neurale particolarmente adatta ai compiti di language modeling. È stato introdotto per la prima volta nel paper "Attention is All You Need" nel 2017.  Il paper spiega i transformer come un’architettura di rete neurale progettata per eseguire in modo efficiente compiti sequence-to-sequence gestendo con facilità le dipendenze a lungo raggio. I modelli transformer sono rapidamente diventati l’architettura di riferimento per i compiti di NLP, dominando attualmente lo spazio. 

Il meccanismo Sequence-to-Sequence è la spina dorsale dei modelli transformer. Conosciuto anche come Seq2Seq, questa architettura trasforma una sequenza di elementi, come le parole in una frase, in un’altra sequenza, come una frase in un’altra lingua, il che la rende particolarmente adatta ai compiti di traduzione. Google Translate ha iniziato a usare in produzione un’architettura simile alla fine del 2016.

Fonte: post del blog “The Illustrated Transformer” di Jay Alammar The Illustrated Transformer

I modelli Seq2Seq sono composti da due parti: un encoder e un decoder. L’encoder e il decoder possono essere paragonati a traduttori umani che parlano solo due lingue. Ognuno ha una madrelingua diversa; nel nostro esempio, diciamo che l’encoder è un madrelingua cinese e il decoder un madrelingua inglese. I due hanno una seconda lingua in comune; poniamo che sia il giapponese. Per tradurre dal cinese all’inglese, l’encoder converte la frase cinese in giapponese. Quella frase giapponese, detta contesto, viene passata al decoder. Poiché il decoder capisce il giapponese ed è in grado di leggerlo, può ora tradurre dal giapponese all’inglese.

Un altro componente chiave dell’architettura transformer è un meccanismo chiamato “attenzione”. È una tecnica che imita l’attenzione cognitiva. L’attenzione cognitiva è una tecnica che rispecchia il modo in cui il nostro cervello si concentra sulle parti significative di una frase, aiutandoci a comprenderne il significato complessivo.  Per esempio, mentre leggi questa frase, ti stai focalizzando sempre sulla parola che stai leggendo, ma allo stesso tempo la tua memoria trattiene le parole chiave più importanti della frase per fornire contesto.

Il meccanismo di attenzione osserva una sequenza di input pezzo per pezzo e decide a ogni passo quali altre parti della sequenza sono importanti. Questo aiuta il transformer a filtrare il rumore e concentrarsi su ciò che è rilevante, collegando parole correlate che di per sé non portano marcatori evidenti che le ricolleghino. 

I modelli transformer traggono vantaggio da architetture più grandi e dall’essere alimentati con quantità maggiori di dati. Questo li rende migliori di qualsiasi altro tipo di rete neurale nel comprendere il contesto delle parole in una frase, spiegando il loro enorme impatto nel campo del machine learning. Con la continua evoluzione, è probabile che avranno un impatto ancora maggiore negli anni a venire, e puoi iniziare a sperimentare con gli LLM in pochi semplici passaggi.

Primi passi con GPT-3

Navigare l’API di OpenAI

Per quanto GPT-3 sia probabilmente uno dei modelli linguistici più sofisticati e complessi al mondo, le sue capacità sono accessibili tramite una semplice interfaccia “text-in-text-out”. La prima cosa di cui hai bisogno per iniziare con GPT-3 è ottenere l’accesso all’API di OpenAI. Puoi fare domanda qui e in pochi minuti il tuo account sarà configurato.

Una volta che hai accesso a un account sviluppatore OpenAI, daremo un’occhiata al Playground, un ambiente sandbox privato basato sul web che ti permette di sperimentare con l’API e imparare come i suoi diversi componenti lavorano insieme.

Componenti dell’API di OpenAI

Ecco una panoramica dei diversi componenti dell’API e delle loro funzionalità:

• Execution Engine: Determina il modello linguistico usato per l’esecuzione. Scegliere il motore giusto è la chiave per definire le capacità del tuo modello e, a sua volta, ottenere l’output corretto. 
• Response Length: La lunghezza della risposta imposta un limite a quanto testo l’API include nel completamento. Poiché OpenAI addebita in base alla lunghezza del testo generato per ogni chiamata API, la lunghezza della risposta è un parametro cruciale per chi ha un budget. Una lunghezza maggiore costerà di più.
• Temperature: La temperatura controlla la casualità della risposta, rappresentata come un intervallo da 0 a 1. Un valore più basso significa che l’API risponderà con la prima cosa che il modello vede; un valore più alto significa che il modello valuta le possibili risposte che potrebbero adattarsi al contesto prima di restituire il risultato.
• Top P: Top P controlla quanti risultati casuali il modello dovrebbe considerare per il completamento, come suggerito dal controllo della temperatura, determinando così l’ampiezza della casualità. L’intervallo di Top P è da 0 a 1. Un valore più basso limita la creatività, mentre uno più alto ne amplia gli orizzonti.
• Frequency and Presence Penalty: La frequency penalty riduce la probabilità che il modello ripeta la stessa riga alla lettera “punendola”. La presence penalty aumenta la probabilità che tratti argomenti nuovi.
• Best of: Questo parametro ti consente di specificare il numero di completamenti (n) da generare lato server e restituisce il migliore tra “n” completamenti.
• Stop Sequence: Una sequenza di stop è un insieme di caratteri che segnala all’API di interrompere la generazione dei completamenti.
• Inject Start & Restart Text: I parametri inject start text e inject restart text ti permettono di inserire testo rispettivamente all’inizio o alla fine del completamento.
• Show Probabilities: Questa opzione ti consente di eseguire il debug del prompt testuale mostrando la probabilità dei token che il modello può generare per un determinato input.

L’API di OpenAI offre quattro diversi execution engine che differiscono per numero di parametri usati, capacità prestazionali e prezzo. I motori principali, in ordine crescente di capacità e dimensioni, sono Ada (dal nome di Ada Lovelace), Babbage (da Charles Babbage), Curie (da Marie Curie) e Davinci (da Leonardo da Vinci). 

Sulla base di questi quattro modelli principali, OpenAI ha lanciato una serie di modelli migliorati chiamati InstructGPT, più bravi a comprendere le istruzioni e a seguirle per produrre l’output specifico di cui hai bisogno. Tutto ciò che devi fare è dire al modello cosa vuoi che faccia e lui farà del suo meglio per soddisfare le tue istruzioni. Il processo di fornire istruzioni al modello GPT-3 si chiama prompt engineering. 

Prompt engineering

GPT-3 è progettato per essere “task agnostic”. Ciò significa che può potenzialmente eseguire qualsiasi numero di compiti, dato lo specifico training prompt. Creare soluzioni di IA non è mai stato facile, ma con GPT-3 tutto ciò di cui hai bisogno è un prompt di addestramento sensato in semplice inglese.

Fonte: tweet di Andrej Karpathy del 18 giugno 2020

La prima cosa da considerare quando crei un’applicazione GPT-3 è il design e il contenuto del training prompt. Il design del prompt è il processo più importante per predisporre il modello GPT-3 a dare una risposta favorevole e contestuale. 

Il prompt è il testo di input che fornisci al modello affinché generi l’output desiderato. Progettare un buon prompt significa dare al modello abbastanza contesto sul compito nell’input di testo. GPT-3 guarda l’input e prova a rispondere con il testo che ritiene completi al meglio l’input. 

In un certo senso, progettare i prompt è come giocare a mimi!

Il segreto per scrivere buoni prompt è capire cosa GPT-3 sa del mondo e come spingere il modello a usare quell’informazione per generare risultati utili. In un gioco di mimi, il nostro obiettivo è dare ai giocatori informazioni sufficienti per indovinare la parola giusta usando la loro intelligenza. Allo stesso modo, dobbiamo fornire a GPT-3 il giusto contesto sotto forma di training prompt affinché il modello individui i pattern ed esegua il compito. Non vogliamo interrompere il naturale flusso di intelligenza del modello sovraccaricandolo di informazioni, ma dargliene troppo poche può portare a risultati imprecisi.

Come regola generale, quando progetti il training prompt dovresti puntare a ottenere una risposta zero-shot dal modello. Se non è possibile, passa a pochi esempi invece di fornirgli un intero corpus. Il flusso standard per il design dei prompt dovrebbe essere: 

Zero-Shot → Few Shots → Corpus-based Priming

Se nel tuo input il modello vede la lettera “Q” e una domanda, proverà a scrivere una risposta, ma non necessariamente quella che ti aspetti. Senza un contesto sufficiente, potrebbe per esempio assumere che tu stia scrivendo un elenco di domande e risposte sbagliate. Se vuoi ottenere la risposta migliore, devi far sapere a GPT-3 che tipo di risposte desideri.

Invece di chiedere a GPT-3 di completare questo input:

Q:
A:

Per il quale il primo completamento per noi è stato:

Q:
A:

Q:
A:

Migliorerai notevolmente l’output per le domande usando un prompt come questo (o una sua variazione, a seconda del tipo di domande che vuoi che il modello generi):

Write a few trivia questions.

Q:
A:

Dove abbiamo ottenuto il seguente completamento al primo tentativo:

What is the name of the longest river in Africa?
The Nile

What are the top 5 most spoken languages in the world?
Mandarin, Spanish, English, Hindi, Arabic

Istruzioni semplici come quelle sopra bastano per far capire a GPT-3 che deve fornire risposte più in linea con ciò che stai cercando; in questo caso, diverse domande di cultura generale. Puoi anche usare una frase come “Factual answer:” invece di “A:” per migliorare il risultato.

Write a few trivia questions.

Question:
Factual answer:

A questo input abbiamo ottenuto il seguente completamento:

1. What is the world’s largest desert?

The Sahara desert.

2. What is the world’s deepest Ocean?

The Pacific Ocean.

Sandbox GPT-3—Usare l’API di OpenAI con Python

In questa sezione ti guideremo attraverso il GPT-3 Sandbox, uno strumento open-source per trasformare le tue idee in realtà con poche righe di codice Python. Ti mostreremo come usarlo e come personalizzarlo per la tua applicazione specifica. L’obiettivo di questo sandbox è darti la possibilità di creare web app interessanti, a prescindere dal tuo background tecnico. 

Segui questa serie di video interattiva per una guida passo passo alla creazione e al deploy di un’applicazione GPT-3. Ti serviranno i seguenti strumenti tecnici per usare il sandbox GPT-3:

• Python 3.7+
• Un IDE, come VS Code

Clona il codice da questo repository aprendo un nuovo terminale nel tuo IDE e usando il seguente comando:

git clone https://github.com/Shubhamsaboo/kairos_gpt3

Tutto ciò di cui hai bisogno per creare e distribuire una web app è già presente nel codice. Devi solo modificare alcuni file per personalizzare il sandbox in base al tuo caso d’uso. Ora crea un ambiente virtuale Python per iniziare. Dopo aver creato l’ambiente virtuale, puoi installare le dipendenze richieste con il seguente comando: 

pip install -r requirements.txt

Ora puoi iniziare a personalizzare il codice del sandbox. Il primo file da esaminare è training_data.py. Aprilo e sostituisci il prompt predefinito con il training prompt che vuoi usare. Puoi usare il Playground di GPT-3 per sperimentare con diversi training prompt (vedi il capitolo 2 del libro e questo video per maggiori dettagli sulla personalizzazione del sandbox).

Sei pronto a regolare i parametri dell’API (Maximum tokens, Execution Engine, Temperature, Top-p, Frequency Penalty, Stop Sequence). Ti consigliamo di sperimentare nel playground con diversi valori dei parametri dell’API per un dato training prompt, in modo da determinare quali valori funzionano meglio per il tuo caso d’uso. Una volta ottenuti risultati soddisfacenti, puoi modificare i valori nel file training_service.py.

È tutto! La tua web app basata su GPT-3 è pronta. Puoi eseguirla in locale con il seguente comando:

streamlit run gpt_app.py

Puoi usare lo sharing di Streamlit per effettuare il deploy dell’applicazione e condividerla con un pubblico più ampio. Segui questo video per una guida completa al deploy della tua applicazione.

Cosa puoi costruire con GPT-3? 

Prima del rilascio di GPT-3, l’interazione della maggior parte delle persone con l’IA era limitata a compiti specifici, come chiedere ad Alexa di riprodurre la tua canzone preferita o usare Google Translate per conversare in lingue diverse. Con lo sviluppo degli LLM, stiamo assistendo a un cambiamento di paradigma significativo. Gli LLM ci hanno mostrato che, aumentando le dimensioni dei modelli, le applicazioni di IA possono svolgere compiti creativi e complessi simili a quelli umani. 

GPT-3 sta alimentando la nuova ondata di startup, dando agli imprenditori creativi la tecnologia giusta per far volare l’immaginazione. Subito dopo il rilascio dell’API da parte di OpenAI, il panorama startup si è riempito di aziende che la usano per risolvere problemi. Esploriamo questo ecosistema dinamico guardando ad alcune delle startup più performanti che utilizzano GPT-3 al cuore del loro prodotto in ambiti come arti creative, analisi dei dati, chatbot, copywriting e strumenti per sviluppatori. 

1. Applicazioni creative di GPT-3: Fable Studio

Una delle capacità più entusiasmanti di GPT-3 è lo storytelling. Puoi dare al modello un argomento e chiedergli di scrivere una storia in modalità zero-shot. Le possibilità stanno spingendo gli scrittori a espandere l’immaginazione e a creare opere straordinarie. Per esempio, lo spettacolo AI, diretto da Jennifer Tang e sviluppato con Chinonyerem Odimba e Nina Segal, rappresenta una collaborazione unica tra menti umane e computer con l’aiuto di GPT-3. 

Fable Studio è un’azienda che sfrutta le capacità creative di narrazione del modello. Ha adattato il libro per bambini di Neil Gaiman e Dave McKean, Wolves in the Walls, in un’esperienza VR vincitrice di un Emmy. Lucy, la protagonista del film, può avere conversazioni naturali con le persone grazie ai dialoghi generati da GPT-3. L’azienda ritiene che, con le prossime iterazioni del modello, sarà possibile sviluppare un narratore IA abile e creativo quanto i migliori scrittori umani.

2. Applicazioni di analisi dati di GPT-3: Viable

Viable è uno strumento di aggregazione dei feedback che identifica temi, emozioni e sentimenti in sondaggi, ticket dell’help desk, log di chat live e recensioni dei clienti. Fornisce poi un riepilogo dei risultati in pochi secondi. Per esempio, se chiedi: “Cosa frustra i nostri clienti nell’esperienza di checkout?”, Viable potrebbe rispondere: “I clienti sono frustrati dal flusso di checkout perché impiega troppo tempo a caricarsi. Vogliono anche un modo per modificare l’indirizzo al checkout e salvare più metodi di pagamento.”

Come ci si aspetterebbe da specialisti del feedback dei clienti, Viable ha pulsanti di pollice su e giù accanto a ogni risposta generata dal software. Usano questo feedback per il riaddestramento. Anche gli esseri umani fanno parte del processo: Viable ha un team di annotazione i cui membri sono responsabili della creazione di dataset di training, sia per modelli interni sia per il fine-tuning di GPT-3. Usano l’attuale iterazione di quel modello ottimizzato per generare output, che poi gli umani valutano per qualità. Se l’output non ha senso o non è accurato, lo riscrivono. E una volta che hanno un elenco di output di cui sono soddisfatti, reinseriscono quell’elenco nella successiva iterazione del dataset di training.

3. Applicazioni chatbot di GPT-3: Quickchat

Emerson AI è la persona chatbot dell’azienda Quickchat ed è nota per la sua conoscenza generale del mondo, il supporto di più lingue e la capacità di sostenere una conversazione. Emerson AI viene utilizzato per mostrare le capacità dei chatbot basati su GPT-3 e incoraggiare gli utenti a collaborare con Quickchat per implementare una persona simile per le loro aziende. L’offerta di Quickchat è una IA conversazionale generica che può parlare di qualsiasi argomento. I clienti possono personalizzare il chatbot aggiungendo informazioni extra specifiche del loro prodotto. Quickchat ha visto applicazioni diverse, come l’automazione dell’assistenza clienti e l’implementazione di una persona IA per aiutare gli utenti a cercare in una knowledge base interna aziendale.

A differenza dei tipici fornitori di servizi di chatbot, Quickchat non costruisce alberi conversazionali o scenari rigidi, né ha bisogno di insegnare al chatbot a rispondere in un certo modo. Invece, i clienti seguono un processo semplice: copi-incolli il testo che contiene tutte le informazioni che vuoi che la tua IA utilizzi e fai clic sul pulsante di riaddestramento; in pochi secondi assimila la conoscenza, e il gioco è fatto. Ora, addestrato sui tuoi dati, il chatbot è pronto per una conversazione di prova. 

4. Applicazioni di marketing di GPT-3: Copysmith

Una delle applicazioni più popolari di GPT-3 è generare contenuti creativi al volo. Copysmith è un esempio di piattaforma di generazione di contenuti. Usa GPT-3 per generare prompt che vengono poi trasformati in copy per aziende e-commerce. GPT-3 sembra brillare nell’area del marketing, dove aiuta a generare, collaborare e lanciare contenuti di qualità a velocità fulminea. Grazie al modello, le piccole e medie imprese online possono scrivere migliori call-to-action e descrizioni prodotto e alzare il livello del loro marketing per farlo decollare.

5. Applicazioni di coding di GPT-3: Stenography

Bram Adams, OpenAI Community Ambassador, ha creato Stenography, un programma che usa GPT-3 e Codex per automatizzare il processo di scrittura della documentazione del codice. 

Stenography è stato un successo immediato, lanciandosi come prodotto n. 1 su ProductHunt. Adams vede la documentazione come un modo per mettersi in contatto con altre persone del proprio team, con il proprio “io” futuro o con semplici curiosi che si imbattono in un progetto dev su GitHub. L’obiettivo di Stenography è rendere un progetto comprensibile agli altri.

Per saperne di più sull’ecosistema in crescita di GPT-3, dai un’occhiata al Capitolo 4 (GPT-3 come piattaforma di lancio per startup di nuova generazione) e al Capitolo 5 (GPT-3 per le aziende) del nostro prossimo libro O’Reilly.

Conclusione

• GPT-3 segna una pietra miliare importante nella storia dell’IA. Fa anche parte di un trend più ampio degli LLM destinato a crescere in futuro. Il passo rivoluzionario di fornire l’accesso via API ha creato il nuovo modello di business “model-as-a-service”.
• Le capacità generali basate sul linguaggio di GPT-3 aprono le porte alla creazione di prodotti innovativi. È particolarmente bravo a risolvere compiti come generazione di testo, riassunto, classificazione e conversazione.
• Ci sono numerose aziende di successo costruite in gran parte o interamente su GPT-3. I nostri casi d’uso preferiti sono lo storytelling creativo, l’analisi dei dati, i chatbot, il copywriting per il marketing e gli strumenti per sviluppatori.