Tudo o que sabemos sobre o GPT-5

Já se passou mais de um ano desde que o ChatGPT foi lançado e aberto ao público. Inicialmente, ele nos surpreendeu com sua capacidade de entender e gerar linguagem natural.

No entanto, a atual marcha constante da inovação em IA significa que a OpenAI não pode ficar com todos os holofotes. Desde o lançamento do Bard do Google até o anúncio de seu novo modelo de ponta, o Gemini, a entrada de novos concorrentes, como o Anthropic, e o forte movimento de código aberto impulsionado pelo LLaMA do Meta, a OpenAI terá que agir rapidamente se quiser manter sua liderança no campo da IA.

Hoje, quando estamos no início de outro marco tecnológico, as expectativas em torno do GPT-5 aumentam. Alimentado principalmente por nossa imaginação e pelas especulações que circulam na comunidade tecnológica.

Este artigo tenta esclarecer o que podemos esperar do GPT-5, extraindo ideias de seus predecessores, como o GPT-4, e a trajetória dos principais avanços no campo da IA.

É importante considerar que muito do que é discutido aqui se baseia em previsões, pintando um quadro de um futuro que é ao mesmo tempo empolgante e, até o momento, extremamente incerto.

Então, vamos tentar descobrir alguma verdade sobre o que ainda está por vir com o GPT-5.

O que é GPT-5?

O Generative Pre-trained Transformer (GPT) é uma série de grandes modelos de linguagem (LLM) desenvolvidos pela OpenAI que influenciaram significativamente os campos de ML e IA.

O GPT, em sua essência, foi projetado para entender e gerar texto semelhante ao humano com base na entrada que recebe. Esses modelos são treinados com base em vastos conjuntos de dados. A família de modelos GPT tem sido fundamental para popularizar os aplicativos baseados em LLM, estabelecendo novos padrões de referência para o que é possível no processamento de linguagem natural, geração e muito mais.

O GPT-5 representa a próxima iteração da série GPT. Alguns de vocês podem estar se perguntando o que significa a próxima iteração. Vamos dar uma olhada no histórico dos modelos GPT até o momento: 

GPT-1

Em 2018, a OpenAI introduziu o conceito de pré-treinamento generativo com o GPT-1, usando uma arquitetura de transformador para aprimorar a compreensão da linguagem natural. Esse modelo, detalhado em seu artigo "Improving Language Understanding by Generative Pre-Training", serviu como prova de conceito e não foi divulgado publicamente.

GPT-2

Um ano depois, a OpenAI lançou o GPT-2, apresentando melhorias significativas na geração de texto. O GPT-2 era capaz de gerar trechos curtos de texto, marcando um avanço notável em relação ao seu antecessor. Ele estava disponível publicamente, permitindo uma experimentação mais ampla na comunidade de aprendizado de máquina.

GPT-3

Com o lançamento do GPT-3 em 2020, a OpenAI ampliou significativamente seu modelo, apresentando 100 vezes mais parâmetros do que o GPT-2. Essa expansão permitiu que o GPT-3 produzisse um texto muito mais longo e coerente, com um desempenho impressionante em várias tarefas. A introdução do ChatGPT, uma iteração focada em conversação dentro da série GPT-3.5, demonstrou a notável capacidade do modelo de gerar texto semelhante ao humano, alcançando rápida adoção e atingindo 100 milhões de usuários em apenas dois meses.

GPT-4

O GPT-4, a mais recente iteração da série, aprimora ainda mais os recursos introduzidos por seus antecessores. Com um conjunto de dados ainda maior e mais parâmetros, o GPT-4 aprimora os recursos de geração e compreensão de linguagem natural do GPT-3. Ele apresenta um desempenho aprimorado na geração de textos coerentes e contextualmente relevantes em trechos extensos e demonstra melhor compreensão em cenários de conversação complexos.

Os avanços do GPT-4 incluem uma compreensão mais sutil do contexto, melhor factualidade e uma redução na geração de conteúdo tendencioso ou prejudicial. Sua adoção abrange vários aplicativos, desde agentes de conversação avançados até ferramentas sofisticadas de criação de conteúdo, destacando sua versatilidade e a evolução contínua das tecnologias de processamento de linguagem natural orientadas por IA. 

 Em novembro de 2023, a OpenAI apresentou o GPT-4 Turbo com Vision, que atualizou vários recursos. Você pode saber mais sobre a evolução da família GPT em nosso artigo anterior sobre o GPT-4.

GPT-5

Portanto, o GPT-5 provavelmente representa a próxima versão do Generative Pre-trained Transformer.

Embora as informações sobre a possível próxima iteração sejam escassas, sabemos que o GPT-4 apresentou melhorias significativas em relação a seus antecessores, especialmente em sua capacidade de raciocínio lógico. Embora não tenha conhecimento de eventos posteriores a abril de 2023, a GPT-4 ainda possui uma base de conhecimento geral mais ampla e uma compreensão mais profunda do nosso mundo. Portanto, tudo até agora indica que o GPT-5 seguirá a mesma tendência e melhorará o modelo atual do GPT-4.

Uma imagem criada com o DALLE-3 no GPT-4 com o prompt 'a evolução dos modelos GPT

Quando o GPT-5 será lançado?

Em uma discussão de janeiro de 2024 de Sam Altman com Bill Gates, Gates recebeu a confirmação de que o trabalho no GPT-5 havia começado sem dar nenhuma pista sobre a data de lançamento.

Podemos considerar o que aconteceu com o GPT-4 para tentar prever o que pode acontecer com o lançamento do GPT-5. Apesar de a OpeanAI ter lançado o GPT-4 apenas alguns meses depois do ChatGPT, sabemos que o ciclo de desenvolvimento do GPT-4, incluindo uma fase de treinamento, desenvolvimento e testes, levou mais de dois anos.

Portanto, se o GPT-5 seguir um cronograma semelhante, seu lançamento poderá se estender até o final de 2025. Embora esse novo lançamento pareça distante, isso não significa necessariamente que a OpenAI não continuará aprimorando o GPT-4.

É muito provável que a OpenAI continue aprimorando o GPT-4, e talvez vejamos a introdução de uma atualização intermediária, o GPT-4.5, como já vimos com o GPT-3.5.

Que recursos podemos esperar do GPT-5?

Com o lançamento do GPT-5 possivelmente um ou dois anos no futuro, a maioria das previsões sobre seus avanços se baseia nas tendências atuais moldadas pelo Google e pelas iniciativas de IA de código aberto. Esses desenvolvimentos nos dão insights valiosos sobre a direção futura do setor.

No entanto, há algumas primeiras pistas vindas diretamente da equipe principal da OpenAI. Durante a entrevista de Gates, Altman destacou que os esforços da OpenAI se concentrariam no aprimoramento das habilidades de raciocínio e na incorporação de recursos de processamento de vídeo.

Portanto, vamos tentar entender um pouco tudo isso e discutir alguns dos principais aprimoramentos esperados do GPT-5.

Tamanho do parâmetro

Embora o tamanho exato do parâmetro do GPT-4 permaneça em segredo, há uma tendência contínua de modelos mais complexos e capazes. A maioria das fontes indica que o número pode estar em torno de 1,5 trilhão de parâmetros.

Imagem do autor. Evolução do número de parâmetros da família GPT.

Se essa trajetória continuar, a GPT-5 poderá redefinir os limites dos LLMs atuais, oferecendo um tamanho sem precedentes.

Multimodalidade

Como o modelo GPT-4 existente já oferece suporte às funcionalidades de fala e imagem, a integração do processamento de vídeo surge como uma progressão natural para o GPT-5. Já vimos o Google começar a experimentar esse recurso em seu modelo Gemini, portanto, é apenas uma questão de tempo até que a concorrência force a OpenAI a inovar também.

Portanto, o GPT-5 poderia aprimorar os recursos multimodais atuais do GPT-4 e adicionar novos recursos, como a integração de vídeo, gerando uma mudança fundamental na forma como interagimos com a IA, permitindo formas de comunicação mais naturais e versáteis.

Do chatbot ao agente

A transição de chatbots para agentes totalmente autônomos é outra fronteira empolgante. Imagine se você pudesse atribuir tarefas ou trabalhos simples a um aplicativo com tecnologia GPT. Isso pode se tornar realidade se a OpenAI continuar integrando serviços de terceiros. Já vimos a introdução de GPTs personalizados, e isso provavelmente continuará a se desenvolver.

Esse novo recurso permitiria que o GPT-5 se conectasse a vários serviços e realizasse ações no mundo sem problemas, agindo em nome dos usuários para realizar tarefas sem supervisão humana direta. Por exemplo, poderíamos pedir a um agente autônomo que comprasse nossos mantimentos com base em nossas próprias preferências alimentares.

Melhor precisão

A cada iteração, a precisão dos modelos de GPT melhorou, tornando-os mais confiáveis na compreensão do contexto e na geração de respostas adequadas. Uma próxima geração nos modelos GPT significaria um aumento no tamanho e na variedade de seu conjunto de dados de treinamento.

O modelo GPT-4 atual é 40% melhor do que seu antecessor GPT-3, portanto, espera-se que o GPT-5 continue essa tendência, reduzindo os erros e aumentando a fidelidade de suas interações.

Aumento das janelas de contexto

Uma das limitações dos modelos atuais é o tamanho da janela de contexto que eles podem considerar para gerar respostas. Como o GPT-5 pode ser treinado com uma quantidade maior de dados, espera-se que ele tenha uma janela de contexto expandida, permitindo que ele compreenda e faça referência a partes maiores do texto, resultando em resultados mais coerentes e contextualmente relevantes.

Uso econômico da API OpenAI

Com o surgimento de modelos mais novos, também podemos prever uma redução no custo do uso da API OpenAI, tornando tecnologias como GPT-4 e GPT-3.5 mais acessíveis. O lançamento do GPT-5 pode significar que o GPT-4 se tornará acessível e mais barato de usar.

Essa democratização do acesso pode estimular uma onda de inovação, permitindo que uma gama mais ampla de desenvolvedores e organizações integrem a IA avançada em seus aplicativos.

Quando se tornar mais barato e mais acessível, os modelos GPT poderão se tornar mais proficientes na execução de tarefas complexas, como codificação ou pesquisa. Se você ainda não experimentou a API da OpenAI, recomendo enfaticamente que siga o guia da DataCamp sobre a API da OpenAI para ter uma ideia do que se trata.

Conclusão

Enquanto aguardamos ansiosamente detalhes concretos sobre o GPT-5, é fundamental lembrar que nossas discussões atuais têm como base especulações e meras previsões baseadas em fatos históricos, tendências gerais de IA e algumas pequenas pistas que a equipe da OpenAI parece compartilhar.

O histórico sugere que poderemos ver atualizações incrementais, como o GPT-4.5, antes da chegada do GPT-5 em médio prazo.

Independentemente da linha do tempo, a evolução da série GPT continua a cativar a imaginação, prometendo um futuro em que o potencial da IA é limitado apenas por nossa capacidade de imaginar suas aplicações.

Se você estiver ansioso para começar a explorar tudo o que os modelos de GPT têm a oferecer, comece com nosso curso Introdução ao ChatGPT ou, se já estiver familiarizado com o modelo, com nosso webinar sobre o uso da análise avançada de dados do ChatGPT.