Pular para o conteúdo principal
InicioTutoriaisInteligência Artificial (IA)

Entendendo a classificação de textos em Python

Descubra o que é a classificação de texto, como ela funciona e os casos de uso bem-sucedidos. Explore exemplos de ponta a ponta de como criar um pipeline de pré-processamento de texto seguido de um modelo de classificação de texto em Python.
abr. de 2024  · 12 min leer

Os dados de texto são um dos tipos mais comuns de dados que as empresas usam atualmente, mas, como não têm uma estrutura clara, pode ser difícil e demorado extrair insights dos dados de texto. Lidar com dados de texto faz parte do Processamento de Linguagem Natural, um dos subcampos da inteligência artificial

O Processamento de Linguagem Natural (PLN) é um campo da ciência da computação e da inteligência artificial que analisa como os computadores interagem com as linguagens humanas e como programar computadores para processar e analisar grandes quantidades de dados de linguagem natural.

A PNL é usada de muitas maneiras diferentes, como para responder a perguntas automaticamente, gerar resumos de textos, traduzir textos de um idioma para outro etc. A pesquisa em PNL também é realizada em áreas como ciência cognitiva, linguística e psicologia. A classificação de textos é um desses casos de uso da NLP. 

Este blog explorará os casos de uso de classificação de texto. Ele também contém um exemplo completo de como criar um pipeline de pré-processamento de texto seguido de um modelo de classificação de texto em Python.

Se você quiser saber mais sobre o processamento de linguagem natural, nossos cursos Processamento de linguagem natural em Python e Processamento de linguagem natural em R são úteis. Você adquirirá as principais habilidades de PNL necessárias para converter esses dados de texto em insights valiosos. Você também conhecerá as bibliotecas populares de PNL em Python, incluindo NLTK, scikit-learn, spaCy e SpeechRecognition

O que é classificação de texto?

A classificação de texto é uma tarefa comum de PNL usada para resolver problemas de negócios em vários campos. O objetivo da classificação de texto é categorizar ou prever uma classe de documentos de texto não vistos, geralmente com a ajuda do aprendizado de máquina supervisionado.

Semelhante a um algoritmo de classificação que foi treinado em um conjunto de dados tabulares para prever uma classe, a classificação de texto também usa aprendizado de máquina supervisionado. O fato de o texto estar envolvido na classificação do texto é a principal distinção entre os dois.

Você também pode realizar a classificação de texto sem usar o aprendizado de máquina supervisionado. Em vez de algoritmos, um sistema manual baseado em regras pode ser projetado para executar a tarefa de classificação de texto. Na próxima seção, compararemos e analisaremos os prós e os contras dos sistemas de classificação de texto baseados em regras e em aprendizado de máquina.

Pipeline de classificação de texto

Fonte da imagem

Se quiser saber mais sobre aprendizado de máquina supervisionado, consulte nosso artigo separado.

Casos de uso e aplicativos de classificação de texto

Classificação de spam

Há muitos casos de uso prático para classificação de texto em vários setores. Por exemplo, um filtro de spam é um aplicativo comum que usa classificação de texto para classificar e-mails em categorias de spam e não spam. 

Classificação de spam

Fonte da imagem

Classificação de artigos de notícias e blogs

Outro caso de uso é atribuir automaticamente documentos de texto a categorias predeterminadas. Um modelo de aprendizado de máquina supervisionado é treinado em dados rotulados, que incluem tanto o texto bruto quanto o alvo. Depois que um modelo é treinado, ele é usado na produção para obter uma categoria (rótulo) nos dados novos e não vistos (artigos/blogs escritos no futuro).

Filtro de artigos de notícias

Fonte da imagem

Categorizar as solicitações de suporte ao cliente

Uma empresa pode usar a classificação de texto para categorizar automaticamente as solicitações de suporte ao cliente por tópico ou para priorizar e encaminhar as solicitações para o departamento apropriado. 

Solicitações de suporte ao cliente

Fonte da imagem

Detecção de discurso de ódio

Com mais de 1,7 bilhão de usuários ativos diariamente, o Facebook inevitavelmente tem conteúdo criado no site que é contra as regras. O discurso de ódio está incluído nesse conteúdo indesejável. 

O Facebook aborda esse problema solicitando uma revisão manual das publicações que um classificador de texto de IA identificou como discurso de ódio. As postagens que foram sinalizadas pela IA são examinadas da mesma forma que as postagens que os usuários denunciaram. De fato, apenas nos três primeiros meses de 2020, a plataforma removeu 9,6 milhões de itens de conteúdo que haviam sido classificados como discurso de ódio.

Classificador de texto do Facebook

Fonte da imagem

Tipos de sistemas de classificação de textos

Há principalmente dois tipos de sistemas de classificação de texto: classificação de texto baseada em regras e baseada em aprendizado de máquina.

Classificação de texto baseada em regras

As técnicas baseadas em regras usam um conjunto de regras de linguagem construídas manualmente para categorizar o texto em categorias ou grupos. Essas regras dizem ao sistema para classificar o texto em uma categoria específica com base no conteúdo de um texto usando elementos textuais semanticamente relevantes. Cada regra é composta por um antecedente ou padrão e uma categoria projetada.

Por exemplo, imagine que você tenha muitos artigos novos e seu objetivo seja atribuí-los a categorias relevantes, como Esportes, Política, Economia etc. 

Com um sistema de classificação baseado em regras, você fará uma análise humana de alguns documentos para chegar a regras linguísticas como esta:

  • Se o documento contiver palavras como dinheiro, dólar, PIB ou inflação, ele pertencerá ao grupo (classe) Política. 

Os sistemas baseados em regras podem ser refinados com o tempo e são compreensíveis para os seres humanos. No entanto, essa estratégia tem algumas desvantagens. 

Esses sistemas, para começar, exigem um conhecimento profundo no campo. Elas levam muito tempo, pois a criação de regras para um sistema complicado pode ser difícil e, com frequência, exige estudos e testes extensivos. 

Como a inclusão de novas regras pode alterar os resultados das regras preexistentes, os sistemas baseados em regras também são difíceis de manter e não são dimensionados de forma eficaz.

Classificação de texto baseada em aprendizado de máquina

A classificação de texto baseada em aprendizado de máquina é um problema de aprendizado de máquina supervisionado. Ele aprende o mapeamento dos dados de entrada (texto bruto) com os rótulos (também conhecidos como variáveis de destino). Isso é semelhante aos problemas de classificação sem texto, em que treinamos um algoritmo de classificação supervisionado em um conjunto de dados tabulares para prever uma classe, com a exceção de que, na classificação de texto, os dados de entrada são textos brutos em vez de recursos numéricos. 

Como qualquer outro aprendizado de máquina supervisionado, o aprendizado de máquina de classificação de texto tem duas fases: treinamento e previsão.

Aprendizado de máquina Classificação de texto

Fonte da imagem

Fase de treinamento

Um algoritmo de aprendizado de máquina supervisionado é treinado no conjunto de dados rotulados de entrada durante a fase de treinamento. Ao final desse processo, obtemos um modelo treinado que pode ser usado para obter previsões (rótulos) em dados novos e não vistos.

Fase de previsão

Depois que um modelo de aprendizado de máquina é treinado, ele pode ser usado para prever rótulos em dados novos e não vistos. Isso geralmente é feito implantando o melhor modelo de uma fase anterior como uma API no servidor. 

Pipeline de pré-processamento de texto

O pré-processamento de dados de texto é uma etapa importante em qualquer tarefa de processamento de linguagem natural. Ele ajuda a limpar e preparar os dados de texto para processamento ou análise posterior. 

Um pipeline de pré-processamento de texto é uma série de etapas de processamento aplicadas a dados de texto bruto para prepará-los para uso em tarefas de processamento de linguagem natural. 

As etapas em um pipeline de pré-processamento de texto podem variar, mas normalmente incluem tarefas como tokenização, remoção de palavras de parada, stemming e lematização. Essas etapas ajudam a reduzir o tamanho dos dados de texto e também melhoram a precisão das tarefas de PNL, como classificação de texto e extração de informações.

Os dados de texto são difíceis de processar porque não são estruturados e geralmente contêm muito ruído. Esse ruído pode estar na forma de erros de ortografia, erros gramaticais e formatação fora do padrão. Um pipeline de pré-processamento de texto tem o objetivo de limpar esse ruído para que os dados de texto possam ser analisados com mais facilidade.


Mineração de texto

Fonte de texto

Quer saber mais sobre isso? Confira nossa trilha Text Mining with R

Extração de recursos

Os dois métodos mais comuns para extrair recursos do texto ou, em outras palavras, converter dados de texto (strings) em recursos numéricos para que o modelo de aprendizado de máquina possa ser treinado são: Bag of Words (também conhecido como CountVectorizer) e Tf-IDF. 

Bolsa de Palavras

Um modelo de saco de palavras (BoW) é uma maneira simples de representar dados de texto como recursos numéricos. Isso envolve a criação de um vocabulário de palavras conhecidas no corpus e, em seguida, a criação de um vetor para cada documento que contém contagens da frequência com que cada palavra aparece.

Bolsa de Palavras

Fonte da imagem

TF-IDF

TF-IDF significa term frequency-inverse document frequency (frequência de termo - frequência inversa de documento) e é outra forma de representar o texto como recursos numéricos. Há algumas deficiências no modelo Bag of Words (BoW) que o Tf-IDF supera. Não entraremos em detalhes sobre isso neste artigo, mas se você quiser explorar mais esse conceito, confira nosso curso Introduction to Natural Language Processing in Python.

O modelo TF-IDF é diferente do modelo de saco de palavras, pois leva em conta a frequência das palavras no documento, bem como a frequência inversa do documento. Isso significa que o modelo TF-IDF tem mais probabilidade de identificar as palavras importantes em um documento do que o modelo de saco de palavras.

Exemplo de classificação de texto de ponta a ponta em Python

Importação de conjunto de dados

Primeiro, comece importando o conjunto de dados diretamente deste link do GitHub. A SMS Spam Collection é um conjunto de dados que contém 5.574 mensagens SMS em inglês, juntamente com o rótulo Spam ou Ham (não é spam). Nosso objetivo é treinar um modelo de aprendizado de máquina que aprenderá com o texto do SMS e o rótulo e será capaz de prever a classe das mensagens SMS.

# reading data

import pandas as pd

data = pd.read_csv('https://raw.githubusercontent.com/mohitgupta-omg/Kaggle-SMS-Spam-Collection-Dataset-/master/spam.csv', encoding='latin-1')

data.head()

SpamHam Não processado

Depois de ler o conjunto de dados, observe que há algumas colunas extras de que não precisamos. Precisamos apenas das duas primeiras colunas. Vamos prosseguir e eliminar as colunas restantes e também renomear as duas primeiras colunas.

# drop unnecessary columns and rename cols

data.drop(['Unnamed: 2', 'Unnamed: 3', 'Unnamed: 4'], axis=1, inplace=True)

data.columns = ['label', 'text']

data.head()

Pré-processamento do SpamHam

Análise exploratória de dados (EDA)

Vamos fazer uma EDA básica para verificar se há valores faltantes no conjunto de dados e qual é o equilíbrio desejado.

# check missing values

data.isna().sum()

EDA

# check data shape

data.shape
>>> (5572, 2)
# check target balance

data['label'].value_counts(normalize = True).plot.bar()

SpamHam EDA

Pré-processamento de texto

É aqui que ocorre toda a limpeza do texto. É um loop que itera por todos os 5.572 documentos e faz o seguinte:

  • Remover todos os caracteres especiais
  • Todas as palavras em letras minúsculas
  • Tokenizar
  • Remover palavras de parada
  • Lemmatize
# text preprocessing




# download nltk

import nltk

nltk.download('all')




# create a list text

text = list(data['text'])




# preprocessing loop

import re

from nltk.corpus import stopwords

from nltk.stem import WordNetLemmatizer

lemmatizer = WordNetLemmatizer()




corpus = []




for i in range(len(text)):

    r = re.sub('[^a-zA-Z]', ' ', text[i])

    r = r.lower()

    r = r.split()

    r = [word for word in r if word not in stopwords.words('english')]

    r = [lemmatizer.lemmatize(word) for word in r]

    r = ' '.join(r)

    corpus.append(r)




#assign corpus to data['text']

data['text'] = corpus

data.head()

Presunto Spam Processado 1.png

Treinamento-teste-divisão

Vamos dividir o conjunto de dados em treinamento e teste antes da extração de recursos.

# Create Feature and Label sets

X = data['text']

y = data['label']




# train test split (66% train - 33% test)

from sklearn.model_selection import train_test_split

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=123)




print('Training Data :', X_train.shape)

print('Testing Data : ', X_test.shape)
>>> Training Data : (3733,)

>>> Testing Data :  (1839,)

Extração de recursos

Aqui, usamos o modelo Bag of Words (CountVectorizer) para converter o texto limpo em recursos numéricos. Isso é necessário para treinar o modelo de aprendizado de máquina.

# Train Bag of Words model

from sklearn.feature_extraction.text import CountVectorizer

cv = CountVectorizer()

X_train_cv = cv.fit_transform(X_train)

X_train_cv.shape
>>> (3733, 7020)

Treinamento e avaliação de modelos

Nesta parte, estamos treinando um modelo de regressão logística e avaliando a matriz de confusão do modelo treinado.

# Training Logistic Regression model

from sklearn.linear_model import LogisticRegression

lr = LogisticRegression()

lr.fit(X_train_cv, y_train)




# transform X_test using CV

X_test_cv = cv.transform(X_test)




# generate predictions

predictions = lr.predict(X_test_cv)

predictions
>>> array(['ham', 'spam', 'ham', ..., 'ham', 'ham', 'spam'], dtype=object)
# confusion matrix

import pandas as pd

from sklearn import metrics

df = pd.DataFrame(metrics.confusion_matrix(y_test,predictions), index=['ham','spam'], columns=['ham','spam'])

df

Tabela SpamHam

Confira o Workspace completo para obter mais detalhes.

Conclusão

A PNL ainda é uma área ativa de pesquisa e desenvolvimento, com muitas universidades e empresas trabalhando no desenvolvimento de novos algoritmos e aplicativos. A PNL é um campo interdisciplinar, com pesquisadores de diversas origens, incluindo ciência da computação, linguística, psicologia e ciência cognitiva.

A classificação de texto é uma tarefa avançada e amplamente utilizada em PLN que pode ser usada para categorizar ou prever automaticamente uma classe de documentos de texto não vistos, geralmente com a ajuda do aprendizado de máquina supervisionado. 

Ele nem sempre é preciso, mas, quando usado corretamente, pode agregar muito valor à sua análise. Há muitas maneiras e algoritmos diferentes de configurar um classificador de texto, e nenhuma abordagem única é a melhor. É importante fazer experiências e descobrir o que funciona melhor para seus dados e seus objetivos.

Perguntas frequentes sobre classificação de texto

A Classificação de texto pode ser usada se houver mais de dois rótulos?

Sim, se houver apenas dois rótulos, você usará algoritmos de classificação binária. Se houver mais de dois rótulos, você terá de usar um algoritmo de classificação multiclasse.

A classificação de texto é uma tarefa da PNL?

Sim, a PNL é um campo muito amplo. A classificação de textos é um dos casos de uso fundamentais da PNL, com aplicações em uma ampla gama de setores.

A classificação de texto é um problema de aprendizado de máquina supervisionado?

Os sistemas de classificação de texto também podem ser baseados em regras, mas eles certamente estão saindo de moda rapidamente, pois são difíceis de manter e escalonar. Um sistema baseado em aprendizado de máquina para tarefas de classificação de texto usa aprendizado de máquina supervisionado.

O que é processamento de linguagem natural?

O processamento de linguagem natural (PLN) é um campo da ciência da computação e da inteligência artificial que se preocupa com as interações entre os computadores e as linguagens humanas (naturais), em especial como programar computadores para processar e analisar grandes quantidades de dados de linguagem natural.

Classificação de texto é o mesmo que análise de sentimentos?

A análise de sentimento é um exemplo de um sistema de classificação de texto. No entanto, como o nome sugere, a análise de sentimentos geralmente é feita quando o rótulo é algum tipo de sentimento (positivo ou negativo, feliz ou triste etc.).

A classificação de texto pode ser feita sem o uso de aprendizado de máquina?

Sim, também podemos usar sistemas baseados em regras para classificação de textos.

Podemos usar a aprendizagem profunda para a classificação de textos?

Sim, podemos usar qualquer algoritmo de aprendizagem profunda em vez de aprendizagem automática. Confira este curso incrível sobre Redes neurais recorrentes (RNN) para modelagem de linguagem em Python para saber mais sobre PNL e aprendizagem profunda. Se você quiser criar um modelo de classificação de texto usando o TensorFlow, confira este Estudo de caso do TensorFlow 2.0 na Datacamp.

Qual é o melhor algoritmo para classificação de textos?

Não existe o melhor algoritmo. Normalmente, o algoritmo naive bayes tem bom desempenho em dados de alta dimensão (texto).

O BERT é usado para classificação de textos?

Sim, o BERT, que significa Bidirectional Encoder Representations from Transformers, é baseado na arquitetura do Transformers, um modelo de aprendizagem profunda. Entre muitos outros casos de uso, o BERT também pode ser usado para sistemas de classificação de texto. Consulte nosso tutorial sobre PNL usando o BERT para obter mais detalhes.

Classificação de texto e mineração de texto são a mesma coisa?

Não, a mineração de texto é o processo de transformação de texto não estruturado em um formato estruturado para identificar padrões significativos, enquanto o objetivo da classificação de texto é categorizar ou prever uma classe de documentos de texto não vistos, geralmente com a ajuda do aprendizado de máquina supervisionado.

Temas

Principais cursos

Course

Text Mining with Bag-of-Words in R

4 hr
42.7K
Learn the bag of words technique for text mining with R.
See DetailsRight Arrow
Start Course
Veja MaisRight Arrow
Relacionado

blog

25 exemplos práticos da transformação da IA nos setores

Desde a reformulação da saúde e do comércio eletrônico até a revolução da agricultura e das finanças, descubra exemplos reais de IA que impulsionam o crescimento, a eficiência e a inovação.

Nahla Davies

15 min

blog

O que é um algoritmo?

Aprenda algoritmos e sua importância no aprendizado de máquina. Entenda como os algoritmos resolvem problemas e executam tarefas com etapas bem definidas.
DataCamp Team's photo

DataCamp Team

11 min

blog

O que são redes neurais?

As NNs são modelos computacionais inspirados no cérebro, usados no aprendizado de máquina para reconhecer padrões e tomar decisões.
Abid Ali Awan's photo

Abid Ali Awan

7 min

blog

Como aprender Python do zero em 2024: um guia especializado

Descubra como aprender Python, suas aplicações e a demanda por competências em Python. Comece sua jornada em Python hoje mesmo ​com nosso guia detalhado.
Matt Crabtree's photo

Matt Crabtree

19 min

tutorial

Como usar o Midjourney: Um guia abrangente para a criação de obras de arte geradas por IA

Descubra o poder do Midjourney, uma ferramenta de IA generativa para criar obras de arte impressionantes. Saiba como começar, escrever prompts eficazes e otimizar seu uso com nosso guia passo a passo.
Kurtis Pykes 's photo

Kurtis Pykes

12 min

tutorial

Tutorial de Python

Em Python, tudo é objeto. Números, cadeias de caracteres (strings), DataFrames, e até mesmo funções são objetos. Especificamente, qualquer coisa que você usa no Python tem uma classe, um modelo associado por trás.
DataCamp Team's photo

DataCamp Team

3 min

See MoreSee More