Wat is competitief leren?

Competitief leren is een subdiscipline van machine learning die valt onder de paraplu van unsupervised learning-algoritmen. Bij competitief leren strijden kunstmatige neuronen in een netwerk om te "vuren" of actief te worden als reactie op een specifieke input. De "winnende" neuron, doorgaans degene die het best bij de gegeven input past, wordt vervolgens bijgewerkt, terwijl de anderen onveranderd blijven. Het belang van deze leermethode ligt in het vermogen om vergelijkbare datainvoer automatisch te clusteren, waardoor we patronen en groeperingen in data kunnen ontdekken zonder dat er vooraf kennis of labels beschikbaar zijn.

Competitief leren uitgelegd

Kunstmatige neurale netwerken gebruiken vaak competitieve leermodellen om input te classificeren zonder gelabelde data. Het proces begint met een inputvector (vaak een dataset). Deze input wordt vervolgens aangeboden aan een netwerk van kunstmatige neuronen, die elk een eigen set gewichten hebben die als filters fungeren. Elke neuron berekent een score op basis van zijn gewicht en de inputvector, meestal via een inwendig product (een manier om de input met het filter te vermenigvuldigen en de resultaten op te tellen).

Na de berekening wordt de neuron met de hoogste score (de "winnaar") bijgewerkt, doorgaans door de gewichten dichter naar de inputvector te verschuiven. Dit proces staat vaak bekend als de "winner-takes-all"-strategie. Na verloop van tijd specialiseren neuronen zich doordat ze worden bijgewerkt richting de inputvectoren die ze het best kunnen matchen. Dit leidt tot de vorming van clusters van vergelijkbare data, en maakt zo de ontdekking mogelijk van inherente patronen in de inputdataset.

Om te illustreren hoe je competitief leren kunt gebruiken: stel dat een e-commercebedrijf zijn klantenbestand wil segmenteren voor gerichte marketing, maar geen voorafgaande labels of segmentatie heeft. Door klantgegevens (aankoopgeschiedenis, browsegedrag, demografie, enz.) aan een competitief leermodel te voeren, kunnen automatisch onderscheidende clusters worden gevonden (zoals grootverbruikers, frequente kopers, koopjesjagers) en kunnen marketingstrategieën daarop worden afgestemd.

Het proces van competitief leren: een stapsgewijs voorbeeld

Voor deze eenvoudige illustratie gaan we uit van een dataset met eendimensionale inputvectoren van 1 tot en met 10 en een competitief leernetwerk met twee neuronen.

Stap 1: Initialisatie

We beginnen met het initialiseren van de gewichten van de twee neuronen met willekeurige waarden. Stel:

• Gewicht neuron 1: 2
• Gewicht neuron 2: 8

Stap 2: De inputvector aanbieden

Nu bieden we een inputvector aan het netwerk aan. Stel dat onze inputvector '5' is.

Stap 3: Afstand berekenen

We berekenen de afstand tussen de inputvector en de gewichten van de twee neuronen. De neuron met het gewicht dat het dichtst bij de inputvector ligt, "wint". Dit kan worden berekend met elke afstandsmaat, bijvoorbeeld het absolute verschil:

• Afstand neuron 1: |5-2| = 3
• Afstand neuron 2: |5-8| = 3

Omdat beide afstanden gelijk zijn, kunnen we de winnaar willekeurig kiezen. Stel dat neuron 1 de winnaar is.

Stap 4: Gewichten bijwerken

We passen het gewicht van de winnende neuron aan om het dichter bij de inputvector te brengen. Als onze leersnelheid (een afstemmingsparameter in een optimalisatie-algoritme die de stapgrootte per iteratie bepaalt) 0,5 is, wordt de gewichtsupdates als volgt:

• Gewicht neuron 1: 2 + 0,5*(5-2) = 3,5
• Gewicht neuron 2: 8 (onveranderd)

Stap 5: Iteratie

We herhalen het proces met alle andere inputvectoren in de dataset en werken de gewichten na elke aanbieding bij.

Stap 6: Convergentie

Na meerdere iteraties (ook wel epochs genoemd) zullen de gewichten van de neuronen beginnen te convergeren naar de centra van hun overeenkomstige inputclusters. In dit geval, met eendimensionale data variërend van 1 tot en met 10, kunnen we verwachten dat één neuron rond het lagere bereik (1 tot 5) convergeert en de andere rond het hogere bereik (6 tot 10).

Dit proces laat zien hoe competitief leren werkt. Na verloop van tijd specialiseert elke neuron zich in een ander cluster van de data, zodat het systeem de inherente groeperingen in de dataset kan identificeren en representeren.

Competitief leren vs. andere leermodellen

Vergeleken met andere unsupervised leermodellen, zoals hiërarchische clustering en Density-Based Spatial Clustering of Applications with Noise (DBSCAN), worden de unieke sterke en zwakke punten van competitief leren duidelijk.

Zoals in de tabel te zien is, hebben de drie modellen verschillende kenmerken die ze geschikt maken voor verschillende soorten problemen. De structuur van de clusters, het aantal clusters, hoe ze met ruis omgaan, de vormen van de clusters die ze kunnen vormen en of ze herindeling van datapunten toestaan, zijn allemaal cruciale factoren bij het kiezen van een leermodel.

De keuze tussen de modellen hangt vooral af van de specifieke vereisten en de aard van je dataset.

Competitief leren is goed geschikt voor datasets waarbij het aantal clusters vooraf bekend is en de data gelijkmatig over de clusters is verdeeld. Het werkt goed wanneer je een eenvoudige, vlakke verdeling van de data wilt.

Hiërarchische clustering is daarentegen uitstekend wanneer je hiërarchische relaties in de data wilt blootleggen of wanneer het optimale aantal clusters onbekend is. Het biedt de flexibiliteit om de data op verschillende niveaus van detail te bekijken.

DBSCAN is een ideale keuze voor datasets met ruis of uitschieters, of wanneer clusters met willekeurige vormen worden verwacht. Het bepaalt ook automatisch het aantal clusters op basis van datadichtheid, wat het nuttig maakt voor verkennende data-analyse wanneer het aantal clusters niet vooraf is gedefinieerd.

Onthoud: geen enkel model past op alle scenario's; inzicht in de kenmerken van je data is de sleutel tot het kiezen van het juiste model.

Praktijkvoorbeeld van competitief leren

We hebben gezien dat competitief leren vaak wordt gebruikt voor clustering en dimensionaliteitsreductie. Maar we kunnen het ook inzetten voor feature learning, anomaliedetectie en zelfs in generatieve AI.

Zo zijn generative adversarial networks (GAN's) een modelbenadering die competitief leren gebruikt tussen een generator (die nepdata maakt) en een discriminator (die beoordeelt of data echt of nep is) om nepdata te synthetiseren die sterk op echte data lijkt.

Enkele andere veelgebruikte competitieve leeralgoritmen zijn:

• Winner-take-all competitief leren. In dit eenvoudige algoritme "wint" de neuron met de hoogste activatie en worden de gewichten aangepast om dichter bij de input te komen. De andere neuronen worden niet bijgewerkt.
• Self-organizing map (SOM). Projecteert hoog-dimensionale inputdata op een lager-dimensionaal rooster van neuronen en past de gewichten van naburige neuronen aan zodat ze meer op elke input lijken.
• Neural gas. Vergelijkbaar met SOM, maar vormt flexibeler clusters zonder een starre topologie. De gewichten van neuronen in de buurt van de input worden aangepast om meer overeen te komen.
• Learning vector quantization (LVQ). Bouwt voort op ideeën uit SOM maar gebruikt expliciete klasselabels om competitief leren te sturen, wat resulteert in prototypes die input per klasse clusteren.

Unsupervised learning kan sterk profiteren van competitief leren, een krachtige methode waarvan wordt verwacht dat deze in de toekomst breder wordt ingezet. Hoewel self-organizing maps en andere competitieve leermethoden al jaren bestaan, heeft het succes van GAN's het potentieel van adversarial en multi-agent competitief leren aangetoond.

In de toekomst zullen we nieuwe competitieve leeralgoritmen zien die principes uit unsupervised, semi-supervised en reinforcement learning combineren om betere resultaten te behalen.

Wil je zelf aan de slag en je eigen competitieve leermodel bouwen? Bekijk Simple Competitive Learning with Python. Deze gids leert je het eenvoudige algoritme voor competitief leren en legt ook de processen, wiskundige afleidingen en code uit die in het model worden gebruikt.

Wil je meer leren over AI en machine learning? Bekijk dan de volgende resources:

• Unsupervised learning in Python-cursus
• Unsupervised machine learning cheat sheet
• Wat is machine learning?