Kurs
Konzeptuelle Einführung in generative KI
2 Std.
117.6K
Wir alle wünschen uns eine Chat-Anwendung, die mehr Kontrolle, zusätzliche Optionen und die Möglichkeit bietet, Unterhaltungen privat zu teilen. Wenn du nach einer besseren Chat-Oberfläche als ChatGPT suchst, ist NextChat, früher bekannt als ChatGPT Next Web, genau richtig.
Hier schauen wir uns ChatGPT Next Web an, lernen die Nutzung als Web- und Desktop-App und setzen das Tool mit nur einem Klick auf dem Vercel-Server auf.
Dieses Tutorial ist für alle Levels geeignet und leicht nachzuvollziehen. Also los — tauchen wir gemeinsam in die spannende Welt von ChatGPT Next Web ein!
Warum ChatGPT Next Web?
ChatGPT Next Web, inzwischen als NextChat bekannt, ist eine vielseitige Open-Source-Anwendung, die über die OpenAI- und Google-AI-API auf GPT-4, GPT-3.5 und Gemini-Pro zugreift. Multimodalität ist direkt integriert.
Das Tool ist wie ChatGPT, bietet aber mehr Anpassungsmöglichkeiten, eine nutzerfreundliche Oberfläche und hohe Flexibilität für Anwendungen wie Chatbots, Zusammenfassungen, Content-Erstellung, Recherche, Code-Generierung und kontextbasiertes Lernen.
ChatGPT Next Web auf GitHub
Nutzende können dem Chat Kontext mitgeben und diverse Hyperparameter des Modells anpassen, um die Antworten zu personalisieren.
Es gibt eine Desktop-Version und eine Web-App, und du kannst mit der Vercel-Plattform sogar kostenlos deine eigene Instanz bereitstellen.
Wie du ChatGPT selbst effektiv nutzt, lernst du im DataCamp-Kurs Introduction to ChatGPT. Entdecke Best Practices fürs Prompt-Schreiben und typische Business-Use-Cases für dieses leistungsfähige KI-Tool.
Funktionen von ChatGPT Next Web
ChatGPT Next Web bringt eine Reihe starker Features mit.
- Kostenlos auf Vercel deployen: Mit einem Klick und in unter einer Minute lässt sich die Anwendung auf Vercel, einer Cloud-Plattform für Webapps, bereitstellen.
- Kompakter Client (~5 MB): Der ChatGPT-Next-Web-Client ist leichtgewichtig und umfasst nur etwa 5 MB.
- Verfügbar für Linux/Windows/MacOS: Download und Installation auf verschiedenen Betriebssystemen.
- Self-hosted LLMs: Voll kompatibel mit selbst gehosteten LLMs, empfohlen mit RWKV-Runner oder LocalAI.
- Privatsphäre: Alle Daten werden lokal im Browser gespeichert, sodass keine sensiblen Informationen an externe Server oder Dritte gesendet werden.
- Markdown-Unterstützung: Unterstützt Markdown-Formatierung für ansprechende, informative Nachrichten.
- Responsives Design: Die Anwendung passt sich an verschiedene Bildschirmgrößen und Geräte an und bietet zusätzlich einen Dark Mode.
- Streaming-Antworten: Schnelle Performance mit minimaler First-Screen-Ladezeit und Unterstützung für Streaming-Antworten.
- Mask: Die aktuelle Version führt eine Funktion ein, mit der du mithilfe von Prompt-Vorlagen, sogenannten "Mask", eigene Chat-Tools erstellen, teilen und debuggen kannst.
- Awesome Prompts: Eine umfangreiche Bibliothek mit "awesome prompts" deckt viele Anwendungsfälle ab und erweitert die Fähigkeiten des Chatbots.
- Lange Unterhaltungen: Die Chat-Historie wird automatisch komprimiert, sodass lange Gespräche möglich sind, ohne übermäßig viele Tokens zu verbrauchen.
- Mehrsprachige Oberfläche: Nutzende aus unterschiedlichen Regionen können die Anwendung in ihrer bevorzugten Sprache verwenden.
Erste Schritte mit ChatGPT Next Web
In diesem Abschnitt nutzen wir die offizielle Anwendung, erstellen einen Gemini-API-Schlüssel, richten die App ein und generieren etwas Code.
Web-App
ChatGPT Next Web heißt nun NextChat, weil es mehr als nur eine Web-App ist.
Auf die Web-App greifen wir zu, indem wir eine API einrichten. Sobald wir einen Prompt eingeben und Enter drücken, fordert uns die App auf, einen API-Schlüssel zu hinterlegen, um auf die Modelle von OpenAI oder Google zuzugreifen.
Falls die Authentifizierungsseite nicht erscheint, rufe die Autorisierungsseite auf und gib dort einen Google-AI-API-Schlüssel ein.
Den API-Schlüssel erhältst du, indem du ein Google-Konto erstellst und zum Google AI Studio gehst. Klicke anschließend links auf „Get API Key“. Kopiere den Schlüssel und füge ihn in das dritte Eingabefeld ein.
Wenn du über Python auf das Gemini-Modell zugreifen willst, folge dem Tutorial Introducing Google Gemini API. Es zeigt einfach, wie du State-of-the-Art-Modelle ansteuerst.
Klicke danach auf den Roboter-Button (🤖) über der Eingabeleiste, um die verfügbaren Modelle zu öffnen. Wähle „gemini-pro“ und leg los.
Wir haben Gemini gebeten, Python-Code für das Snake-Spiel zu erzeugen. Wie du unten siehst, ist das Ergebnis sehr gelungen.
Desktop-App
Die Anwendung lässt sich auch für Windows, Linux und MacOS herunterladen. In unserem Fall laden wir die NextChat-.exe-Datei für Windows herunter.
Folge den einfachen Schritten, um die App unter Windows zu installieren. Nach der Installation startet sie automatisch.
Statt einer Authentifizierungsseite wirst du aufgefordert, in die Einstellungen zu gehen und dort einen gültigen API-Schlüssel hinzuzufügen.
Öffne die Einstellungen, scrolle nach unten und stelle den „Model Provider“ auf Google um. Füge deinen Google-API-Schlüssel ein.
Du kannst auch die Modelleinstellungen anpassen, um bessere Antworten zu erhalten. Fürs Erste belassen wir alles bei den Standardeinstellungen wie unten gezeigt.
Wähle das Modell „gemini-pro“ und stell deine Fragen. Wie du siehst, ist es schnell und sehr intuitiv.
Du kannst auch ein Bild hochladen, Fragen dazu stellen oder es als Kontext nutzen. Wechsle dafür auf „gemini-pro-vision“.
Lade das Bild hoch und gib deine Frage ein.
Perfekt. Das Modell hat den Text im Bild verstanden und den Golang-Code ausführlich erklärt.
Web-App deployen
Im GitHub-Repository von ChatGPT-Next-Web findest du Anleitungen, um deine private Web-App auf Vercel, Zeabur oder Gitpod zu deployen.
Wir deployen die Web-App auf Vercel, indem wir auf den „Deploy“-Button klicken, wie unten gezeigt.
Du wirst in einem neuen Tab zu GitHub weitergeleitet und musst dich anmelden. Warum? Weil es eine private Instanz ist, bleiben Änderungen an App oder Umgebungsvariablen sicher bei dir.
Wähle dein GitHub-Konto und vergebe einen Repository-Namen. Achte darauf, ein privates Git-Repository zu erstellen.
Füge die API-Schlüssel hinzu.
Fürs Erste hinterlegen wir nur die API-Schlüssel für Google Gemini und füllen die restlichen Eingaben mit beliebigem Text. Das ist egal. Du kannst deinen API-Schlüssel jederzeit in den Einstellungen ändern.
Nach etwa 5 Minuten ist die Anwendung unter https://chat-gpt-next-web-two-green-22.vercel.app/ erreichbar. Gehe zu den Einstellungen, gib deinen Google-API-Schlüssel ein und leg los.
Wir haben NextChat gebeten, in GoLang einen API-Code für Machine-Learning-Inferenz zu schreiben, und das Ergebnis ist stark.
Zentrale Funktionen von ChatGPT NextChat erkunden
In diesem Abschnitt probieren wir einige Kernfunktionen aus, die dein Prompting insgesamt verbessern.
Eigene Modelle
Wir können benutzerdefinierte Modelle von Microsoft Azure, Google und OpenAI laden. Diese Modelle sind auf deinen eigenen Datensätzen feinabgestimmt.
Lerne im Schritt-für-Schritt-Guide Fine-Tuning OpenAI's GPT-4, wie du mit der OpenAI-Python-API dein eigenes Modell feinabstimmst.
Um ein eigenes Modell hinzuzufügen, gehe zu den Einstellungen, scrolle zum Abschnitt „Model Provider“ und trage die Modellnamen kommasepariert ein.
Starte danach einen neuen Chat und wähle das benutzerdefinierte Modell über den Roboter-Button (🤖) aus.
So kannst du dein feinabgestimmtes Modell schnell testen und für verschiedene Prompts evaluieren.
Awesome Prompts
NextChat bietet Zugriff auf das Awesome-Prompts-Repo. Kurz gesagt: Tippe „/“ in die Textbox und suche dann nach einem Prompt-Stichwort, um hochwertige Prompt-Vorlagen direkt zu nutzen.
Wir suchen hier nach Python-Prompts.
Wenn du einen passenden Prompt gefunden hast, passe ihn an deine Bedürfnisse an und drücke Enter. Wie zu sehen ist, agiert unser Chatbot nun als Python-Interpreter.
Du kannst deine Lieblings-Promptvorlagen auch zur Promptliste hinzufügen. Klicke dazu in den Einstellungen im Abschnitt „Prompt List“ auf Bearbeiten.
ChatGPT Next Web Mask
Ähnlich wie die GPTs in ChatGPT bietet NextChat eine Funktion namens „Mask“. Eine Mask ist mehr als nur eine Prompt-Vorlage: Sie umfasst Modelleinstellungen, Kontext-Setups und diverse Optionen, um die Ausgabe zu verbessern.
Du kannst eigene Masks erstellen oder hunderte Community-Masks nutzen, indem du links auf „Mask“ klickst.
Viele Masks sind auf Chinesisch. Für ausschließlich englische Masks klicke auf „Find More“ und stelle die Sprache auf „English“.
Über den „View“-Button siehst und lädst du alle Einstellungen, System-Prompts und den Kontext der Mask herunter.
Laden wir die GitHub-Copilot-Mask und lassen uns Code für einen Bildklassifikator generieren. Dafür müssen wir auf der Einstellungsseite den OpenAI-API-Schlüssel hinterlegen.
Wie du mit der OpenAI-Python-API auf große Sprachmodelle zugreifst, erfährst du im DataCamp-Artikel A Beginner's Guide to Using the ChatGPT API.
Fazit
ChatGPT Next Web (NextChat) ist eine kosteneffiziente Lösung, wenn du Geld sparen willst. Statt ein monatliches ChatGPT-Pro-Abo zu zahlen, nutzt du die API nach Verbrauch. Je nach Nutzung liegen die Kosten im Schnitt bei rund 2 US-Dollar pro Monat, wenn du es nur gelegentlich einsetzt.
Außerdem bietet ChatGPT Next Web mehr Anpassung und Flexibilität, sodass du dein feinabgestimmtes Modell auch in der Desktop-App verwenden kannst.
Ich hoffe, dieses Tutorial hat dir einen umfassenden Überblick über ChatGPT NextChat und seine Möglichkeiten gegeben. Mit den Schritt-für-Schritt-Anleitungen und den verschiedenen Features und Einstellungsmöglichkeiten kannst du nun einen Chatbot erstellen, der perfekt zu deinen Anforderungen passt.
Neu in der KI? Lerne, wie LLMs funktionieren, mit dem Lernpfad AI Fundamentals und lege das Fundament, um in einer KI-geprägten Welt durchzustarten.
Themen
