Caelen / Blete Anwendungen mit GPT-4 und ChatGPT entwickeln

Intelligente Chatbots, Content-Generatoren und mehr erstellen
2. Auflage 2025
ISBN: 978-3-96010-896-2
Verlag: O'Reilly
Format: EPUB
Kopierschutz: 6 - ePub Watermark

E-Book, Deutsch, 328 Seiten

Reihe: Animals

Nutzen Sie die Leistungsfähigkeit von Large Language Models für wirklich innovative Anwendungen! - Dieses Buch vermittelt Ihnen Schritt für Schritt das notwendige Wissen, um GPT-4 und ChatGPT in Ihre eigenen Projekte zu integrieren - Es verbindet nahtlos Theorie und Praxis und macht die Komplexität von GPT-4 und GPT 3.5 für Programmierer:innen verständlich - Die Themen reichen von den grundlegenden Prinzipien der LLMs und der API-Integration bis hin zu Prompt Engineering und Feintuning - Die aktualisierte und erweiterte 2. Auflage behandelt neben GPT 4 und GPT 3.5 jetzt auch GPT 4o sowie das Thema Multimodalität   Diese Einführung zeigt Python-Entwicklerinnen und -Entwicklern, wie sie Anwendungen mit Large Language Models erstellen. Olivier Caelen und Marie-Alice Blete erklären die wichtigsten Features von GPT-4 und GPT-3.5 und beschreiben, wie sie für eigene NLP-Aufgaben eingesetzt werden können. In nachvollziehbaren Schritten wird erläutert, wie Sie mithilfe der OpenAI-Python-Bibliothek Applikationen zur Textgenerierung, für das Question Answering oder für intelligente Assistenten entwickeln. Anschauliche Beispiele sowie klare und detaillierte Erklärungen unterstützen Sie dabei, die Konzepte zu verstehen und sie auf Ihre Projekte anzuwenden. Die Codebeispiele sind in einem GitHub- Repository verfügbar. Zudem enthält das Buch ein Glossar mit den wichtigsten Begriffen. Für diese 2. Auflage wurde das Buch aktualisiert und deutlich erweitert, es berücksichtigt die neuesten Entwicklungen in der KI-Technologie wie beispielsweise GPT-4o und Multimodalität. Sind Sie bereit, das Potenzial von Large Language Models in Ihren Anwendungen zu nutzen? Dann ist dieses Buch ein Muss für Sie. Es behandelt: - Grundlagen und Stärken von GPT-4- und GPT-3.5-Modellen und deren Funktionsweise - Die Integration dieser Modelle in Python-basierte Anwendungen für Aufgaben im Natural Language Processing - Beispielprojekte, die den Einsatz der OpenAI-API für Aufgaben wie Texterstellung, Inhaltszusammenfassung, Dokumentenklassifikation oder Sentimentanalyse demonstrieren - Fortgeschrittene LLM-Themen wie das Prompt Engineering, das Optimieren von Modellen, RAG, Plug-ins, LangChain, LlamaIndex und KI-Assistenten

Olivier Caelen ist Machine Learning Researcher bei Worldline, einem Paytech-Pionier für nahtlose Zahlungslösungen. Er unterrichtet außerdem einen Einführungskurs für maschinelles Lernen und einen Kurs für fortgeschrittenes Deep Learning an der Université libre de Bruxelles. Er hat Masterabschlüsse in Statistik und Informatik und einen Doktortitel in Machine Learning. Olivier Caelen ist Mitautor von 42 Veröffentlichungen in internationalen, von Experten begutachteten wissenschaftlichen Zeitschriften und Speaker bei Konferenzen sowie Mitinhaber von sechs Patenten. Marie-Alice Blete ist KI-Entwicklerin. Sie predigt ihren Data-Scientist-Kolleginnen und -Kollegen Best Practices des Data Engineering und ist besonders an den Performance- und Latenzproblemen interessiert, die beim Erstellen von KI-Lösungen auftreten. Zudem liebt sie es, als Tech-Speakerin ihr Wissen und ihr Engagement in die Community zu tragen.

Autoren/Hrsg.

Caelen, Olivier

Blete, Marie-Alice

Weitere Mitwirkende

Demmig, Thomas

Leseproben

KAPITEL 2

Die APIs von OpenAI

OpenAI zeigt, wie LLMs über eine API genutzt werden können, was viele Provider und Frameworks dazu inspiriert hat, ähnlich vorzugehen. Selbst wenn Sie andere LLMs oder eine andere Bibliothek verwenden, kann es hilfreich sein, sich mit der OpenAI-API vertraut zu machen.

Dieses Kapitel schaut sich die APIs von OpenAI im Detail an. Das Ziel ist, Ihnen ein solides Verständnis vom Einsatz dieser APIs zu vermitteln, sodass Sie sie effektiv in Ihre Python-Anwendungen einbinden können. Am Ende des Kapitels werden Sie wissen, wie Sie diese APIs einsetzen und ihre umfassenden Fähigkeiten in Ihren eigenen Entwicklungsprojekten ausreizen können.

Wir beginnen mit einer Einführung in den OpenAI Playground. Diese dient dazu, die Modelle besser zu verstehen, bevor Sie damit beginnen, Code zu schreiben. Dann werden wir uns die OpenAI-Python-Bibliothek anschauen. Dazu gehören die Anmeldeinformationen und ein einfaches »Hallo Welt«-Beispiel. Als Nächstes kümmern wir uns um das Erstellen und Abschicken von Requests an die APIs und um den Umgang mit den entsprechenden Responses. Damit wissen Sie, wie Sie die von diesen APIs zurückgegebenen Daten zu interpretieren haben. Zudem wird das Kapitel auf Best Practices im Bereich Sicherheit und auf Kostenbetrachtungen eingehen.

Auf dem Weg werden Sie Wissen ansammeln, das bei Ihrer Reise durch die Python-Entwicklung mit GPT-Modellen hilfreich ist. Den gesamten Python-Code, der in diesem Kapitel vorkommt, finden Sie im GitHub-Repository zu diesem Buch ().

Bevor Sie fortfahren, schauen Sie sich bitte die OpenAI Usage Policies () an, und wenn Sie nicht schon einen Account haben, erstellen Sie einen auf der OpenAI-Homepage (). Die in Kapitel 1 vorgestellten Konzepte gelten ebenfalls für den Einsatz der OpenAI-API und der Bibliotheken.

Grundlegende Konzepte

OpenAI bietet verschiedene Modelle an, die für die unterschiedlichen Aufgaben optimiert sind, und jedes hat sein eigenes Preismodell. Auf den folgenden Seiten werden Sie einen detaillierten Vergleich der verfügbaren Modelle und Tipps zur Auswahl des richtigen Modells finden. Es ist wichtig, darauf hinzuweisen, dass der Zweck, für den ein Modell designt wurde – Textvervollständigung, Chat oder Vision –, Einfluss darauf hat, wie Sie seine API nutzen. Die Modelle hinter ChatGPT und GPT-4 sind beispielsweise chatbasiert und nutzen auch einen Chat-Endpoint.

Das Konzept der Prompts wurde in Kapitel 1 vorgestellt. Prompts sind ein fundamentaler Teil der Interaktion mit LLMs – so auch mit der OpenAI-API, auch wenn deren Effektivität je nach Sprachmodell aufgrund der Unterschiede in Design und Training variieren kann. Diese Variabilität unterstreicht die Wichtigkeit von an die spezifischen Fähigkeiten jedes Modells angepassten Prompts. Einfach gesagt, sind Prompts der Eingabetext, den Sie an das Modell schicken, und sie werden genutzt, um das Modell mit der spezifischen Aufgabe zu versorgen, die es erledigen soll. Bei Modellen wie GPT-4 haben die Prompts ein Chat-format, wobei die Ein- und Ausgabenachrichten in einer Liste abgelegt sind. Bei den neuesten Versionen von GPT-4 ist es auch möglich, durch die Aufnahme von Bildern den Kontext des Eingabe-Prompts multimodal zu gestalten. Wir werden die Details dieses Prompt-Formats in diesem Kapitel behandeln.

Das Konzept von Tokens wurde ebenfalls in Kapitel 1 beschrieben. Tokens sind Wörter oder Wortteile. Eine Faustregel besagt, dass 100 Tokens ungefähr 75 Wörtern eines englischen Texts entsprechen. Requests an die OpenAI-Modelle werden basierend auf der Anzahl der verwendeten Tokens bepreist – die Kosten eines Aufrufs an die API hängen also von der Länge des Eingabetexts und der des Ausgabetexts ab. Mehr Details zum Managen und Steuern der Anzahl der Ein- und Ausgabe-Tokens finden Sie in den Abschnitten »Chat-Completion-Modelle einsetzen« auf Seite 68 und »Andere Modelle zur Textvervollständigung verwenden« auf Seite 86.

Diese Konzepte sind in Abbildung 2-1 zusammengefasst.

Nachdem wir die Konzepte behandelt haben, wollen wir uns den Details der Modelle zuwenden.

In der OpenAI-API verfügbare Modelle

Die OpenAI-API ermöglicht Ihnen den Zugriff auf diverse Modelle, die von OpenAI entwickelt wurden (). Diese Modelle stehen über eine API als Service zur Verfügung (durch einen direkten HTTP-Aufruf oder eine bereitgestellte Bibliothek) – OpenAI führt die Modelle also auf Remote-Servern aus, und man kann einfach Queries an sie schicken.

Jedes Modell besitzt eine andere Zusammenstellung an Features und eine andere Bepreisung. In diesem Abschnitt werden wir uns die LLMs anschauen, die OpenAI über seine API anbietet. Sie müssen im Blick behalten, dass diese Modelle proprietär sind, Sie also den Code nicht direkt verändern können, um sie an Ihre Bedürfnisse anzupassen. Aber wie wir später sehen werden, können Sie ein paar von ihnen über die OpenAI-API für Ihre spezifischen Daten optimieren.

Einige ältere Modelle von OpenAI, unter anderem das GPT-2-Modell, sind nicht proprietär. Sie können das GPT-2-Modell zwar von Hugging Face () oder GitHub () herunterladen, es aber nicht über die API ansprechen.

Da viele der von OpenAI angebotenen Modelle kontinuierlich aktualisiert werden, ist es schwierig, in diesem Buch eine vollständige Liste anzugeben – eine aktualisierte Liste der von OpenAI angebotenen Modelle finden Sie in der Onlinedokumentation (). Daher werden wir uns hier auf die wichtigsten Modelle konzentrieren:

GPT Base

Die Modelle dieser Familie sind Modelle, die für ein Vervollständigen ohne Konversation trainiert wurden und für die es auch kein Reinforcement Learning from Human Feedback (RLHF) gab. Sie wurden trainiert, um vorherzusagen, welches Token als Nächstes kommt, aber nicht, um Anweisungen zu befolgen. Solche Modelle haben die seltsamen Ergebnisse geliefert, als wir in Kapitel 1 »Explain what is meant by time complexity« am Prompt eingegeben haben.

OpenAI hat hier zwei Modelle in der Familie: babbage-002 und davinci-002. babbage-002 ist kleiner und hat weniger Parameter, ist aber auch schneller als davinci-002. Diese Modelle stehen immer noch zur Verfügung, aber normalerweise werden Sie sie nicht in Ihren Projekten einsetzen, weil das ziemlich kompliziert ist.

InstructGPT (Legacy)

Dies ist eine Modellfamilie, die nach dem in Kapitel 1 beschrieben RLHF-Prozess entstanden ist. Die Modelle sind nicht auf reines Chatten für Singleturn-Vervollständigungsaufgaben optimiert. Diese Familie stand über die OpenAI-API zur Verfügung, bevor die GPT-3.5- und GPT-4-Serien erschienen.

Arbeiten Sie seit Anfang 2023 mit OpenAI-Modellen, sind Sie vermutlich mit manchen dieser Namen vertraut: text-ada-001, text-babbage-001, text-curie-001 und text-davinci-003. Im Juli 2023 hat OpenAI angekündigt, dass diese Modelle demnächst in den Ruhestand gehen werden – im Januar 2024 wurden sie dann endgültig abgeschaltet.

OpenAI empfiehlt, diese älteren Modelle durch gpt-3.5-turbo-instruct zu ersetzen. Dieses Modell besitzt die gleiche Kapazität wie die anderen GPT-3.5-Turbo-Modelle, die Sie gleich kennenlernen werden, aber es ist kompatibel mit dem veralteten Completions-Endpoint, nicht hingegen mit Chat Completions.

GPT-3.5

Als ChatGPT Ende 2022 veröffentlicht wurde, steckte hinter der Weboberfläche ein Modell aus dieser Familie. Verglichen mit den Modellen der beiden vorherigen Familien waren diese Modelle auf Chats ausgelegt. Damit können sie eine Folge von Nachrichten als Eingabe übernehmen und eine passend generierte Nachricht als Ausgabe erzeugen. Wenngleich das Chat-Format der Modelle in der GPT-3.5-Turbo-Familie für Multiturn-Unterhaltungen entworfen wurde, können Sie damit auch Singleturn-Vervollständigungsaufgaben ohne Dialog erledigen. OpenAI aktualisiert diese Modellfamilie fortlaufend. Sie werden diese Modelle vermutlich am häufigsten für Ihre Projekte einsetzen, weil sie für NLP-Aufgaben gut funktionieren und verglichen mit den GPT-4-Modellen relativ günstig und schnell sind.

Die einzelnen Modelle lassen sich über ihre ID mit dem Muster gpt-3.5-turbo-DDMM identifizieren, wobei DDMM das Release-Datum ist. Die Kennung gpt-3.5-turbo referenziert dynamisch...

Über Autor(innen)

Olivier Caelen ist Machine Learning Researcher bei Worldline, einem Paytech-Pionier für nahtlose Zahlungslösungen. Er unterrichtet außerdem einen Einführungskurs für maschinelles Lernen und einen Kurs für fortgeschrittenes Deep Learning an der Université libre de Bruxelles. Er hat Masterabschlüsse in Statistik und Informatik und einen Doktortitel in Machine Learning. Olivier Caelen ist Mitautor von 42 Veröffentlichungen in internationalen, von Experten begutachteten wissenschaftlichen Zeitschriften und Speaker bei Konferenzen sowie Mitinhaber von sechs Patenten.
Marie-Alice Blete ist KI-Entwicklerin. Sie predigt ihren Data-Scientist-Kolleginnen und -Kollegen Best Practices des Data Engineering und ist besonders an den Performance- und Latenzproblemen interessiert, die beim Erstellen von KI-Lösungen auftreten. Zudem liebt sie es, als Tech-Speakerin ihr Wissen und ihr Engagement in die Community zu tragen.