AI Engineering: Von der Idee zur intelligenten Anwendung

Künstliche Intelligenz ist längst kein reines Forschungsthema mehr. Für Softwareentwickler stellt sich heute nicht mehr die Frage, ob sie KI nutzen, sondern wie sie diese effektiv in reale Anwendungen integrieren. Beim „Quickcharge: AI Engineering“ haben wir uns angesehen, wie man von einfachen Textmodellen zu komplexen Agenten-Systemen gelangt.

Was ist AI Engineering?

AI Engineering konzentriert sich auf den Einsatz von KI-Systemen in praktischen Anwendungen. Im Gegensatz zum klassischen Machine Learning, bei dem es um das Sammeln von Daten und das mühsame Trainieren von Modellen geht, betrachten wir im AI Engineering das Modell (meist ein Large Language Model, kurz LLM) als fertiges Werkzeug.

Der Vorteil für Entwickler: LLMs sind enorm vielseitig. Statt für jede Aufgabe – ob Übersetzung, Klassifikation oder Zusammenfassung – ein eigenes Modell zu trainieren, nutzen wir eine natürlichsprachliche Schnittstelle. Dadurch verschiebt sich der Fokus vom Modell-Design hin zum System-Design.

1. Prompt Engineering: Die Kunst der Anweisung

Der einfachste Weg, KI zu integrieren, ist Prompt Engineering. Ein „Prompt“ ist die gesamte Nachricht, die an das Modell gesendet wird. Ein guter Prompt besteht oft aus:

• System Prompt: Definiert die Rolle und Rahmenbedingungen (z. B. „Du bist ein Finanzexperte“).
• User Prompt: Die konkrete Anfrage des Nutzers.
• Beispielen: Diese helfen dem Modell durch „In-Context Learning“, das gewünschte Format besser zu verstehen.

Obwohl Prompt Engineering erstaunlich mächtig ist (z. B. für automatisierte Zusammenfassungen oder einfache Berechnungen), stößt es an Grenzen, sobald spezifisches oder aktuelles Wissen gefragt ist, das nicht in den Trainingsdaten des Modells enthalten war.

2. Retrieval-Augmented Generation (RAG): Wissen auf Abruf

Um ein LLM mit internen Firmendaten oder aktuellen Dokumenten (z. B. PDFs) zu füttern, nutzen wir RAG. Hierbei bekommt das Modell einen „Assistenten“, den Retriever. Das Prinzip basiert auf Embeddings: Texte werden in numerische Vektoren umgewandelt und in einer Vektordatenbank gespeichert. Sucht ein Nutzer nach Informationen, findet der  Retriever über eine semantische Suche die relevantesten Textabschnitte und stellt diese dem LLM als Kontext zur Verfügung. So kann die KI Fragen zu einer spezifischen „Car Policy“ beantworten, ohne dass sie jemals darauf trainiert wurde. RAG gilt als bewährte Methode für Anwendungen, die auf Fakten und Dokumenten basieren, und positioniert sich zwischen dem aufwändigen Training eigener Modelle und Prompt Engineering.

3. Agents: KI mit Werkzeugkasten

Die höchste Ausbaustufe sind Agents. Ein Agent nutzt ein LLM nicht nur zur Texterzeugung, sondern auch zur Planung von Aktionen und zur Steuerung externer Werkzeuge (Tools). LLMs haben häufig Schwierigkeiten mit präziser Mathematik oder dem Zugriff auf aktuelle Informationen, wie Wetterdaten.. Ein Agent ergänzt die Fähigkeiten eines LLMs durch die Anbindung von :

• APIs (z. B. Wetterdienste),
• Taschenrechner oder
• Datenbanken (SQL).

Ein praktisches Beispiel ist die Mitarbeitersuche einer Consulting-Firma: Ein Agent findet über eine Vektordatenbank Profile mit passenden Skills (z. B. Java, Typescript und/oder DevOps) und prüft gleichzeitig über eine SQL-Datenbank, ob diese Personen im gewünschten Zeitraum verfügbar sind. Der Agent plant die Schritte selbstständig, führt die Tool-Aufrufe aus und liefert eine finale, verständliche Antwort.

Fazit: Werkzeug statt Weltherrschaft

AI Engineering ist eine rasant wachsende Disziplin an der Schnittstelle von KI und Softwareentwicklung. Ob einfache Prompt-Optimierung, datenbasierte RAG-Systeme oder autonome Agenten – die Werkzeuge sind bereit. Für uns Entwickler bedeutet das: Wir müssen nicht verstehen, wie jedes Neuron im Modell feuert, aber wir müssen lernen, diese „intelligenten Funktionen“ geschickt zu orchestrieren. Die Reise hat gerade erst begonnen – probiert es aus!