Künstliche Intelligenz in Spring-Anwendungen mit LangChain4j

Inhalte des Seminars

Einführung in KI

• Definition und grundlegende Konzepte der Künstlichen Intelligenz (KI)
• Überblick über KI-gestützte Anwendungen und KI-Agenten (Agentic AI)
• Einführung in Large Language Models (LLMs) und deren Einsatzmöglichkeiten
• Verständnis der technischen Grundlagen und Limitierungen von LLMs

Lokale LLMs

• Einrichtung und Konfiguration von Ollama für lokale LLMs
• Nutzung von Open WebUI als Benutzeroberfläche für Ollama
• Vor- und Nachteile lokaler vs. Cloud-basierter LLMs
• Performance-Optimierung lokaler Modelle

KI-Agenten in Java und LangChain4j

• Überblick über KI-Anwendungen und KI-Bibliotheken in Java
• Einführung in “Chat as Code” in Java-Anwendungen
• Architektur und Funktionsumfang von LangChain4j
• Implementierung einfacher KI-Agenten mit LangChain4j

Nutzung von LLMs in Spring Boot mit LangChain4j

• Integration von LangChain4j in Spring Boot-Anwendungen
• Konfiguration und Nutzung von Ollama mit lokalen Modellen: Llama und DeepSeek
• Anbindung an Cloud-basierte LLMs: OpenAI, GitHub Models, Azure, Anthropic und andere
• Implementierung und Optimierung von Embedding-Modellen
• Auswahl und Konfiguration geeigneter Embedding-Stores
• Integration von Bild-Generierungsmodellen in Spring-Anwendungen

Prompt-Engineering

• Best Practices für effektives Prompt-Engineering
• Strukturierung von Prompts für verschiedene Anwendungsfälle
• Templating und Wiederverwendung von Prompts
• Evaluierung und Optimierung von Prompt-Qualität

Speichern und Abrufen von Informationen

• Konzept und Implementierung der Retrieval-Augmented Generation (RAG)
• Verarbeitung und Indexierung von Dokumenten und unstrukturierten Daten
• Auswahl und Konfiguration geeigneter Vektor-Datenbanken
• Implementierung einer vollständigen RAG-Lösung mit LangChain4j
• Optimierung von Suchabfragen und Relevanz der Ergebnisse

Tools und Function Calls

• Konzept der Agentic AI als Alternative zur traditionellen CRUD-Geschäftslogik
• Implementierung und Nutzung von Tools für externe Funktionsaufrufe
• Integration des Model Context Protocol (MCP) in Spring-Anwendungen
• Entwicklung von KI-Agenten mit Zugriff auf Unternehmensdaten und -funktionen

Entwurfsmuster und Workflow-Automatisierung

• Best Practices und Entwurfsmuster für effektive KI-Agenten
• Verkettung von KI-Modellen für komplexe Aufgaben und Workflows
• Implementierung von KI-gestützten Geschäftsprozessen
• Fehlerbehandlung und Robustheit von KI-Anwendungen

Bereitstellung, Skalierung und Sicherheit

• Strategien für das Deployment von KI-Anwendungen in Produktionsumgebungen
• Performance-Optimierungen und Skalierungskonzepte
• Sicherheit, Datenschutz und ethische Aspekte in KI-Anwendungen
• Monitoring und Logging von KI-Anwendungen

Exkurs: Alternative zu LangChain4j

• Vorstellung und Vergleich von Spring AI als Alternative
• Integration von Spring AI in bestehende Spring Boot-Anwendungen
• Migration zwischen LangChain4j und Spring AI