Spring AI. Künstliche Intelligenz in Spring-Anwendungen nutzen

Inhalte des Seminars

Grundlagen der KI

• Definition von KI als Bereich der Informatik, der menschenähnliche Intelligenz simuliert
• Entwicklung von Systemen, die lernen und Entscheidungen treffen können
• Alltagsbeispiele für KI: Sprachassistenten, Empfehlungssysteme, Gesichtserkennung
• Überblick über KI-gestützte Anwendungen und deren Einsatzmöglichkeiten

KI-Modelle

• Grundlagen von KI-Modellen als mathematische Systeme
• Verarbeitung von Eingabedaten und Erzeugung von Ausgaben
• Verschiedene KI-Modelltypen: Chat-Modelle, Text-zu-Bild-Modelle, Audio-Modelle
• Verständnis der technischen Grundlagen und Limitierungen von LLMs

Lokale vs. Remote Modelle

• Lokale Modelle: Ausführung auf eigener Hardware
• Vorteile lokaler Modelle: Datenschutz, Sicherheit, Kontrolle
• Remote Modelle: Ausführung auf Infrastruktur von Drittanbietern
• Vorteile von Remote-Modellen: Skalierbarkeit, Flexibilität

Freie Modelle und deren Komplexität

• Verfügbare freie Modelle: Llama, Qwen2, Phi, Mistral, Gemma
• Komplexität moderner Modelle am Beispiel Meta Llama
• Kontextlänge und Parametergrößen verschiedener Modelle

Ollama für lokale Sprachmodelle

• Installation und Konfiguration von Ollama
• Modellverwaltung und -nutzung in lokalen Umgebungen
• Interaktion mit lokalen Modellen über CLI
• Performance-Optimierung lokaler Modelle

Spring AI Framework

• Überblick über Spring AI als Projekt im Spring-Ökosystem
• Abstraktionen für verschiedene KI-Anbieter und Modelle
• Spring Boot Starter für verschiedene Modelle und Vektordatenbanken
• Architektur und Kernkomponenten von Spring AI

ChatClient und Prompt-Engineering

• Aufbau und Konfiguration des ChatClient
• Prompt-Erstellung und Strukturierung
• Message-Typen: User, System, Assistant
• Templating und Wiederverwendung von Prompts

Antwortverarbeitung in Spring AI

• Verarbeitung von ChatResponse und Generation
• Extraktion von Inhalten aus KI-Antworten
• Mapping auf Java-Objekte und Entitäten
• Umgang mit Metadaten und Fehlerbehandlung

Erweiterte Funktionen in Spring AI

• Function Calling: Externe Funktionsaufrufe durch LLMs
• Advisors: Erweiterung und Modifikation von Interaktionen
• ChatMemory: Speicherung und Verwaltung von Konversationsverläufen
• Beispiele: SimpleLoggerAdvisor, SafeGuardAdvisor, MessageChatMemoryAdvisor

Vektordatenbanken und Embeddings

• Grundlagen von Embeddings: Konvertierung von Daten in Vektoren
• Bedeutung und Kontexterfassung in numerischen Repräsentationen
• Vektordatenbanken und Ähnlichkeitssuche
• SimpleVectorStore und andere Implementierungen in Spring AI

Retrieval Augmented Generation (RAG)

• Konzept und Implementierung von RAG
• Kombination von Vektordatenbank-Ergebnissen mit Benutzeranfragen
• QuestionAnswerAdvisor für RAG-Abfragen
• ETL-Pipeline für strukturierte Datenverarbeitung

Dokumentenverarbeitung und Vektorisierung

• Document-Klasse und ihre Verwendung
• Aufbau und Implementierung einer ETL-Pipeline
• DocumentReader, DocumentTransformer, DocumentWriter
• Optimierung von Suchabfragen und Relevanz der Ergebnisse

Bildgenerierung und multimodale Modelle

• Integration von Bildgeneratoren in Spring AI
• Unterstützung für OpenAI und StabilityAI
• Verarbeitung verschiedener Medientypen
• Implementierung multimodaler Anwendungen

Bereitstellung, Skalierung und Sicherheit

• Strategien für das Deployment von KI-Anwendungen
• Performance-Optimierungen und Skalierungskonzepte
• Sicherheit, Datenschutz und ethische Aspekte
• Monitoring und Logging von KI-Anwendungen

Alternative: LangChain4j

• Vergleich zwischen Spring AI und LangChain4j
• Integration von LangChain4j in Spring Boot-Anwendungen
• Funktionsumfang und Besonderheiten beider Frameworks
• Migrationswege zwischen den Frameworks