Das Wissensportal für IT-Professionals. Entdecke die Tiefe und Breite unseres IT-Contents in exklusiven Themenchannels und Magazinmarken.

SIGS DATACOM GmbH

Lindlaustraße 2c, 53842 Troisdorf

Tel: +49 (0)2241/2341-100

kundenservice@sigs-datacom.de

LLMs mit Spring AI integrieren

Die gesamte Welt spricht aktuell über Generative KI und Large Language Models (LLMs). Und auch wenn ich persönlich das Thema aktuell als zu sehr gehypt empfinde, sollten wir solche Trends nicht komplett verschlafen. Daher zeigt dieser Artikel, wie sich LLMs mit Spring AI integrieren lassen.

Bereits vor einem Jahr hat Michael Hunger im Artikel www.sigs.de/artikel/smartere-anwendungen-mit-spring-ai/ [1] den damaligen Stand, 0.2.0-SNAPSHOT, von Spring AI [2] vorgestellt. Seitdem hat sich die Welt weitergedreht und sowohl die Fähigkeiten von KI, hier im spezielleren LLMs, als auch Spring AI haben sich weiterentwickelt. Ich denke, es ist somit an der Zeit, sich anzuschauen, wie der aktuelle Stand aussieht.

Ollama

Mittlerweile haben wir bei der LLM-Auswahl die Qual der Wahl. Neben, dem er…