Large Langage Models sind aktuell die wohl interessanteste Technologie für App-Entwickler und unterstützen mittlerweile nicht nur Text, sondern auch Sprache und Vision. Doch wie kann ich sie effizient in meine Cloud Native .NET-basierten Backends integrieren?
Dieser Talk gibt einen umfangreichen Überblick über die Use Cases und Prompt-Gestaltung anhand eines komplexen Formulars, welches wir über Text, Sprache und Bilder ausfüllen. Dabei nutzen wir Microsoft.Extensions.AI, um einen einheitlichen Zugriff auf verschiedene Language Modes zu ermöglichen, hosten unsere Backend-Services mit .NET Aspire und gehen auch auf das Thema Absicherung unserer Backend Services mit dem Backend-for-Frontend-Pattern ein.
Kenny Pflug ist Senior Software Engineer bei der TELIS/GWVS und studierte Informatik an der OTH Regensburg. Seine Interessen liegen in den Gebieten Cloud Native .NET Backends mit integrierten AI-Schnittstellen, Software Development mit AI Coding Tools, .NET Internals und Performanceoptimierung. In seiner Freizeit betreut er einige Open Source Projekte wie Light.GuardClauses, ansonsten wandert er mit seiner Frau gerne durch bayerische und deutsche Wälder.