Implementierung eines CO2-Bilanzierungstools

Projektziele & Projektergebnis

Projektziele: Umsetzung eines Prototyps in den Bereichen „Finanzen, Buchhaltung und Controlling“ und „IT-Infrastruktur“ mit dem Ziel der Erhöhung/Steigerung/Optimierung des Innovationsgrades, der Entscheidungsqualität und des Informationsflusses (Qualität, Verfügbarkeit, Transparenz).
Ergebnis des Projektes: Für andere Unternehmen adaptierbarer Prototyp zur Automatisierung von lokalen LLM Pipelines über Systempromts.

Gesamtprojekt

Top-Erkenntnisse aus dem Projekt

Die Kombination aus programmatisch standardisierten Pipelines und der Einbindung von Sprachmodellen bieten eine gute Balance aus Geschwindigkeit und Qualitativ guten Ergebnissen.
Jedes Sprachmodell hat seine Stärken und Schwächen und muss individuell für den Usecase ausgewählt werden.
Prompt Engineering erfordert viel Feingefühl.

Ausgangslage

Zentrale Fragestellungen im Projekt

Eine besondere Herausforderung war die richtige Formulierung der Systemprompts, um die richtigen Informationen zu gewinnen und Halluzinationen zu vermeiden.
Wie können wir die Stärken der Sprachmodelle nutzen, ohne große Rechenkapazitäten zu beanspruchen, da die Modelle lokal laufen müssen?
Wir haben uns gefragt, was das richtige Maß zwischen Standardisierung und Individualisierung ist.

Projektdetails

Zeitrahmen: 7.5.2025 - 28.11.2025

Das Durchsuchen großer Dokumentenmengen ist für jedes Projektmanagement mit sehr viel Aufwand verbunden, jedoch extrem wichtig, um ideal auf einen Projektkunden oder -partner vorbereitet zu sein. Chatbots können dabei eine große Hilfe sein. Aber oft dürfen die Informationen nicht an Dritte weitergegeben werden, und aus diesem Grund war es Ziel des Projekts, mithilfe lokaler Sprachmodelle, Prompt Engineering und Python eine effiziente und ressourcenschonende Lösung zur Erstellung eines standardisierten Managementdokuments zu explorieren.