Unsere Demonstratoren

Wir bieten Ihnen eine große Auswahl an Praxisbeispielen zum Ausprobieren (=Demonstratoren) - Diese können Ihnen sowohl zur Inspiration als auch zur konkreten Umsetzung dienen.

Zu den Demonstratoren

Lerne Sie Anwendungsbeispiele im Bereich KI & Nachhaltigkeit kennen

 

Von der Transparenz der Lieferketten bis hin zum Training von Verhandlungsgesprächen mithilfe von KI bieten unsere Demonstratoren eine große Auswahl.

NachvollziehbAR

 

Immersive App zur Visualisierung von Nachhaltigkeitsaspekten in der Lieferkette. 

 

Sie erleichtert nicht nur die Visualisierung, sondern auch den Informationstransfer und die Kommunikation von Nachhaltigkeitsaspekten und -risiken entlang der kompletten Wertschöpfungskette eines Unternehmens.

Mehr erfahren

Urban Greening

 

Immersive App zur Planung von urbaner Begrünung, der in Alltagssituationen (hier: Stadtteile der Nürnberger Innenstadt) anwendbar ist. 

 

Der Prototyp soll es ermöglichen, einzelne Begrünungsmodule, Fassaden- und Dachbegrünung für die Stadtgestaltung im Planungsprozess nutzbar zu machen und parallel über einhergehende Umweltwirkungen wie CO2-Einsparungen oder Kühlung der Umgebungstemperatur sowie Anwendungshinweise zur Pflege informieren.

Mehr erfahren

Risikoanalyse-Tool

 

Online-Tool, mit dem automatisiert eine Risikoanalyse für Lieferanten nach den gesetzlichen Vorgaben des Lieferkettensorgfaltspflichtengesetzes erstellt werden kann. 


Neben der menschenrechtlichen und umweltbezogenen Risikoeinstufung können auch unternehmensspezifische Daten wie Zertifizierungen für die Einschätzung berücksichtigt werden.

Mehr erfahren

Furhat

 

In vielen Bereichen wie Behörden oder Museen fehlt es beispielsweise häufig an Arbeitskräften, um den hohen Andrang zu bewältigen und wiederkehrende Fragen effizient zu beantworten. Gleichzeitig sind Verkaufstrainings kostspielig und zeitaufwendig, während effektive Vorbereitung auf Bewerbungsgespräche ebenfalls immer wichtiger wird. 

 

Für all diese Herausforderungen gibt es jetzt eine Lösung aus dem Bereich der Robotik in Kombination mit Large Language Modells - den Social Robot

Mehr erfahren

Verlässlichere KI auf den Straßen

Vorhersagen von KI und Machine Learning Modellen sind nicht immer fehlerfrei, und die Modelle können manchmal fehlerhafte Vorhersagen treffen, ohne dass unmittelbar ersichtlich ist, warum dies der Fall ist. Diese Unsicherheit darüber, ob Vorhersagen richtig oder falsch sind, kann je nach Einsatzbereich schwerwiegende Folgen haben. Vor allem im Straßenverkehr wird hierzu immer wieder kontrovers diskutiert. 

 

Wir haben dazu eine Lösungsansatz entwickelt, indem wir ein Augmentierungs-Framework sowie die Methodik des Uncertainty Wrapper verknüpft haben.

Mehr erfahren

Juristische Fallanalyse

 

Juristen sehen sich im Arbeitsalltag verschiedenen Herausforderungen gegenüber. Insbesondere die Komplexität und der Umfang der Daten, die für juristische Sachverhalte geprüft werden müssen, macht eine Recherche und Fallbearbeitung zeitaufwendig. Rechtliche Fragestellungen erfordern präzise Analysen und gründliche Recherchen. Fehler oder Auslassungen können erhebliche rechtliche und finanzielle Konsequenzen haben. Darüber steht oft ein großer Zeitdruck, sei es bei der Vorbereitung von Gerichtsverfahren, der Erstellung von Verträgen oder der Bearbeitung dringender Mandantenanfragen.

 

Unsere Sprachmodelle bieten vielfältige Potenziale Routineaufgaben zu beschleunigen und so wertvolle Zeit zu sparen.

Mehr erfahren

Excel Code Interpreter

 

Die Komplexität und Vielfalt der Daten in Exceltabellen erschweren oft eine effiziente Analyse, insbesondere wenn es darum geht, Muster zu erkennen oder Trends zu identifizieren. Die manuelle Verarbeitung kann zu Inkonsistenzen und ungenauen Ergebnissen führen, was die Zuverlässigkeit der Analysen beeinträchtigen kann. Zudem können Excel-Nutzer aufgrund begrenzter Funktionen und fehlender Automatisierungsmöglichkeiten bei der Datenvisualisierung an ihre Grenzen stoßen. Dies kann zu Verzögerungen bei der Entscheidungsfindung und der Umsetzung von Erkenntnissen aus den Daten führen.

 

Durch die Integration der Python-Bibliothek “Pandas” können Daten ausgewertet, auf Manipulation geprüft und verständlich visualisiert werden

Mehr erfahren

Jira Code Interpreter

 

In vielen Organisationen gibt es zahlreiche Aufgaben, die über verschiedene Systeme und Plattformen verteilt sind. Ohne eine zentrale Übersicht kann es zu Verzögerungen und ineffizienter Ressourcennutzung kommen. Dies führt zu Schwierigkeiten bei der Priorisierung und Nachverfolgung offener und in Bearbeitung befindlicher Aufgaben. 

 

Mithilfe von SQL-Abfragen werden Aufgaben aus einer zentralen Datenbank extrahiert. Die Aufgaben werden nach ihrem Status (offen oder in Bearbeitung) gefiltert, um sich auf relevante Arbeiten zu konzentrieren.

Mehr erfahren

COAI

 

Der Einsatz von Sprachmodellen (LLM) stellt Unternehmen vor zahlreiche Entscheidungen. Welches LLM soll ausgewählt, für welche Aufgaben soll es eingesetzt und wie kann sichergestellt werden, dass der generierte Output den Anforderungen entspricht? Da sie nicht-deterministisch sind, führen exakt gleiche Prompts zu verschiedenen Zeitpunkten i.d.R. zu unterschiedlichen Ausgaben. Darüber hinaus können LLM halluzinieren oder dazu gebracht werden, schädlichen Output zu generieren. Es gibt also viele Gründe, warum eine kontinuierliche Überwachung von LLM unabdingbar ist.

 

Mithilfe der Plattform COAI wird ein E2E-Ansatz für die Evaluierung, das Tracking und das Monitoring von Sprachmodellen geboten.

Mehr erfahren

AI Use Case Analyse


Unternehmen stehen vor der Herausforderung, geeignete KI-Lösungen zu identifizieren und priorisiert umzusetzen. Ideen für KI-Anwendungen entstehen häufig in verschiedenen Abteilungen oder Teams, doch oft fehlt es an einer strukturierten Methode, um diese Ideen zu bewerten. Es besteht ein deutlicher Bedarf nach einer transparenten und objektiven Bewertungsmethode, die es ermöglicht, KI-Projekte basierend auf ihrem geschätzten Wert und Implementierungsaufwand systematisch zu analysieren und zu priorisieren. 

 

Eine solche Methode könnte helfen, Ressourcen effizienter einzusetzen und diejenigen Projekte zu priorisieren, die den größten geschäftlichen Nutzen versprechen.

Mehr erfahren

AI Town

 

Das Open Source Projekt “AI Town“ von a16z-infra stellt ein Toolkit dar, mit dem eine virtuelle Umgebung erschaffen werden kann, in der sich mit Hilfe eines LLMs generative Agenten erschaffen lassen denen Charaktereigenschaften und Ziele zugewiesen werden können. Das Projekt erlaubt vielfältige Anpassungen der Simulation. 

 

Ziel ist es zu erforschen, ob LLMs als autonome Agenten eingesetzt werden können, die Anweisungen in natürlicher Sprache entgegennehmen und selbstständig Aufgaben in der Umgebung, ggfs. unter Einbeziehung weiterer Modelle, ausführen.

Mehr erfahren

AUSGANGSLAGE


  • Notwendigkeit von Transformationen in Lieferketten hin zu einer ökologischeren, sozialeren und klimafreundlicheren Herstellung mithilfe der Visualisierung von Nachhaltigkeitsaspekten
  • Zunahme von Unsicherheiten und Risiken durch komplexe Vernetzungen und Dynamiken globaler Lieferketten
  • Bedarf an Möglichkeiten zur Transparenz und Kontextualisierung für Unternehmen, Verbraucher:innen und weiteren Stakeholdern

LÖSUNGSANSATZ


Immersive und interaktive Augmented Reality-App zur erleichterten und verständlichen Visualisierung, Informationstransfer und Kommunikation von Nachhaltigkeitsaspekten und -risiken entlang der Lieferkette

 

Neuartige Möglichkeit für Visualisierung, Informationsstrukturierung und Reporting:

  • Produktvergleich bspw. durch Standards → Messung der Nachhaltigkeit des Produkts
  • Verständliche Visualisierung der Lieferkette → 360° Videos von Herstellungsprozessen
  • Stärkung des Nachhaltigkeitsbewusstseins → Schulungen und Kontextualisierung

POTENZIAL & ANWENDUNGSBEREICHE


  • Customer Experience: Lieferkette kann vor dem Kauf begutachtet werden
  • Training: Mitarbeiter erlernen die Risiken virtuell, um diese dann in der Realität anzuwenden
  • Präventions-Tool: Ferndiagnose von Nachhaltigkeitsrisiken und virtuelle Handlungsempfehlungen
  • Gemeinsamen Planen: Austausch von Best Practice Beispielen und virtuelle Unterstützung von Stakeholdern
  • Bewertungs-Tool: Abgleich von Standards mit bestehendem Nachhaltigkeitsmanagement

AUSGANGSLAGE


  • Begrünung von urbanen Räumen als wesentlicher Beitrag hin zu einer nachhaltigen Stadtentwicklung infolge klimapolitischer Ziele und dem Bevölkerungszuwachs in Städten
  • Für das Gelingen nachhaltiger, urbaner Transformationsprozesse ist die Einbindung verschiedener Stakeholder sowie ein gesellschaftlicher Wissenstransfer essentiell, um eine breite Akzeptanz in der Stadtgesellschaft zu erreichen

LÖSUNGSANSATZ


  • Augmented Reality Planungsmodelle von urbaner Begrünung für Bürger:innen, Expert:innen und weitere Stakeholder zur interaktiven, verständlichen und leicht zugänglichen Anwendung, ohne kosten und zeitintensive reale Planungsmodelle
  • Auswahl von Begrünungsmodulen (Bäume, Sträucher, Hochbeete, etc.), Fassadenbegrünung und Dachbegrünung zur Stadtgestaltung im Planungsprozess
  • Informationen über einhergehende Umweltwirkungen (CO2-Einsparungen, Kühlung der Umgebungstemperatur, etc.) sowie zum Pflegeaufwand der Begrünung

POTENZIAL & ANWENDUNGSBEREICHE


  • Entwicklung eines Prototypen, der in Alltagssituationen (hier: Stadtteile der Nürnberger Innenstadt) anwendbar ist
  • Entwicklung des Prototyps durch direkte Beteiligung der Bürger:innen
  • Analyse und Diskussion von Optimierungsbedarfen (Benutzerfreundlichkeit, Nutzungsverhalten, Weiterbildungsfunktion), Grenzen, weiteren Potenzialen und Einsatzbereichen der Anwendung

AUSGANGSLAGE


  • Inkrafttreten des Lieferkettensorgfaltspflichtengesetz (LkSG) im Januar 2023: Adressierung menschenrechtlicher und umweltbezogener Sorgfaltspflichten im eigenen Geschäftsbereich und der Lieferkette
  • Mögliche indirekte Betroffenheit mittelständischer Unternehmen durch übertragene Sorgfaltspflichten ihrer Kunden
  • Große Herausforderung und Arbeitsaufwand für den Mittelstand gesetzliche Forderungen umzusetzen
  • Risikoanalyse bildet die Basis der gesetzlichen Anforderungen

LÖSUNGSANSATZ


  • Mit Hilfe des Tools wird automatisiert eine Risikoanalyse nach Vorgaben des LkSG für Lieferanten erstellt
  • Dabei werden unternehmensspezifische Daten wie Zertifizierungen des Lieferanten oder das Einkaufsvolumen miteinbezogen
  • In einer Weltkarte sind die potentiellen Umwelt- und Menschrechtsrisiken der Lieferanten veranschaulicht
  • Die Risikoverteilung der Lieferanten wird anschließend übersichtlich dargestellt

POTENZIAL & ANWENDUNGSBEREICHE


  • Einfache Umsetzung der gesetzlichen Anforderungen des Lieferkettensorgfaltspflichtengesetzes
  • Stärkung der eigenen Wettbewerbsfähigkeit und der Gewinnung von Neukunden
  • Geeignet für den Bericht über einen Due Diligence Prozess im Rahmen der Corporate Sustainability Reporting Directive (CSRD)
  • Geeignete Anwendung für das europäische Lieferkettensorgfaltspflichtengesetz (ab 2027)

Furhat

Konversation mit einem Social Robot


AUSGANGSLAGE


Aufgrund von immer größer werdenden Zeitdruck und mangelnden Arbeitskräfte ist Unterstützung dringend notwendig, um diesen Herausforderungen gerecht zu werden. In vielen Bereichen wie Behörden oder Museen fehlt es beispielsweise häufig an Arbeitskräften, um den hohen Andrang zu bewältigen und wiederkehrende Fragen effizient zu beantworten. Gleichzeitig sind Verkaufstrainings kostspielig und zeitaufwendig, während effektive Vorbereitung auf Bewerbungsgespräche ebenfalls immer wichtiger wird. Für all diese Herausforderungen gibt es jetzt eine Lösung aus dem Bereich der Robotik in Kombination mit Large Language Modells.


LÖSUNGSANSATZ


  • Furhat ist ein Social Robot, welcher in der Lage ist mit einer neuartigen Projektionstechnologie menschliche Mimik zu imitieren
  • Durch den Einsatz von sogenannten Large Language Modells ist es möglich mit dem Roboter eine Konversation über unterschiedlichste Themen in verschiedenen Sprachen zu führen
  • In Verbindung mit einer Persona, welche an das Sprachmodell übergeben wird, lässt sich die Situation realitätsnah abbilden
  • Auf diese Weise können viele dieser Aufgaben wie das Beantworten von Fragen, das Training von Verhandlungssituationen oder das Erlernen von Sprachen effizienter und jederzeit zugänglich gestaltet werden
  • Furhat hilft dabei, die Arbeitslast zu reduzieren und gleichzeitig die Qualität der Dienstleistungen zu steigern

POTENZIAL & ANWENDUNGSBEREICHE


  • Training von Verkaufsgesprächen oder Bewerbungsgesprächen
  • Vermittlung von Informationen für Touristen in einem Fremdenverkehrsbüro oder in Museen (Beispielsweise auch mit einer bestimmten Persona, welcher zu der Geschichte des Ortes passt)
  • Vorbereitung auf mündliche Prüfungen und Üben von Fremdsprachen
  • Erste Auskunft auf Behörden oder in Krankenhäusern (Wegbeschreibung, einfache Fragen zu Formularen)

Verlässlichere KI auf den Straßen

Augmentierungs-Framework und Uncertainty Wrapper


AUSGANGSLAGE


Vorhersagen von KI und Machine Learning Modellen sind nicht immer fehlerfrei, und die Modelle können manchmal fehlerhafte Vorhersagen treffen, ohne dass unmittelbar ersichtlich ist, warum dies der Fall ist. Diese Unsicherheit darüber, ob Vorhersagen richtig oder falsch sind, kann je nach Einsatzbereich schwerwiegende Folgen haben. Vor allem im Straßenverkehr wird hierzu immer wieder kontrovers diskutiert.


LÖSUNGSANSATZ


  • Augmentierungs-Framwork:
    • Erweiterung der Trainingsdaten mit Hilfe von realistischen Simulationen von Umweltbedingungen
    • Verbesserte Robustheit und Genauigkeit der Modelle und effektives Training für anspruchsvolle Einsatzszenarien
  • Uncertainty Wrapper
    • Modellagnostische Quantifizierung von Unsicherheiten in den Modellausgaben
    • Berechnung der Wahrscheinlichkeit, wie sicher oder unsicher die Vorhersage des Modells ist

POTENZIAL & ANWENDUNGSBEREICHE


  • Schaffung einer transparenten Entscheidungsgrundlage durch die Ergänzung von Unsicherheitsbewertungen
  • Entscheidungen der Modelle, insbesondere in Bildklassifikatoren, können klarer und nachvollziehbarer gemacht werden
  • Anwendungsbereiche, z.B.:
    • Verkehrszeichenerkennung
    • Fußgängerdetektion
    • Zellklassifizierung mittels Durchflusszytometriedaten

Juristische Fallanalyse

Komplexe Sachverhalte mit Hilfe von Sprachmodellen auswerten


AUSGANGSLAGE


Juristen sehen sich im Arbeitsalltag verschiedenen Herausforderungen gegenüber. Insbesondere die Komplexität und der Umfang der Daten, die für juristische Sachverhalte geprüft werden müssen, macht eine Recherche und Fallbearbeitung zeitaufwendig. Rechtliche Fragestellungen erfordern präzise Analysen und gründliche Recherchen. Fehler oder Auslassungen können erhebliche rechtliche und finanzielle Konsequenzen haben. Darüber steht oft ein großer Zeitdruck, sei es bei der Vorbereitung von Gerichtsverfahren, der Erstellung von Verträgen oder der Bearbeitung dringender Mandantenanfragen.

Sprachmodelle bieten vielfältige Potenziale Routineaufgaben zu beschleunigen und so wertvolle Zeit zu sparen.


LÖSUNGSANSATZ


  • Es handelt sich hierbei um einen Prototyp für die Fallanalyse, dessen Fokus auf der juristischen Informationsextraktion aus Textdokumenten liegt. Die Informationsextraktion ermöglicht die kompakte Darstellung der Beteiligten, Gegenstände und Orte, deren Beziehungen zueinander sowie den chronologischen Ablauf.
  • GPT-4 wird verwendet, um Referenzfälle zu bereits vorhandener Rechtsprechung sowie relevante Gesetze vorzuschlagen.
  • Basierend auf den gesammelten Informationen wird eine Fallanalyse erstellt, die eine Einschätzung der Erfolgsaussichten einer Klage gibt.

POTENZIAL & ANWENDUNGSBEREICHE


  • Sprachmodelle sind fähig, große Mengen an Daten schnell zu analysieren sowie relevante Informationen zu extrahieren, was zu einer Einsparung von Zeit und Aufwand führt.
  • Darüber hinaus unterstützen sie in der Recherche, indem sie relevante Gesetze, Urteile und juristische Dokumente finden, die für einen Fall relevant sein können.
  • Durch die Automatisierung von Routineaufgaben können Kosten gesenkt sowie die Effizienz von Mitarbeitern gesteigert werden.

AI Usecase Analyse

KI Lösungen sammeln und bewerten


AUSGANGSLAGE


Unternehmen stehen vor der Herausforderung, geeignete KI-Lösungen zu identifizieren und priorisiert umzusetzen. Ideen für KI-Anwendungen entstehen häufig in verschiedenen Abteilungen oder Teams, doch oft fehlt es an einer strukturierten Methode, um diese Ideen zu bewerten. Es besteht ein deutlicher Bedarf nach einer transparenten und objektiven Bewertungsmethode, die es ermöglicht, KI-Projekte basierend auf ihrem geschätzten Wert und Implementierungsaufwand systematisch zu analysieren und zu priorisieren. Eine solche Methode könnte helfen, Ressourcen effizienter einzusetzen und diejenigen Projekte zu priorisieren, die den größten geschäftlichen Nutzen versprechen. Zudem könnte sie die Zusammenarbeit zwischen verschiedenen Abteilungen verbessern, indem sie einen klaren Rahmen für die Bewertung und Auswahl von KI-Ideen bietet.


LÖSUNGSANSATZ


  • Nutzer können Ideen für potenzielle KI-Lösungen in einer zentralen Plattform einreichen
  • Jede Idee wird von mehreren Nutzern anhand vordefinierter Kriterien bewertet (z.B. Risiken, Implemetierungsaufwand, benötigtes Know how, Stundenerspranis) 
  • Die Bewertungskriterien werden über ein Punktesystem ausgedrückt, woraus sich der potenzielle Nutze und der benötigte Aufwand in numerischen Werten darstellen lässt
  • Dieser Score wird in einer Matrix dargestellt, die die "low hanging fruits" (niedrig hängende Früchte) identifiziert – also diejenigen Ideen, die hohe Werte bei relativ niedrigem Implementierungsaufwand haben

POTENZIAL & ANWENDUNGSBEREICHE


  • Einsatz in Unternehmen aller Größen zur systematischen Bewertung und Priorisierung von KI-Projekten
  • Verbesserung der Zusammenarbeit zwischen verschiedenen Abteilungen durch transparente Bewertung und Priorisierung von Ideen
  • Unterstützung bei der strategischen Planung und Allokation von Ressourcen für KI-Initiativen
  • Langfristige Planung von KI-Entwicklungsstrategien durch kontinuierliches Sammeln und Evaluieren von Ideen
  • Optimierung der Ressourcenallokation durch Fokussierung auf Projekte mit dem höchsten erwarteten Nutzen bei angemessenem Aufwand

Excel Code Interpreter

Chatten mit der Exceltabelle


AUSGANGSLAGE


Die Komplexität und Vielfalt der Daten in Exceltabellen erschweren oft eine effiziente Analyse, insbesondere wenn es darum geht, Muster zu erkennen oder Trends zu identifizieren. Die manuelle Verarbeitung kann zu Inkonsistenzen und ungenauen Ergebnissen führen, was die Zuverlässigkeit der Analysen beeinträchtigen kann. Zudem können Excel-Nutzer aufgrund begrenzter Funktionen und fehlender Automatisierungsmöglichkeiten bei der Datenvisualisierung an ihre Grenzen stoßen. Dies kann zu Verzögerungen bei der Entscheidungsfindung und der Umsetzung von Erkenntnissen aus den Daten führen.


LÖSUNGSANSATZ


  • Automatisches Laden der Daten mit Pandas in Python
  • Nutzung eines Chat-Interfaces zur Stellung von Fragen zur Datenanalyse
  • Integration von Pandas für Datenmanipulation und -auswertung
  • Generierung von Tabellen und Grafiken zur Beantwortung der gestellten Fragen
  • Einsatz von Large Language Modellen über Prompts: Ermöglicht Anfragen an die Exceltabelle
  • Übersetzung von Anfragen in Python Code durch das Large Language Modell
  • Anwendung des generierten Python Codes auf das Excel File zur Beantwortung unterschiedlicher Fragestellungen

POTENZIAL & ANWENDUNGSBEREICHE


  • Business-Analyse: Schnelle Erstellung von Berichten und Dashboards aus Unternehmensdaten
  • Finanzanalyse: Automatische Analyse von Finanzdaten und Erstellung von Prognosen
  • Marktforschung: Auswertung von Umfragedaten und Erstellung von Marktanalysen
  • Wissenschaftliche Forschung: Datenanalyse und Visualisierung in verschiedenen Forschungsdisziplinen wie Biologie, Psychologie, Physik
  • Bildung: Verwendung in Lehr- und Lernumgebungen für Datenanalyseprojekte
  • Gesundheitswesen: Analyse von Gesundheitsdaten für die medizinische Forschung oder betriebliche Effizienzanalysen
  • Logistik und Supply Chain Management: Optimierung von Lieferketten und Lagerbeständen durch Datenanalyse

Jira Code Interpreter

Projektmanagement & Reporting durch SQL-Abfragen


AUSGANGSLAGE


In vielen Organisationen gibt es zahlreiche Aufgaben, die über verschiedene Systeme und Plattformen verteilt sind. Ohne eine zentrale Übersicht kann es zu Verzögerungen und ineffizienter Ressourcennutzung kommen. Dies führt zu Schwierigkeiten bei der Priorisierung und Nachverfolgung offener und in Bearbeitung befindlicher Aufgaben. Darüber hinaus sind Informationen oft in unterschiedlichen Abteilungen oder Tools isoliert, was die Zusammenarbeit erheblich erschwert. Dadurch entsteht ein erhöhter Aufwand für das Managen und Koordinieren von Aufgaben und Projekten.


LÖSUNGSANSATZ


  • Mithilfe von SQL-Abfragen werden Aufgaben aus einer zentralen Datenbank extrahiert. Die Aufgaben werden nach ihrem Status (offen oder in Bearbeitung) gefiltert, um sich auf relevante Arbeiten zu konzentrieren.
  • Eine Liste der offenen und in Bearbeitung befindlichen Aufgaben wird automatisch erstellt und formatiert.
  • Eine klare und lesbare Übersicht wird bereitgestellt, die leicht kommuniziert werden kann.
  • Es besteht die Möglichkeit, regelmäßig aktuelle Daten abzurufen und so stets auf dem neuesten Stand zu bleiben.

POTENZIAL & ANWENDUNGSBEREICHE


  • Projektmanagement: Verfolgung von Aufgaben und Meilensteinen in verschiedenen Projekten zur besseren Planung
  • Teamkoordination: Verbesserung der Zusammenarbeit und Kommunikation innerhalb von Teams
  • Berichtswesen: Erstellung von Berichten über den Fortschritt und Status von Aufgaben für Management und Stakeholder
  • Priorisierung von Aufgaben: Unterstützung bei der Priorisierung von Aufgaben basierend auf ihrem aktuellen Status und ihrer Dringlichkeit
  • Support- und Service-Management: Überwachung von offenen Tickets und laufenden Serviceanfragen zur Verbesserung des Kundendienstes

COAI

Monitoring von Sprachmodellen


AUSGANGSLAGE


Der Einsatz von Sprachmodellen (LLM) stellt Unternehmen vor zahlreiche Entscheidungen. Welches LLM soll ausgewählt, für welche Aufgaben soll es eingesetzt und wie kann sichergestellt werden, dass der generierte Output den Anforderungen entspricht? 

Da sie nicht-deterministisch sind, führen exakt gleiche Prompts zu verschiedenen Zeitpunkten i.d.R. zu unterschiedlichen Ausgaben. Darüber hinaus können LLM halluzinieren oder dazu gebracht werden, schädlichen Output zu generieren. Es gibt also viele Gründe, warum eine kontinuierliche Überwachung von LLM unabdingbar ist.


LÖSUNGSANSATZ


  • Für die Entwicklung von LLM-basierten Applikationen und deren Einführung in Unternehmen bietet die Plattform COAI einen E2E-Ansatz für die Evaluierung, das Tracking und das Monitoring von Sprachmodellen.
  • Verschiedene Sprachmodelle können in einem Playground direkt miteinander verglichen und evaluiert werden.
  • Durch eine Protokollierung der Interaktionen mit und in einem LLM können Informationen über die Nutzung, Kosten, Latenz, Fehlerraten, Akzeptanz gesammelt werden. Darüber hinaus dient die Sammlung von Input/Output Daten zu Generierung von Evaluationsdatensätzen oder Finetuningdatensätzen .

POTENZIAL & ANWENDUNGSBEREICHE


  • Funktionstests mit verschiedenen Sprachmodellen durchführen und das geeignete Modell für den entsprechenden Use Case auswählen.
  • Automatisierte Erstellung von Evaluierungsdatensätzen zur Analyse des Models auf Prägnanz, Relevanz, Kohärenz, Schädlichkeit, Bösartigkeit, Hilfsbereitschaft, Kontroversität, Diskriminierung, Kriminalität sowie Gefühllosigkeit.
  • Automatisierte produktive Überwachung sowie Verhinderung von Concept sowie User Drifts.

AI Town

Sprachmodelle als autonome Agenten in einer virtuellen Umgebung


AUSGANGSLAGE


LLMs demonstrieren faszinierende Fähigkeiten im Bereich des Sprachverständnisses, der Sprachgenerierung und der Interaktion. Sie sind in der Lage, komplexe, mehrstufige Probleme unter Einbeziehung verschiedener Informationsquellen und Tools zu lösen. Es wird angenommen, dass LLMs als Kontrolleinheit eingesetzt werden können, um KI-Modelle zu steuern (u.a. Shen et al. 2023). In einem Paper entwickeln Forscher (Park 2023 et al.) eine virtuelle Welt, in der Sprachmodelle als generative Agenten auftreten, die mit verschiedenen Charakteren ihren eigenen Motiven folgen und Entscheidungen treffen. Ziel ist es zu erforschen, ob LLMs als autonome Agenten eingesetzt werden können, die Anweisungen in natürlicher Sprache entgegennehmen und selbstständig Aufgaben in der Umgebung, ggfs. unter Einbeziehung weiterer Modelle, ausführen.


LÖSUNGSANSATZ


  • Als Ausganspunkt wird das Open Source Projekt “AI Town“ von a16z-infra verwendet. Dieses stellt ein Toolkit dar, mit dem eine virtuelle Umgebung erschaffen werden kann, in der sich mit Hilfe eines LLMs generative Agenten erschaffen lassen denen Charaktereigenschaften und Ziele zugewiesen werden können. Das Projekt erlaubt vielfältige Anpassungen der Simulation, u.a. lässt sich die virtuelle Umgebung ändern (z.B. in eine Produktionsumgebung), weitere KI-Modelle wie ein anderes LLM lässt sich integrieren sowie verschiedene Sprachen ergänzen.
  • Alle Interaktionen und Konversationen der generativen Agenten können in Echtzeit getrackt werden. Darüber hinaus werden sie in einer zugehörigen Datenbank abgelegt.

POTENZIAL & ANWENDUNGSBEREICHE


  • Erkenntnisse erlangen über die Einsatzfähigkeit von LLMs als autonome Agenten
  • Simulation zwischenmenschlicher Kommunikation, bspw. Einsatz in der Ideengenerierung, Problembetrachtung, Lösungsfindung
  • Prototyping