Lernen Sie Anwendungsbeispiele im Bereich KI & Nachhaltigkeit kennen
Mit Hilfe von Demonstratoren können digitale Innovationen erlebbar gemacht werden. Sie führen automatisierte, vernetzte und digitale Technologien in der Praxis vor und demonstrieren prototypische Lösungen für reale Anwendungsfälle.
Von der Transparenz der Lieferketten bis hin zum Training von Verhandlungsgesprächen mithilfe von KI bieten unsere Demonstratoren eine große Auswahl.
NachvollziehbAR
Immersive App zur Visualisierung von Nachhaltigkeitsaspekten in der Lieferkette
AUSGANGSLAGE
- Notwendigkeit von Transformationen in Lieferketten hin zu einer ökologischeren, sozialeren und klimafreundlicheren Herstellung mithilfe der Visualisierung von Nachhaltigkeitsaspekten
- Zunahme von Unsicherheiten und Risiken durch komplexe Vernetzungen und Dynamiken globaler Lieferketten
- Bedarf an Möglichkeiten zur Transparenz und Kontextualisierung für Unternehmen, Verbraucher:innen und weiteren Stakeholdern
LÖSUNGSANSATZ
Immersive und interaktive Augmented Reality-App zur erleichterten und verständlichen Visualisierung, Informationstransfer und Kommunikation von Nachhaltigkeitsaspekten und -risiken entlang der Lieferkette
Neuartige Möglichkeit für Visualisierung, Informationsstrukturierung und Reporting:
- Produktvergleich bspw. durch Standards → Messung der Nachhaltigkeit des Produkts
- Verständliche Visualisierung der Lieferkette → 360° Videos von Herstellungsprozessen
- Stärkung des Nachhaltigkeitsbewusstseins → Schulungen und Kontextualisierung
POTENZIAL & ANWENDUNGSBEREICHE
- Customer Experience: Lieferkette kann vor dem Kauf begutachtet werden
- Training: Mitarbeiter erlernen die Risiken virtuell, um diese dann in der Realität anzuwenden
- Präventions-Tool: Ferndiagnose von Nachhaltigkeitsrisiken und virtuelle Handlungsempfehlungen
- Gemeinsamen Planen: Austausch von Best Practice Beispielen und virtuelle Unterstützung von Stakeholdern
- Bewertungs-Tool: Abgleich von Standards mit bestehendem Nachhaltigkeitsmanagement
Urban Greening
Neue Wege der Partizipation und des Wissenstransfers zur urbanen Begrünung mittels Augmented Reality
AUSGANGSLAGE
- Begrünung von urbanen Räumen als wesentlicher Beitrag hin zu einer nachhaltigen Stadtentwicklung infolge klimapolitischer Ziele und dem Bevölkerungszuwachs in Städten
- Für das Gelingen nachhaltiger, urbaner Transformationsprozesse ist die Einbindung verschiedener Stakeholder sowie ein gesellschaftlicher Wissenstransfer essentiell, um eine breite Akzeptanz in der Stadtgesellschaft zu erreichen
LÖSUNGSANSATZ
- Augmented Reality Planungsmodelle von urbaner Begrünung für Bürger:innen, Expert:innen und weitere Stakeholder zur interaktiven, verständlichen und leicht zugänglichen Anwendung, ohne kosten und zeitintensive reale Planungsmodelle
- Auswahl von Begrünungsmodulen (Bäume, Sträucher, Hochbeete, etc.), Fassadenbegrünung und Dachbegrünung zur Stadtgestaltung im Planungsprozess
- Informationen über einhergehende Umweltwirkungen (CO2-Einsparungen, Kühlung der Umgebungstemperatur, etc.) sowie zum Pflegeaufwand der Begrünung
POTENZIAL & ANWENDUNGSBEREICHE
- Entwicklung eines Prototypen, der in Alltagssituationen (hier: Stadtteile der Nürnberger Innenstadt) anwendbar ist
- Entwicklung des Prototyps durch direkte Beteiligung der Bürger:innen
- Analyse und Diskussion von Optimierungsbedarfen (Benutzerfreundlichkeit, Nutzungsverhalten, Weiterbildungsfunktion), Grenzen, weiteren Potenzialen und Einsatzbereichen der Anwendung
Risikoanalyse-Tool
Automatisierte Lieferanten – Risikoanalyse nach dem Lieferkettensorgfaltspflichtengesetz (LkSG)
AUSGANGSLAGE
- Inkrafttreten des Lieferkettensorgfaltspflichtengesetz (LkSG) im Januar 2023: Adressierung menschenrechtlicher und umweltbezogener Sorgfaltspflichten im eigenen Geschäftsbereich und der Lieferkette
- Mögliche indirekte Betroffenheit mittelständischer Unternehmen durch übertragene Sorgfaltspflichten ihrer Kunden
- Große Herausforderung und Arbeitsaufwand für den Mittelstand gesetzliche Forderungen umzusetzen
- Risikoanalyse bildet die Basis der gesetzlichen Anforderungen
LÖSUNGSANSATZ
- Mit Hilfe des Tools wird automatisiert eine Risikoanalyse nach Vorgaben des LkSG für Lieferanten erstellt
- Dabei werden unternehmensspezifische Daten wie Zertifizierungen des Lieferanten oder das Einkaufsvolumen miteinbezogen
- In einer Weltkarte sind die potentiellen Umwelt- und Menschrechtsrisiken der Lieferanten veranschaulicht
- Die Risikoverteilung der Lieferanten wird anschließend übersichtlich dargestellt
POTENZIAL & ANWENDUNGSBEREICHE
- Einfache Umsetzung der gesetzlichen Anforderungen des Lieferkettensorgfaltspflichtengesetzes
- Stärkung der eigenen Wettbewerbsfähigkeit und der Gewinnung von Neukunden
- Geeignet für den Bericht über einen Due Diligence Prozess im Rahmen der Corporate Sustainability Reporting Directive (CSRD)
- Geeignete Anwendung für das europäische Lieferkettensorgfaltspflichtengesetz (ab 2027)
Furhat
Konversation mit einem Social Robot
AUSGANGSLAGE
Aufgrund von immer größer werdenden Zeitdruck und mangelnden Arbeitskräfte ist Unterstützung dringend notwendig, um diesen Herausforderungen gerecht zu werden. In vielen Bereichen wie Behörden oder Museen fehlt es beispielsweise häufig an Arbeitskräften, um den hohen Andrang zu bewältigen und wiederkehrende Fragen effizient zu beantworten. Gleichzeitig sind Verkaufstrainings kostspielig und zeitaufwendig, während effektive Vorbereitung auf Bewerbungsgespräche ebenfalls immer wichtiger wird. Für all diese Herausforderungen gibt es jetzt eine Lösung aus dem Bereich der Robotik in Kombination mit Large Language Modells.
LÖSUNGSANSATZ
- Furhat ist ein Social Robot, welcher in der Lage ist mit einer neuartigen Projektionstechnologie menschliche Mimik zu imitieren
- Durch den Einsatz von sogenannten Large Language Modells ist es möglich mit dem Roboter eine Konversation über unterschiedlichste Themen in verschiedenen Sprachen zu führen
- In Verbindung mit einer Persona, welche an das Sprachmodell übergeben wird, lässt sich die Situation realitätsnah abbilden
- Auf diese Weise können viele dieser Aufgaben wie das Beantworten von Fragen, das Training von Verhandlungssituationen oder das Erlernen von Sprachen effizienter und jederzeit zugänglich gestaltet werden
- Furhat hilft dabei, die Arbeitslast zu reduzieren und gleichzeitig die Qualität der Dienstleistungen zu steigern
POTENZIAL & ANWENDUNGSBEREICHE
- Training von Verkaufsgesprächen oder Bewerbungsgesprächen
- Vermittlung von Informationen für Touristen in einem Fremdenverkehrsbüro oder in Museen (Beispielsweise auch mit einer bestimmten Persona, welcher zu der Geschichte des Ortes passt)
- Vorbereitung auf mündliche Prüfungen und Üben von Fremdsprachen
- Erste Auskunft auf Behörden oder in Krankenhäusern (Wegbeschreibung, einfache Fragen zu Formularen)
YOLO - You Only Look Once
Echtzeit-Objekterkennung in Computer Vision
AUSGANGSLAGE
Fortschritte in der KI, insbesondere im Bereich der Deep-Learning-Algorithmen, sowie die Zunahme an verfügbaren Bild- und Videodaten haben es ermöglicht, visuelle Daten automatisch und effizient zu analysieren. Das Ziel von Computer Vision ist es, Maschinen und Computern zu ermöglichen, Bilder und Videos zu "verstehen" und bedeutungsvolle Informationen daraus zu extrahieren, ähnlich wie es Menschen tun. In Branchen wie der Industrie, dem Gesundheitswesen, der Automobilbranche und im Handel besteht ein wachsender Bedarf an automatisierten Systemen zur Bilderkennung und Analyse, um Prozesse zu optimieren, Sicherheit zu gewährleisten und menschliche Fehler zu minimieren. Gleichzeitig schaffen hochauflösende Sensoren und Kameras die technologische Grundlage, um detaillierte und genaue Daten zu erfassen, die für die Modellierung und Analyse durch Computer Vision benötigt werden.
LÖSUNGSANSATZ
Der YOLO (You Only Look Once)-Model ist ein leistungsstarker Ansatz zur Objekterkennung in Computer Vision. Er wurde erstmals im Jahr 2015 vorgestellt und hat sich seither zu einer der populärsten Methoden für die Echtzeit-Objekterkennung entwickelt.
- YOLO11: Die aktuellste Version der Modellreihe verfügt insgesamt über 25 Modelle für verschiedene Computer Vision Aufgaben und erweisen sich als schneller und effizienter als die Vorgängerversion.
- Funktionsweise: Grob gesagt führ das Yolo modell eine Objekterkennung durch, indem es ein Bild in ein festgelegtes Raster aufteilt und jede Zelle für die Vorhersage von Bounding Boxen sowie deren Klassenzugehörigkeit verantwortlich macht. Es verarbeitet das gesamte Bild in einem einzigen Durchlauf, wodurch es in der Lage ist, Objekte schnell und effizient zu erkennen, ohne separate Regionen analysieren zu müssen.
POTENZIAL & ANWENDUNGSBEREICHE
YOLO11 ist auf Schnelligkeit, Genauigkeit und Benutzerfreundlichkeit ausgelegt und eignet sich daher hervorragend für eine Vielzahl von Aufgaben in den Bereichen Objekterkennung und -verfolgung, Instance Segmentation, Bildklassifizierung und Pose Estimation.
- Objekterkennung: Erkennung unterschiedlicher Objekte in Echtzeit auf Bildern und Videos.
- Instance Segmentation: Ermöglicht, zwischen sich überlappenden Objekten zu unterscheiden und präzise Umrisse ihrer Formen zu liefern.
- Bildklassifizierung: Extraktion relevanter Merkmale auf Bildern oder Videos für die Zuordnung in eine oder mehrere vordefinierte Kategorien.
- Pose Estimation: YOLO11 führt eine Posenschätzung durch, indem es Schlüsselpunkte auf einem Objekt erkennt und vorhersagt, wie z. B. Gelenke in einem menschlichen Körper. Die Schlüsselpunkte werden miteinander verbunden, um die Skelettstruktur zu bilden, die die Pose darstellt.
Mögliche Anwendungsbereiche liegen in der Überwachung von Objekten, der Objekterkennung zur Navigation und Vermeidung von Kollisionen, Unterstützung bei medizinischen Diagnosen durch Erkennung von Anomalien oder im Einzelhandel zur Analyse des Kundenverhaltens.
Leo Rover
Autonomer mobiler Manipulationsroboter
AUSGANGSLAGE
Eine Vielzahl von Unternehmen sieht sich mit Schwierigkeiten bei der Rekrutierung von Arbeitskräften konfrontiert, wobei insbesondere der Lagerbereich und die Produktionshalle betroffen sind. Die Automatisierung von Transportsystemen erlaubt eine Umverteilung der verfügbaren Arbeitskräfte auf andere Aufgabenbereiche.
LÖSUNGSANSATZ
Der Leo Rover stellt einen mobilen Roboter dar, dessen Funktionsweise auf ROS Noetic (Robot Operating System) basiert. Der Rover ist mit einer Kamera, einem LiDAR-Sensor, einer 3D-Kamera sowie einem IMU-Sensor ausgestattet. Als Hauptsteuerungseinheit wurde ein Raspberry Pi 4 eingebaut, wodurch eine lokale Verarbeitung der Daten ermöglicht wird. Der Leo ist in der Lage, autonom oder semi-autonom eine Karte seiner Umgebung zu erstellen, welche anschließend für das vollständig autonome Fahren genutzt werden kann.
POTENZIAL & ANWENDUNGSBEREICHE
Die hinter dem "Leo Rover" stehende Technik lässt sich in verschiedene Anwendungsbereiche unterteilen.
Die Anwendungsbereiche umfassen:
- SLAM und Navigation
- Objektdetektion
- Reinforcement Learning
- Task Planning
- Schwarmintelligenz
Verlässlichere KI auf den Straßen
Augmentierungs-Framework und Uncertainty Wrapper
AUSGANGSLAGE
Vorhersagen von KI und Machine Learning Modellen sind nicht immer fehlerfrei, und die Modelle können manchmal fehlerhafte Vorhersagen treffen, ohne dass unmittelbar ersichtlich ist, warum dies der Fall ist. Diese Unsicherheit darüber, ob Vorhersagen richtig oder falsch sind, kann je nach Einsatzbereich schwerwiegende Folgen haben. Vor allem im Straßenverkehr wird hierzu immer wieder kontrovers diskutiert.
LÖSUNGSANSATZ
- Augmentierungs-Framwork:
- Erweiterung der Trainingsdaten mit Hilfe von realistischen Simulationen von Umweltbedingungen
- Verbesserte Robustheit und Genauigkeit der Modelle und effektives Training für anspruchsvolle Einsatzszenarien
- Uncertainty Wrapper
- Modellagnostische Quantifizierung von Unsicherheiten in den Modellausgaben
- Berechnung der Wahrscheinlichkeit, wie sicher oder unsicher die Vorhersage des Modells ist
POTENZIAL & ANWENDUNGSBEREICHE
- Schaffung einer transparenten Entscheidungsgrundlage durch die Ergänzung von Unsicherheitsbewertungen
- Entscheidungen der Modelle, insbesondere in Bildklassifikatoren, können klarer und nachvollziehbarer gemacht werden
- Anwendungsbereiche, z.B.:
- Verkehrszeichenerkennung
- Fußgängerdetektion
- Zellklassifizierung mittels Durchflusszytometriedaten
Future KMU
Energieeffizienzsteigerungen durch künstliche Intelligenz (KI) und das Internet der Dinge (IoT)
AUSGANGSLAGE
Die aktuelle Lage der Digitalisierung ist in vielen kleinen und mittleren Unternehmen (KMU) lediglich als befriedigend zu werten. Dies liegt u.a. an folgenden Punkten:
- Daten werden dezentral auf verschiedenen Computern, Geräten und lokal auf Maschinen gespeichert
- Unterschiedliche Programmiersprachen und keine nahtlose Kommunikation möglich
- Fehlende Standards und unzureichende Infrastruktur
- Unzureichende Datenqualität und fehlendes Know-How zur Verwertung der Daten.
LÖSUNGSANSATZ
Das Internet der Dinge (englisch: Internet of Things -IoT) verbindet die physische Welt mit der digitalen Welt. Es besteht aus einem digitalen Netzwerk aus physischen Objekten, wie zum Beispiel stationären und mobilen Geräten, Sensoren, Aktoren, Rechnern, Wearables, Fahrzeugen, Maschinen, Produktionsanlagen und vieles mehr – also aus allerlei Dingen. Die Dinge sind entweder über Kabel oder drahtlose Verbindungen mit dem Internet verbunden, wodurch sie Daten sammeln und über das Internet austauschen und kommunizieren können. Auf Internetplattformen werden die Daten gespeichert, mittels Software, oder künstlicher Intelligenz (KI) analysiert und zur Ausführung von Aktionen verwendet, um Effizienzsteigerung, Kostensenkung und Nachhaltigkeit zu erreichen.
POTENZIAL & ANWENDUNGSBEREICHE
- Energiebedarfsprognosen: Lastmanagement, Netzstabilität, Produktionsplanung, Energiehandel, Elektromobilität, Erneuerbare Energien
- Energieerzeugungsprognosen: Kraftwerksmanagement und erneuerbare Energien, Energiespeicher, Eigenverbrauchsoptimierung
- Nutzungsabhängige Wartung und Laufzeitvorhersagen: Industrie, Logistik, Produktion
- Zielgerichtete Dimensionierung von Energiesystemkomponenten: Produktionsanlagen, Heiz- und Kühlsysteme, Speichersysteme
- Energiekostenoptimierung: Maximierung der Effizienz, Reduzierung der Betriebskosten, Erreichung von NachhaltigkeitszielenEffizienz
Juristische Fallanalyse
Komplexe Sachverhalte mit Hilfe von Sprachmodellen auswerten
AUSGANGSLAGE
Juristen sehen sich im Arbeitsalltag verschiedenen Herausforderungen gegenüber. Insbesondere die Komplexität und der Umfang der Daten, die für juristische Sachverhalte geprüft werden müssen, macht eine Recherche und Fallbearbeitung zeitaufwendig. Rechtliche Fragestellungen erfordern präzise Analysen und gründliche Recherchen. Fehler oder Auslassungen können erhebliche rechtliche und finanzielle Konsequenzen haben. Darüber steht oft ein großer Zeitdruck, sei es bei der Vorbereitung von Gerichtsverfahren, der Erstellung von Verträgen oder der Bearbeitung dringender Mandantenanfragen.
Sprachmodelle bieten vielfältige Potenziale Routineaufgaben zu beschleunigen und so wertvolle Zeit zu sparen.
LÖSUNGSANSATZ
- Es handelt sich hierbei um einen Prototyp für die Fallanalyse, dessen Fokus auf der juristischen Informationsextraktion aus Textdokumenten liegt. Die Informationsextraktion ermöglicht die kompakte Darstellung der Beteiligten, Gegenstände und Orte, deren Beziehungen zueinander sowie den chronologischen Ablauf.
- GPT-4 wird verwendet, um Referenzfälle zu bereits vorhandener Rechtsprechung sowie relevante Gesetze vorzuschlagen.
- Basierend auf den gesammelten Informationen wird eine Fallanalyse erstellt, die eine Einschätzung der Erfolgsaussichten einer Klage gibt.
POTENZIAL & ANWENDUNGSBEREICHE
- Sprachmodelle sind fähig, große Mengen an Daten schnell zu analysieren sowie relevante Informationen zu extrahieren, was zu einer Einsparung von Zeit und Aufwand führt.
- Darüber hinaus unterstützen sie in der Recherche, indem sie relevante Gesetze, Urteile und juristische Dokumente finden, die für einen Fall relevant sein können.
- Durch die Automatisierung von Routineaufgaben können Kosten gesenkt sowie die Effizienz von Mitarbeitern gesteigert werden.
AI Usecase Analyse
KI Lösungen sammeln und bewerten
AUSGANGSLAGE
Unternehmen stehen vor der Herausforderung, geeignete KI-Lösungen zu identifizieren und priorisiert umzusetzen. Ideen für KI-Anwendungen entstehen häufig in verschiedenen Abteilungen oder Teams, doch oft fehlt es an einer strukturierten Methode, um diese Ideen zu bewerten. Es besteht ein deutlicher Bedarf nach einer transparenten und objektiven Bewertungsmethode, die es ermöglicht, KI-Projekte basierend auf ihrem geschätzten Wert und Implementierungsaufwand systematisch zu analysieren und zu priorisieren. Eine solche Methode könnte helfen, Ressourcen effizienter einzusetzen und diejenigen Projekte zu priorisieren, die den größten geschäftlichen Nutzen versprechen. Zudem könnte sie die Zusammenarbeit zwischen verschiedenen Abteilungen verbessern, indem sie einen klaren Rahmen für die Bewertung und Auswahl von KI-Ideen bietet.
LÖSUNGSANSATZ
- Nutzer können Ideen für potenzielle KI-Lösungen in einer zentralen Plattform einreichen
- Jede Idee wird von mehreren Nutzern anhand vordefinierter Kriterien bewertet (z.B. Risiken, Implemetierungsaufwand, benötigtes Know how, Stundenerspranis)
- Die Bewertungskriterien werden über ein Punktesystem ausgedrückt, woraus sich der potenzielle Nutze und der benötigte Aufwand in numerischen Werten darstellen lässt
- Dieser Score wird in einer Matrix dargestellt, die die "low hanging fruits" (niedrig hängende Früchte) identifiziert – also diejenigen Ideen, die hohe Werte bei relativ niedrigem Implementierungsaufwand haben
POTENZIAL & ANWENDUNGSBEREICHE
- Einsatz in Unternehmen aller Größen zur systematischen Bewertung und Priorisierung von KI-Projekten
- Verbesserung der Zusammenarbeit zwischen verschiedenen Abteilungen durch transparente Bewertung und Priorisierung von Ideen
- Unterstützung bei der strategischen Planung und Allokation von Ressourcen für KI-Initiativen
- Langfristige Planung von KI-Entwicklungsstrategien durch kontinuierliches Sammeln und Evaluieren von Ideen
- Optimierung der Ressourcenallokation durch Fokussierung auf Projekte mit dem höchsten erwarteten Nutzen bei angemessenem Aufwand
Excel Code Interpreter
Chatten mit der Exceltabelle
AUSGANGSLAGE
Die Komplexität und Vielfalt der Daten in Exceltabellen erschweren oft eine effiziente Analyse, insbesondere wenn es darum geht, Muster zu erkennen oder Trends zu identifizieren. Die manuelle Verarbeitung kann zu Inkonsistenzen und ungenauen Ergebnissen führen, was die Zuverlässigkeit der Analysen beeinträchtigen kann. Zudem können Excel-Nutzer aufgrund begrenzter Funktionen und fehlender Automatisierungsmöglichkeiten bei der Datenvisualisierung an ihre Grenzen stoßen. Dies kann zu Verzögerungen bei der Entscheidungsfindung und der Umsetzung von Erkenntnissen aus den Daten führen.
LÖSUNGSANSATZ
- Automatisches Laden der Daten mit Pandas in Python
- Nutzung eines Chat-Interfaces zur Stellung von Fragen zur Datenanalyse
- Integration von Pandas für Datenmanipulation und -auswertung
- Generierung von Tabellen und Grafiken zur Beantwortung der gestellten Fragen
- Einsatz von Large Language Modellen über Prompts: Ermöglicht Anfragen an die Exceltabelle
- Übersetzung von Anfragen in Python Code durch das Large Language Modell
- Anwendung des generierten Python Codes auf das Excel File zur Beantwortung unterschiedlicher Fragestellungen
POTENZIAL & ANWENDUNGSBEREICHE
- Business-Analyse: Schnelle Erstellung von Berichten und Dashboards aus Unternehmensdaten
- Finanzanalyse: Automatische Analyse von Finanzdaten und Erstellung von Prognosen
- Marktforschung: Auswertung von Umfragedaten und Erstellung von Marktanalysen
- Wissenschaftliche Forschung: Datenanalyse und Visualisierung in verschiedenen Forschungsdisziplinen wie Biologie, Psychologie, Physik
- Bildung: Verwendung in Lehr- und Lernumgebungen für Datenanalyseprojekte
- Gesundheitswesen: Analyse von Gesundheitsdaten für die medizinische Forschung oder betriebliche Effizienzanalysen
- Logistik und Supply Chain Management: Optimierung von Lieferketten und Lagerbeständen durch Datenanalyse
Jira Code Interpreter
Projektmanagement & Reporting durch SQL-Abfragen
AUSGANGSLAGE
In vielen Organisationen gibt es zahlreiche Aufgaben, die über verschiedene Systeme und Plattformen verteilt sind. Ohne eine zentrale Übersicht kann es zu Verzögerungen und ineffizienter Ressourcennutzung kommen. Dies führt zu Schwierigkeiten bei der Priorisierung und Nachverfolgung offener und in Bearbeitung befindlicher Aufgaben. Darüber hinaus sind Informationen oft in unterschiedlichen Abteilungen oder Tools isoliert, was die Zusammenarbeit erheblich erschwert. Dadurch entsteht ein erhöhter Aufwand für das Managen und Koordinieren von Aufgaben und Projekten.
LÖSUNGSANSATZ
- Mithilfe von SQL-Abfragen werden Aufgaben aus einer zentralen Datenbank extrahiert. Die Aufgaben werden nach ihrem Status (offen oder in Bearbeitung) gefiltert, um sich auf relevante Arbeiten zu konzentrieren.
- Eine Liste der offenen und in Bearbeitung befindlichen Aufgaben wird automatisch erstellt und formatiert.
- Eine klare und lesbare Übersicht wird bereitgestellt, die leicht kommuniziert werden kann.
- Es besteht die Möglichkeit, regelmäßig aktuelle Daten abzurufen und so stets auf dem neuesten Stand zu bleiben.
POTENZIAL & ANWENDUNGSBEREICHE
- Projektmanagement: Verfolgung von Aufgaben und Meilensteinen in verschiedenen Projekten zur besseren Planung
- Teamkoordination: Verbesserung der Zusammenarbeit und Kommunikation innerhalb von Teams
- Berichtswesen: Erstellung von Berichten über den Fortschritt und Status von Aufgaben für Management und Stakeholder
- Priorisierung von Aufgaben: Unterstützung bei der Priorisierung von Aufgaben basierend auf ihrem aktuellen Status und ihrer Dringlichkeit
- Support- und Service-Management: Überwachung von offenen Tickets und laufenden Serviceanfragen zur Verbesserung des Kundendienstes
COAI
Monitoring von Sprachmodellen
AUSGANGSLAGE
Der Einsatz von Sprachmodellen (LLM) stellt Unternehmen vor zahlreiche Entscheidungen. Welches LLM soll ausgewählt, für welche Aufgaben soll es eingesetzt und wie kann sichergestellt werden, dass der generierte Output den Anforderungen entspricht?
Da sie nicht-deterministisch sind, führen exakt gleiche Prompts zu verschiedenen Zeitpunkten i.d.R. zu unterschiedlichen Ausgaben. Darüber hinaus können LLM halluzinieren oder dazu gebracht werden, schädlichen Output zu generieren. Es gibt also viele Gründe, warum eine kontinuierliche Überwachung von LLM unabdingbar ist.
LÖSUNGSANSATZ
- Für die Entwicklung von LLM-basierten Applikationen und deren Einführung in Unternehmen bietet die Plattform COAI einen E2E-Ansatz für die Evaluierung, das Tracking und das Monitoring von Sprachmodellen.
- Verschiedene Sprachmodelle können in einem Playground direkt miteinander verglichen und evaluiert werden.
- Durch eine Protokollierung der Interaktionen mit und in einem LLM können Informationen über die Nutzung, Kosten, Latenz, Fehlerraten, Akzeptanz gesammelt werden. Darüber hinaus dient die Sammlung von Input/Output Daten zu Generierung von Evaluationsdatensätzen oder Finetuningdatensätzen .
POTENZIAL & ANWENDUNGSBEREICHE
- Funktionstests mit verschiedenen Sprachmodellen durchführen und das geeignete Modell für den entsprechenden Use Case auswählen.
- Automatisierte Erstellung von Evaluierungsdatensätzen zur Analyse des Models auf Prägnanz, Relevanz, Kohärenz, Schädlichkeit, Bösartigkeit, Hilfsbereitschaft, Kontroversität, Diskriminierung, Kriminalität sowie Gefühllosigkeit.
- Automatisierte produktive Überwachung sowie Verhinderung von Concept sowie User Drifts.
AI Town
Sprachmodelle als autonome Agenten in einer virtuellen Umgebung
AUSGANGSLAGE
LLMs demonstrieren faszinierende Fähigkeiten im Bereich des Sprachverständnisses, der Sprachgenerierung und der Interaktion. Sie sind in der Lage, komplexe, mehrstufige Probleme unter Einbeziehung verschiedener Informationsquellen und Tools zu lösen. Es wird angenommen, dass LLMs als Kontrolleinheit eingesetzt werden können, um KI-Modelle zu steuern (u.a. Shen et al. 2023). In einem Paper entwickeln Forscher (Park 2023 et al.) eine virtuelle Welt, in der Sprachmodelle als generative Agenten auftreten, die mit verschiedenen Charakteren ihren eigenen Motiven folgen und Entscheidungen treffen. Ziel ist es zu erforschen, ob LLMs als autonome Agenten eingesetzt werden können, die Anweisungen in natürlicher Sprache entgegennehmen und selbstständig Aufgaben in der Umgebung, ggfs. unter Einbeziehung weiterer Modelle, ausführen.
LÖSUNGSANSATZ
- Als Ausganspunkt wird das Open Source Projekt “AI Town“ von a16z-infra verwendet. Dieses stellt ein Toolkit dar, mit dem eine virtuelle Umgebung erschaffen werden kann, in der sich mit Hilfe eines LLMs generative Agenten erschaffen lassen denen Charaktereigenschaften und Ziele zugewiesen werden können. Das Projekt erlaubt vielfältige Anpassungen der Simulation, u.a. lässt sich die virtuelle Umgebung ändern (z.B. in eine Produktionsumgebung), weitere KI-Modelle wie ein anderes LLM lässt sich integrieren sowie verschiedene Sprachen ergänzen.
- Alle Interaktionen und Konversationen der generativen Agenten können in Echtzeit getrackt werden. Darüber hinaus werden sie in einer zugehörigen Datenbank abgelegt.
POTENZIAL & ANWENDUNGSBEREICHE
- Erkenntnisse erlangen über die Einsatzfähigkeit von LLMs als autonome Agenten
- Simulation zwischenmenschlicher Kommunikation, bspw. Einsatz in der Ideengenerierung, Problembetrachtung, Lösungsfindung
- Prototyping