Kai Fedin – laizee.ai

Wie KI Barrierefreiheit fördern kann

Kai Fedin — Mon, 24 Jun 2024 08:28:07 +0000

Dieser Blog beschreibt, wie Künstliche Intelligenz Barrieren verringern und einen positiven Einfluss auf das Leben von Menschen mit Behinderung haben kann. Zunächst wird erklärt, was Barrierefreiheit bedeutet und wie sie Menschen mit Beeinträchtigungen betrifft. Anschließend werden verschiedene KI-Anwendungen vorgestellt und klassifiziert, die Menschen mit Behinderungen unterstützen – von Text-zu-Sprache-Technologien über Screenreader bis hin zu Bild- und Objekterkennung. Der Blog beleuchtet auch die Herausforderungen und Probleme, die bei der Nutzung von KI im Kontext der Barrierefreiheit auftreten können.

Einleitung

Themen rund um Künstliche Intelligenz sind aktuell sehr im Trend. Ein großes Versprechen von KI ist es, einen positiven Einfluss auf das Leben von Menschen zu haben. Besonders für Menschen mit Behinderungen und Beeinträchtigungen können KI-Technologien und Anwendungen den Alltag enorm erleichtern und deren Teilhabe am gesellschaftlichen Leben verbessern.

Abb. 1

In Deutschland leben etwa 10,4 Millionen Menschen mit einer anerkannten Behinderung, das entspricht etwa 12,6 Prozent der Bevölkerung. Die Form, in der sich die Behinderungen bemerkbar machen, können sehr unterschiedlich sein.
Man unterscheidet zwischen sichtbare und unsichtbare Behinderung. Während manche Menschen auf Rollstühle oder Gehhilfen angewiesen sind, haben andere Einschränkungen, die von außen nicht sofort erkennbar sind, wie chronische Schmerzen, psychische Erkrankungen oder kognitive Beeinträchtigungen.

Viele Menschen haben ein falsches Bild davon, wie Menschen mit Beeinträchtigungen ihren Alltag bewältigen. Häufig wird angenommen, dass sie weitgehend isoliert leben und nicht am gesellschaftlichen Leben teilnehmen. In der Realität leben viele Menschen mit Behinderung komplett selbständig. Unterschiedliche Tools ermöglichen, dass es zum Beispiel eine Vielzahl von blinden Softwareentwickler*innen gibt. Allerdings gibt es für Menschen mit Beeinträchtigungen enorm vielen Barrieren, die ihre Teilnahme am gesellschaftlichen Leben erschweren und sie teilweise sogar ausschließt.

Abb. 2

Bedeutung von Barrierefreiheit

Barrierefreiheit bedeutet, dass Menschen mit unterschiedlichen Fähigkeiten gleichberechtigten Zugang zu allen Bereichen des Lebens haben. Dies umfasst nicht nur physische Umgebungen, wie Gebäude und öffentliche Verkehrsmittel, sondern auch digitale Inhalte und Dienstleistungen. Gemäß der Charta der Grundrechte der Europäischen Union stellt Barrierefreiheit für Menschen mit Behinderungen ein fundamentales Recht dar (Artikel 21 und 26).

Abb. 3

Ziel von Barrierefreiheit ist es also, Hindernisse zu beseitigen, die Menschen daran hindern, vollständig und selbständig am gesellschaftlichen Leben teilzunehmen.

Dabei ist es wichtig zu beachten, dass Barrierefreiheit nicht nur Menschen hilft, die eine Behinderung haben. Barrierefreiheit nutzt allen Menschen leichter den Alltag zu navigieren.

Automatische Türen erleichtern das Betreten von Gebäuden für alle, nicht nur Rollstuhlfahrer*innen.
Texte von Behörden in „Einfacher Sprache“ sind für alle angenehmer zu lesen.
Untertitel in Videos sind nicht nur für Gehörlose nützlich, sondern auch für Menschen, die in lauten Umgebungen oder in der Stille Videos schauen möchten.

KI-Tools und Systeme

KI-Tools und Systeme lassen sich in verschiedene Kategorien einteilen, die jeweils spezifische Bedürfnisse adressieren.

Text-zu-Sprache und Sprache-zu-Text

Diese KI-Tools sind besonders hilfreich für Menschen mit Sehbehinderungen, Schwerhörigkeit oder motorischen Einschränkungen. Sie ermöglichen es, Texte in gesprochene Sprache umzuwandeln und umgekehrt.

Google Text-to-Speech
Ermöglicht es, digitale Texte in gesprochene Sprache umzuwandeln, was sehbehinderten Menschen das Lesen erleichtert.

Whisper von OpenAI
Ein System zur Generierung von Untertiteln und Transkriptionen, das besonders für Menschen hilfreich ist, die nicht hören können.

Abb. 4

Dragon NaturallySpeaking
Eine Sprach-zu-Text-Software, die Menschen mit motorischen Einschränkungen hilft, Texte durch Sprachbefehle zu erstellen.

Screenreader

Ein Screenreader ist unerlässlich, für blinde und sehbehinderte Personen, um digitale Inhalte zu nutzen. Benutzer navigieren durch spezielle Tastenkombinationen, oder Gesten, während der Screenreader den Inhalt vorliest und Anpassungen wie Stimmauswahl und Sprechgeschwindigkeit ermöglicht.

JAWS (Job Access With Speech)
Einer der bekanntesten Screenreader für Computer, welcher insbesondere auch für den Arbeitskontext geeignet ist.

NVDA (NonVisual Desktop Access)
Ein kostenloser Screenreader, der ebenfalls weit verbreitet ist und viele Funktionen bietet.

VoiceOver & TalkBack
Sind jeweils die integrierten Screenreader in den Geräten von Apple und Android

Abb. 5

Bild- und Objekterkennung

Dank des Fortschritts in der Bild- und Objekterkennungstechnologie gibt es enorm hilfreiche Apps, um visuelle Informationen für sehbehinderte Menschen zugänglich zu machen. Diese Systeme können per Kamera Objekte, Texte und Bilder im realen Leben erkennen und beschreiben, was sehbehinderten Personen eine verbesserte Orientierung und Interaktion in ihrer Umgebung ermöglicht.

Seeing AI von Microsoft
Mittels Kamera kann auf Objekte/Personen gezeigt werden. SeeingAI erkennt automatisch Objekte, identifiziert Gesichter, gibt Informationen was sich in der Nähe von dem User befindet, liest diese vor und kann weitere Informationen und Kontext liefern..

Abb. 6

iOS Lupe-App
Mit der Apple Lupe-App lassen, sich einfach Texte vorlesen, indem mit der Kamera auf analoge Texte gezeigt wird.

Chatbots und virtuelle Assistenten

Virtuelle Assistenten und Chatbots vereinfachen die Interaktion mit digitalen Systemen und ermöglichen einen sehr einfachen Zugang zu Informationen. Statt langen Suchanfragen und Recherchen auf nicht barrierefreien Webseiten kann man Virtuelle Assistenten einfach fragen wie das Wetter wird oder man kann Large Language Models wie ChatGPT um ein Kochrezept bitten.

Alexa von Amazon
Kann mit Sprachbefehlen gesteuert werden und bietet eine Vielzahl von Funktionen, von der Steuerung von Smart-Home-Geräten bis hin zur Beantwortung von Fragen.

ChatGPT
Neben Suchanfragen, können KI-Chatbots Texte zusammenfassen, Informationen bereitstellen oder Texte generieren. Mit multimodalen System wie GPT4o können zudem Texte und Bilder zusammen verarbeiten werden. Damit lassen sich auch direkt Fragen zu Bildern stellen.

AutoVoice
Mit dem Sprachassistenz-System von Google lassen sich einfach Makros erstellen und damit regelmäßig auftauchende Abläufe leicht automatisieren. Zum Beispiel kann ein Makro erstellt werden, um per Sprachbefehl den Navigationsmodus auf dem Smartphone zu starten, die gewünschte Zieladresse einzugeben und dann automatisiert die Route zu starten.

Assistive Technologien für den Bildungsbereich

Im Bildungsbereich können Systeme, die eine Vielzahl von unterschiedlichen Features beinhalten, Schüler und Studenten mit Lernschwierigkeiten oder Behinderungen, beim Lernen unterstützen.

Kurzweil 3000
Eine Software, die Text-zu-Sprache, Sprach-zu-Text, Wortvorhersage, Farbmarkierungen beim Vorlesen und andere Funktionen anbietet, um das Lernen zu erleichtern.

Grammarly
Ein KI-gestütztes Tool, das Rechtschreibung und Grammatik überprüft und Verbesserungsvorschläge macht, was besonders hilfreich für Menschen mit Legasthenie ist.

Abb. 7

Sprachvereinfachung

Tools zur Sprachvereinfachung helfen, komplexe Texte in leichter verständliche Sprache umzuwandeln, was besonders hilfreich für Menschen mit kognitiven Beeinträchtigungen oder Sprachbarrieren.

ChatGPT
Mit ChatGPT lassen sich komplizierte Texte in einfacher Sprache zusammenfassen

Redaktionstool für Einfache/Leichte Sprache
Unser Redaktionstool ist dafür ausgelegt auch lange Texte in Einfache und Leichte Sprache zu übersetzten. Das Tool dient Behörden und Übersetzungsbüros zur Unterstützung Dokumente und Websiten barrierefrei in Leichter Sprache zur Verfügung zu stellen. Dabei nutzt der Übersetzer die Regeln, welche es für Leichte Sprache gibt.

Erfahre mehr

Interaktionshilfen

Interaktionshilfen unterstützen Menschen, die aufgrund von motorischen Einschränkungen Schwierigkeiten haben, herkömmliche Eingabemethoden wie Maus, Tastatur oder Touchscreens zu nutzen.

Jouse3
Mit Hilfe sogenannter Sip-and-Puff-Systemen können Benutzer*innen Computer und digitale Geräte mit dem Mund steuern. Die Maus wird per Joystick mit dem Mund bewegt und Links/Rechtsklicks werden über Ein- und Ausatmen durch einen angebrachten Schlauch durchgeführt.

EyeOn Elite
Der Eyetracker von eyetech ermöglicht freihändig mit dem Computer zu interagieren. Es erfasst die Bewegungen der Augen und übersetzt diese in Mausbewegungen und Klicks.

Probleme und Risiken

Halluzinationen bei KI-Systemen

Im KI-Kontext versteht man unter Halluzinationen, wenn eine Künstliche Intelligenz falsche Informationen generiert. Ein Beispiel für eine Halluzination in KI-Systemen ist, wenn eine Anwendung zur Bilderkennung das gesamte Bild oder einzelne Objekte in dem Bild falsch erkennt. Gerade für blinde Personen können diese Fehler sehr problematisch sein. Ein weiteres Beispiel ist die Veränderung von wichtigen Daten oder Zahlen durch die KI.

Fehlerhafte Sprachausgabe

Traditionell wurde bei der Sprachausgabe Sprachschnipsel erstellt und dann zu einem kohärenten Audio zusammen gefügt. Zunehmend wird das Vorgehen jedoch durch einen generativen Ansatz ersetzt. Hier wird Sprache von Grund auf erzeugt, was jedoch zu Problemen führen kann. Beispielsweise können Zahlen falsch wiedergegeben oder ganze Wörter verschluckt werden. Solche Verfälschungen können schwerwiegende Missverständnisse verursachen, insbesondere für Menschen, die auf genaue Informationen angewiesen sind.

Erstellung von Alt-Texten

Alt-Texte sind kurze Beschreibungen von Bildern, welche auf der Website hinterlegt und von Screenreadern vorgelesen werden.
Alt-Texte können auch von KI-System erstellt werden. Da den Systemen bei der Erstellung der Kontext fehlt, liefern KI-generierte Alt-Texte daher häufig nur grobe Beschreibungen und ignorieren wichtige Details, die für den Gesamtkontext entscheidend sind.
Die automatische Erstellung von Alt-Texten kann für den User hilfreich sein, wenn auf der Website keine Alt-Texte vorliegen, sollten vom Webseitenbetreiber jedoch nicht für die massenhafte Erstellung von Alt-Texten genutzt werden.

Vorurteile in Trainingsdaten

Künstliche Intelligenzen sind ein Abbild der Daten auf welchen sie trainiert worden sind. Aus dem Grund können können KI-Systeme Vorurteile (Bias) aus den Trainingsdaten übernehmen. Gerade Minderheiten wie zum Beispiel Menschen mit Behinderungen sind davon betroffen. So ein Bias kann also dazu führen, dass Minderheiten nicht richtig repräsentiert und von der KI benachteiligt werden.

Abb. 8

Kritik an Accessibility Overlays

Accessibility Overlays versprechen, mit einem Klick eine Website barrierefrei zu machen, was jedoch meistens nicht funktioniert. Screenreader geraten oft in Konflikt mit den Overlays, und bestehende Barrieren werden nur überdeckt, anstatt langfristig und nachhaltig behoben zu werden. Overlays können die Struktur von Seiten nicht ändern, sondern nur Kontrast, Schriftgrößen und kleine Fehler anpassen. Wichtige Punkte wie zum Beispiel: fehlende Überschriften, Alt-Texte oder Labels bei Formularen werden nicht angepasst.
Das sind jedoch wesentliche Punkte, die auf Webseiten sichergestellt sein müssen, um Menschen eine barrierefreie Experience zu liefern

Ausblick

Den Sprung, den die Entwicklung von Künstliche Intelligenz in den letzten 2 Jahren, insbesondere im Bereich Text und Sprache, gemacht hat, ist enorm!

Systeme wie Siri, Alexa & Co. welche die versprochenen Erwartungen in den letzten Jahren enttäuscht haben, könnten durch die Verbesserung von Voice to Text und den Fähigkeiten von Large Language Models eine Renaissance erfahren. Das zeigt zum Beispiel die angekündigte Integration von ChatGPT in Siri.
Auch die Entwicklung von multimodalen KIs lässt viel versprechen. Was schon möglich ist, zeigt die Microsoft App VisionAI und das neue GPT4o Modell von OpenAI.

multimodal [von latein. multus = viel, modalis = die Art und Weise bezeichnend] Zahlreiche Sinnesorgane unterschiedlicher Modalität betreffend, z.B. die integrative Verarbeitung von Informationen aus verschiedenen Sinnesorganen im Zentralnervensystem.

Multimodale KIs erweitern also die Art und Weise, wie mit KI-Systemen kommuniziert werden kann. Sowohl welcher Eingaben erlaubt sind (Text, Bilder, Videos, Ton), also auch welche Ausgaben generiert werden können. Diese Erweiterung ist, was die Barrierefreiheit angeht, absolut entscheidend. Sie ermöglicht Menschen, deren Sinne oder motorische Fähigkeiten beeinträchtigt sind, alternative Möglichkeiten, mit der Umwelt zu interagieren, sich Informationen oder Unterstützung zu beschaffen.

Allein die Kombination dieser unterschiedlichen Technologien birgt enormes Potenzial. Zudem werden immer mehr Anwendungen, welche KI-Modelle nutzen, für unterschiedlichste Use-Cases zum Abbau von Barrieren entwickelt. Systeme werden personalisierter und damit fähiger, sich auf die individuellen Bedürfnisse des Users einzustellen und dazuzulernen.

Alle diese Tools sind hilfreich, um Menschen ein selbstbestimmteres Leben zu ermöglichen und ihre Autonomie zu fördern und für viele Menschen ein fester und nicht wegzudenkender Bestandteil im Alltag und auf der Arbeit. Jedoch darf diese Entwicklung keine Ausrede, seine grundlegende Arbeit an Barrierefreiheit zu vernachlässigen und Barrieren strukturell abzubauen.

Assistenz ist keine Alternative für Barrierefreiheit

Assistenzsysteme können ausfallen
KI-Systeme sind nicht rechenschaftspflichtig
Tools & Anwendungen können Fehler aufweisen.

Insbesondere der Staat und Behörden tragen eine große Verantwortung Richtlinien aufzusetzen und sicherzustellen, dass ihre (digitalen) Angebote für alle Bürger zugänglich sind. Aber auch alle anderen Betreiber*innen von Webseiten und Anwendungen müssen sicherstellen, dass ihre Inhalte barrierefrei gestaltet. Nur so kann gewährleistet werden, dass alle Menschen, unabhängig von ihren individuellen Fähigkeiten, gleichberechtigten Zugang zu Informationen und Dienstleistungen haben und aktiv am gesellschaftlichen Leben teilnehmen können.

Aktion Mensch – Studie Barrieren im Alltag – Seite 4

Aktion Mensch – Studie Barrieren im Alltag – Seite 7

Aktion Mensch – Studie Barrieren im Alltag – Seite 5

Open AI – Whisper

Google Play Store – Android für Barrierefreiheit

Google Play Store – Seeing AI

Grammarly

Amazon Rekognition Performance on Gender Classification

Was ist Retrieval Augmented Generation (RAG) und wie funktioniert es?

Kai Fedin — Thu, 11 Apr 2024 09:58:54 +0000

Seit Ende 2022 gehören Sprachmodelle wie ChatGPT, Claude oder Gemini für viele Menschen zum Arbeitsalltag. Technisch gesehen besitzen diese Large Language Models (LLMs) jedoch kein Wissen im eigentlichen Sinn. Sie beruhen auf Next-Word-Prediction und sagen auf Grundlage der vorangegangenen Wörter „nur“ das nächste vorher. Durch die enormen Mengen an Trainingsdaten und Modellparametern erkennen und reproduzieren sie dabei komplexe sprachliche und inhaltliche Muster. Das hat Grenzen, vor allem bei sehr spezifischem oder hochaktuellem Wissen, auf das Anbieter wie OpenAI beim Training keinen Zugriff hatten.

RAG (Retrieval Augmented Generation) löst dieses Problem, indem es dem Sprachmodell vor jeder Antwort passende Informationen aus den eigenen Daten mitgibt, etwa aus Produktdokumentation, Handbüchern oder internen Richtlinien. So beruht die Antwort auf Unternehmenswissen und nicht nur auf allgemeinen Trainingsdaten. Dieser Artikel erklärt, wie ein RAG-System aufgebaut ist, welche Varianten es gibt, insbesondere Vector RAG und Graph RAG, und was über die Qualität entscheidet.

Wo Sprachmodelle im Unternehmen an Grenzen stoßen

Im Unternehmen zeigt sich schnell eine Grenze: Ein Sprachmodell kennt nur, womit es trainiert wurde. Das sind vor allem öffentlich verfügbare Texte, etwa aus Wikipedia, Nachrichten oder dem sogenannten CommonCrawl. Produktdaten, technische Dokumentation, interne Richtlinien oder Kundenhistorien eines Unternehmens sind darin nicht enthalten.

Fragt man ein Modell nach solchem Wissen, etwa nach der Kompatibilität zweier eigener Produkte, halluziniert es möglichkerweise. Erfindet es also eine Antwort, die plausibel klingt, aber falsch ist.

Hinzu kommt der Trainingsstichtag: Was danach veröffentlicht oder geändert wurde, kennt das Modell nicht. Es sei denn, es wird nachtrainiert oder bekommt das fehlende Wissen bei jeder Anfrage explizit mitgeliefert. Genau hier setzt RAG an.

Was ist RAG und wie funktioniert es?

RAG steht für Retrieval Augmented Generation. Auf Deutsch lässt es sich übersetzen als „um Abfragen erweiterte Generierung“. RAG ist ein Prozess zur Optimierung und Spezialisierung von LLM-Ausgaben. Im Wesentlichen geht es dabei darum, dass wir das implizit gelernte Wissen eines LLMs um anwendungsspezifische Informationen erweitern. Das LLM ist anschließend in der Lage, anwendungsspezifische Anfragen eines Users auf Grundlage seiner Wissenserweiterung korrekt zu beantworten.

Wie die Informationen abgerufen werden, legt der Begriff RAG nicht fest. Am weitesten verbreitet ist die Suche über eine Vektordatenbank, auch Vector RAG genannt, und an diesem Beispiel erklären wir den Aufbau im Folgenden. Seit 2024 setzt sich daneben Graph RAG durch, bei dem der Abruf über einen Wissensgraphen läuft. Beide Varianten stellen wir weiter unten im Überblick gegenüber.

In der einfachsten Form baut der RAG-Prozess auf drei Komponenten auf:

Einer Vektodatenbank, in der anwendungsspezifische Informationsblöcke gespeichert werden.
Einem Retrieval-System, welches die Vektordatenbank nach anfragerelevanten Informationen durchsucht.
Dem LLM, das userfreundliche Antworten aus den gefundenen Informationen generiert.

Das Rückgrat eines RAG-Systems bildet die Vektordatenbank, in welcher die Informationen, die zur Beantwortung von anwendungsspezifischen Anfragen benötigt werden, gespeichert sind. Um diese aufzubauen, werden im wesentlichen folgende sechs Schritte durchgeführt:

Sammlung von Dokumenten (z.B. PDF-Dokumente) mit anwendungsspezifischen Informationen und Daten.
Aufbereitung der Dokumente, also beispielsweise Konvertierung von PDF-Dokumenten in maschinenlesbaren Text.
Festlegung einer sogenannten Chunking Strategie, mithilfe derer die Dokumente in Informationsblöcke zerlegt werden.
Generierung der Informationsblöcke („Chunks“) auf Grundlage der zuvor festgelegten Strategie.
Überführung der Chunks in Zahlenreihen (Vektoren). Dieser Schritt wird auch als Embedding bezeichnet.
Speichern der überführten Chunks in der Vektordatenbank.

Wie funktioniert das Retrieval System?

Texte, also einzelne Wörter, Sätze oder ganze Informationsblöcke, werden in numerische Vektoren umgewandelt. Jeder Text wird so als Zahlenreihe dargestellt. Das Spannende an Vektoren ist, dass sich mit ihrer Hilfe semantische Ähnlichkeiten und Zusammenhänge zwischen Texten berechnen lassen. Da Vektoren sehr schnell verglichen werden können, lassen sich mit einem Retrieval-System inhaltlich ähnliche Dokumente auffinden.

RAG-Prozess

Der User schickt eine Anfrage an das System. Diese Anfrage wird mit demselben Verfahren aus Schritt 5 in einen Vektor umgewandelt.
Basierend auf dem Vektor der Anfrage wird in der Vektordatenbank nach relevanten Informationen gesucht.
Diese Daten werden dann abgerufen (retrieved) und nach unterschiedlichen Faktoren bewertet, geranked und die Top-Ergebnisse anschließend konsolidiert. Diese Daten und Dokumente stellen den Kontext dar, mit welchem die Anfrage des Users angereichert wird.
Die Anfrage sowie der zuvor ermittelte Kontext werden anschließend an das LLM übergeben. Dieses generiert mithilfe der zusätzlichen Informationen eine passende Antwort und spielt sie dem User abschließend zurück.

Übersicht der RAG Architektur und Prozess

RAG-Varianten: Vector RAG, Graph RAG und Kombination

Neben Vector RAG hat sich vor allem Graph RAG etabliert. Hier läuft der Abruf über einen Wissensgraphen, der Dinge wie Produkte, Bauteile oder Dokumente als Knoten und ihre Beziehungen als Kanten speichert, etwa „ist Variante von“ oder „passt zu“. In der Praxis können die beiden Ansätze auch kombiniert werden.

Variante	Wie gesucht wird	Stark bei	Typischer Einsatz
Vector RAG	Ähnlichkeit von Textabschnitten, oft ergänzt um Stichwortsuche	Faktenfragen in Dokumenten, unstrukturierte Texte, schneller Start	interner Wissensassistent für Handbücher und Richtlinien
Graph RAG	Beziehungen in einem Wissensgraphen	Varianten, Kompatibilitäten, Versionen, Fragen über mehrere Schritte	Produktberatung, Ersatzteile, technischer Service
Kombination	Graph für Zusammenhänge, Vektor- und Stichwortsuche für Textstellen und exakte Begriffe	gemischte Fragen aus Stammdaten und Dokumenten	Assistenten für Produktwissen in der Industrie

Der Vorteil zeigt sich bei Fragen, deren Antwort sich aus Zusammenhängen ergibt. Ein Beispiel aus dem Maschinenbau: „Welches Kabel passt zu Maschine B, Baujahr 2013?“ Im Graphen ist hinterlegt, welche Version von Maschine B zu diesem Baujahr gehört und welches Kabel zu dieser Version passt. Das System folgt diesen Beziehungen und nennt das passende Kabel, auch wenn diese Kombination in keinem einzelnen Dokument steht.

Daraus ergeben sich weitere Vorteile. Ein Graph kann alle Varianten eines Produkts vollständig aufzählen, Gültigkeiten wie Baujahre oder Versionsstände abbilden und gezielt nachfragen, wenn für eine eindeutige Antwort eine Angabe fehlt. Weil die Antwort einem nachvollziehbaren Pfad folgt, lässt sich prüfen, woher sie kommt.

Graph RAG ersetzt die Vektorsuche dabei nicht. Bei einfachen Faktenfragen, deren Antwort in einem einzelnen Textabschnitt steht, bringt der Graph laut Vergleichsstudien keinen Gewinn. Seine Stärken spielt er bei Fragen mit mehreren Schritten, Varianten oder zeitlichem Bezug aus.

Für viele Anwendungsfälle in der Industrie, etwa in der Produktberatung und im technischen Service, ist Graph RAG deshalb die Technologie hinter unserem Product Assistant. Dabei kombinieren wir den Graphen mit Vektor- und Stichwortsuche, um die Vorteile aller Ansätze zu nutzen: Der Graph liefert die Zusammenhänge, die Vektorsuche findet passende Textstellen, die Stichwortsuche exakte Begriffe wie Artikelnummern.

Was über die Qualität eines RAG-Systems entscheidet

Ob ein RAG-System gute Antworten liefert, entscheidet sich meist vor dem Sprachmodell. Findet die Suche die falschen Informationsblöcke, kann auch das beste LLM keine richtige Antwort formulieren. In der Praxis haben vor allem vier Stellschrauben großen Einfluss.

Die erste ist die Aufbereitung der Dokumente. PDFs mit Tabellen, Scans oder mehrspaltigem Layout sind der häufigste Engpass. Was beim Umwandeln in Text verloren geht, findet später keine Suche mehr.

Die zweite ist die Art der Suche. Die Vektorsuche findet inhaltlich Ähnliches, tut sich aber mit exakten Begriffen wie Artikelnummern oder Typbezeichnungen schwer. Deshalb wird sie häufig mit einer klassischen Stichwortsuche kombiniert. Ein zusätzliches Modell kann die Treffer danach noch einmal nach Relevanz sortieren, bevor sie an das LLM gehen (Reranking). Wie viel das ausmacht, zeigt ein Test von Anthropic: Mit angereicherten Informationsblöcken, kombinierter Suche und Reranking sank der Anteil nicht gefundener relevanter Blöcke von 5,7 auf 1,9 %. Der Test stammt vom Anbieter selbst und misst nur die Suche, nicht die fertige Antwort.

Die dritte ist die Menge an Kontext. Mehr ist nicht automatisch besser. Steht die entscheidende Information mitten in einem langen Kontext, übersehen Sprachmodelle sie häufiger als am Anfang oder Ende.

Die vierte sind Testfragen aus dem Alltag. Ohne eine Sammlung echter Fragen mit geprüften Antworten lässt sich die Qualität eines RAG-Systems nicht beurteilen. Viele Fehler zeigen sich erst im Betrieb, wenn Nutzer Fragen stellen, an die beim Aufbau niemand gedacht hat.

Vorteile und Herausforderungen von RAG

Vorteile

Schnelle Möglichkeit, LLMs um internes und domänenspezifisches Wissen zu erweitern
Günstiges initiales Setup
Unterstützt die dynamische Einbindung von Echtzeitdaten
Ermöglicht die Angabe und Nachvollziehbarkeit der Quellen
Benötigt keine gelabelten Daten
Zugriffsverwaltung von Quellen
Informationen lassen sich jederzeit löschen oder austauschen, ohne das Modell neu zu trainieren

Herausforderungen

„Search and Retrieval“-Prozess hat einen großen Einfluss auf die Outputqualität
Aufbau und dauerhafter Betrieb der Vektordatenbank verursachen laufende Kosten
Anzahl an Input-Tokens, die dem LLM übergeben werden, vergrößert sich durch den Kontext
Halluzinationen werden seltener, sind aber nicht ausgeschlossen

RAG vs. Fine-Tuning

Ein anderer Weg, ein Sprachmodell anzupassen, ist Fine-Tuning. Dabei wird ein vortrainiertes Modell mit eigenen Beispielen nachtrainiert. Fine-Tuning eignet sich vor allem, um Verhalten zu prägen: Tonalität, Ausgabeformat oder die zuverlässige Erledigung einer bestimmten Aufgabe. Wissen lässt sich so zwar ebenfalls vermitteln, aber deutlich weniger effizient. Jede inhaltliche Änderung erfordert ein neues Training, und die Antworten lassen sich nicht auf eine Quelle zurückführen. Bei offenen Modellen kann das Training auf eigener Infrastruktur laufen, bei kommerziellen Anbietern gehen die Trainingsdaten über deren Plattform.

In der Praxis schließen sich beide Ansätze nicht aus. Für Unternehmenswissen, das sich ändert und belegbar sein muss, ist RAG die erste Wahl. Fine-Tuning kann ergänzend sinnvoll sein, wenn ein Modell zusätzlich einen bestimmten Stil oder ein festes Format einhalten soll.

Use Cases

RAG eignet sich vor allem für Frage-Antwort-Systeme, bei denen eine klare und belegte Antwort erwartet wird. Die Antwort lässt sich mit den Quellen verknüpfen, die das Sprachmodell genutzt hat, sodass Nutzer sie nachprüfen können. Welche Variante passt, hängt davon ab, wie komplex die typischen Fragen sind.

Vector RAG ist stark bei einfachen Fragen, deren Antwort in einem Dokument steht. Ein typisches Beispiel ist der interne Wissensassistent: Mitarbeitende fragen, wie sie eine Dienstreise beantragen oder wo die Vorlage für Projektberichte liegt. Auch beim Onboarding neuer Kolleginnen und Kollegen oder als Zugang zu Lerninhalten reicht die Suche nach dem passenden Textabschnitt meist aus.

Graph RAG spielt seine Vorteile aus, sobald die Fragen komplexer werden. In der Produktberatung auf der Website oder in der App fragen Kunden etwa, welches Zubehör zu ihrem Modell passt oder welche Variante ihre Anforderungen erfüllt. Im technischen Service geht es um Ersatzteile für bestimmte Baujahre oder um Fehlerbilder, die mehrere Bauteile betreffen. Die Antwort ergibt sich hier aus Beziehungen zwischen Produkten, Versionen und Regeln. Weil der Graph diesen Beziehungen folgt, zieht er alle relevanten Informationen heran, statt nur die ähnlichsten Textstellen zu liefern. Gleiches gilt, wenn es um komplexe Richtlinien, Prozesse, Gesetze oder Normen geht. Hier hilft die Vernetzung des Wissens enorm bei der Suche und Ausgabe von Informationen.

Fazit

RAG ist eine Suche, die vor das Sprachmodell geschaltet wird. Die Qualität der Antworten entsteht vor allem in dieser Suche: in sauber aufbereiteten Dokumenten, in der Kombination von Vektor- und Stichwortsuche und in einer Sammlung echter Testfragen. Für einen internen Wissensassistenten, der einfache Fragen zu Handbüchern oder Richtlinien beantwortet, ist Standard-RAG oft der richtige Start. In der Produktberatung und im technischen Service reicht das häufig nicht. Kunden und Servicetechniker fragen nach Varianten, Kompatibilitäten, Ersatzteilen und Baujahren, und die Antwort ergibt sich dort aus Zusammenhängen zwischen Produkten. Für solche Fragen wird der Wissensgraph zum entscheidenden Baustein.

Fragen zu dem Aufbau von RAG-Systemen?

Kostenloses Erstgepräch vereinbaren

Unser Gründer Bodo Kraft gewinnt den Forschungspreis 2024

Kai Fedin — Tue, 02 Apr 2024 10:25:36 +0000

Am 14.03.2024 fand die Verleihung des Forschungspreises der FH Aachen statt. An dem Tag wurde unser Gründer, Prof. Dr. Bodo Kraft, mit dem renommierten Forschungspreis der FH Aachen ausgezeichnet.

Die Auszeichnung fand im Rahmen des Tages für Forschung, Innovation und Transfer (FIT) der Fachhochschule Aachen statt. Diese Auszeichnung würdigt nicht nur das Engagement und die Arbeit von Professor*innen und wissenschaftlichen Mitarbeitenden, sondern setzt auch Anreize für zukünftige praxisorientierte Forschung, und den Wissenstransfer in Praxis und Gesellschaft.

Den Forschungspreis haben Bodo Kraft und sein Team vom Institut für Datengetriebene Technologien (IDT) der Fachhochschule für das Projekt „Markttransparenz durch künstliche Intelligenz als Basis für die Wettbewerbsfähigkeit kleiner und mittelständischer Unternehmen“ erhalten. Der Fokus des Instituts liegt auf Themen rundum Natural Language Processing (NLP), einer Technologie, die es Computern ermöglicht, textbasierte Informationen zu verstehen, zu analysieren und zu klassifizieren.

Problemstellung

Die Analyse und Verarbeitung von Daten spielen eine entscheidende Rolle in der heutigen Wirtschaft, besonders für kleine und mittelständische Unternehmen (KMU). Häufig jedoch haben diese Unternehmen keinen Einfluss darauf, in welchem Format sie Preis- oder Produktinformationen erhalten. Die Produktpreisblätter variieren stark in ihrer Struktur und enthalten komplexe Informationen, was bisher eine individuelle Bearbeitung dieser erfordert hat. Dies kann zu Wettbewerbsnachteilen führen und beeinträchtigt oder verhindert sogar teilweise Markttransparenz. Diese Problemstellung ist Bodo Kraft mit seiner Arbeit angegangen.

Lösung

Im ersten Schritt der Lösung werden Preis- und Produktinformationen aus Dokumenten digitalisiert. Dies geschieht mit optischer Zeichenerkennung, auch OCR (Optical Character Recognition) genannt. Anschließend werden die Dokumente anhand ihres Formats klassifiziert. Abhängig von der ermittelten Dokumentklasse erfolgt im Anschluss die eigentliche Informationsextraktion. In Verarbeitungsketten werden dabei problemspezifische Lösungsbausteine dynamisch miteinander verbunden und ausgeführt. Das Ergebnis des Prozesses bilden automatisiert extrahierte Informationen, die ohne den Einsatz der entwickelten Software rein manuell erfasst werden müssen. Teile der Forschungsarbeit werden bereits in der Industrie eingesetzt, um die händische Arbeit zu unterstützen und die Qualität der erfassten Informationen zu sichern.

Quelle: FH Aachen | Jonas Zauels

Michael Jentgens, bei uns im Startup als Head of Customer Projects tätig, war auch in dem Forschungsprojekt eingebunden. Als Doktorand hat er eine Systemarchitektur entwickelt, in welche unterschiedliche KI-Modelle eingebunden werden können. Ziel der Architektur ist ein Prozess, welcher dynamisch, abhängig von der Form und dem Inhalt des Produktdatenblatts, Information optimal extrahieren kann.

„Die Technologien entwickeln sich so schnell weiter, dass wir nicht auf eine bestimmte setzen wollen, sondern lieber die Voraussetzungen zum Mitwachsen und -entwickeln schaffen wollen“ – Michael Jentgens

Mithilfe der von Bodo Kraft und seinem Team entwickelten Technologien können Unternehmen schon heute bis zu 30 % Zeit bei der Auswertung von Daten sparen. Automatisierte Prozesse stellen einen enormen Wettbewerbsvorteil dar. Die qualifizierten Fachkräfte können die Zeit, welche sie davor mit der manuellen Aufgabe der Informationserfassung verbracht haben, für andere wichtige Aufgaben nutzen. Die Implementierung der Lösung kann Unternehmen einen klaren Wettbewerbsvorteil verschaffen.

Headerbild Quelle: FH Aachen | Jonas Zauels