View in EDS

Verbundprojekt: Vertrauenswürdige KI für die polizeiliche Anwendung (VIKING); Teilvorhaben: Erforschung der Erklärbarkeit und Gerichtsverwertbarkeit von Systemen zur automatischen Sprechererkennung: Sachbericht zum Verwendungsnachweis

Saved in:
Bibliographic Details
Title: Verbundprojekt: Vertrauenswürdige KI für die polizeiliche Anwendung (VIKING); Teilvorhaben: Erforschung der Erklärbarkeit und Gerichtsverwertbarkeit von Systemen zur automatischen Sprechererkennung: Sachbericht zum Verwendungsnachweis
Authors: Reuter, Paul Maria, Coleman, Graham Keith
Publisher Information: Hannover : Technische Informationsbibliothek, 2025.
Publication Year: 2025
Subject Terms: Standardisierung, Transparenz, (Grund-) Rechtskonformität, 500 | Naturwissenschaften, ethische Bewertung, Vertrauenswürdige Künstliche Intelligenz, Debiasing, Nachvollziehbarkeit, Angriffsfestigkeit
Description: Der Einsatz von Künstlicher Intelligenz (KI) in der polizeilichen Arbeit kann sowohl die Effizienz als auch die Effektivität von Ermittlungen erheblich steigern, bringt jedoch auch eine Reihe von Herausforderungen und Risiken mit sich. Insbesondere unausgewogene Trainingsdatensätze, in denen demographische Häufigkeiten verzerrt abgebildet sind (Bias), können zu fehlerhaften Ergebnissen führen. Ein weiteres Risiko besteht in der fehlenden Nachvollziehbarkeit und mangelnden Transparenz der Ergebnisse komplexer KI. Ein zentrales Anliegen des IDMT im VIKING-Projekt ist es, das Verhalten von Sprechererkennungssystemen unter der Variation verschiedener Einflussfaktoren systematisch zu untersuchen. Dies umfasst Analysen der Leistungsfähigkeit unter verschiedenen akustischen Bedingungen und die Identifikation eventueller Verzerrungen, die zu Ungleichbehandlungen führen. Dafür werden geeignete Trainings- und Testdatensets zusammengestellt und verschiedene Verfahren für Sprechererkennung implementiert. Ein weiteres Ziel des Projekts besteht darin, die Funktionsweise neuronaler Netze in der Sprechererkennung durch Erklärbarkeitsmethoden transparenter zu machen. Die zunehmende Nutzung komplexer Deep-Learning-Methoden hat dazu geführt, dass Systeme oft als „Black Box“ betrachtet werden, da Anwender die internen Entscheidungsprozesse der KI nicht nachvollziehen können. Für die Verwertbarkeit von Ergebnissen vor Gericht, ist es jedoch entscheidend, dass diese auch erklärbar sind. Mit geeigneten Methoden, wie einer Analyse der Gewichte und Parameter, soll untersucht werden, auf welche Merkmale sich diese Modelle fokussieren. Am Ende des Vorhabens wird ein Demonstrator entwickelt, der tiefere Einblicke in die Funktionsweise der verwendeten neuronalen Netze bietet und die forensische Arbeit unterstützen kann. Die Projektergebnisse sollen zudem in ein Standardisierungsaktivitäten (DIN SPEC) einfließen.
Document Type: Report
Language: German
DOI: 10.34657/22510
Accession Number: edsair.doi...........7da02474b1ad7a27bc8f93c9d49d8094
Database: OpenAIRE
Description
Abstract:Der Einsatz von Künstlicher Intelligenz (KI) in der polizeilichen Arbeit kann sowohl die Effizienz als auch die Effektivität von Ermittlungen erheblich steigern, bringt jedoch auch eine Reihe von Herausforderungen und Risiken mit sich. Insbesondere unausgewogene Trainingsdatensätze, in denen demographische Häufigkeiten verzerrt abgebildet sind (Bias), können zu fehlerhaften Ergebnissen führen. Ein weiteres Risiko besteht in der fehlenden Nachvollziehbarkeit und mangelnden Transparenz der Ergebnisse komplexer KI. Ein zentrales Anliegen des IDMT im VIKING-Projekt ist es, das Verhalten von Sprechererkennungssystemen unter der Variation verschiedener Einflussfaktoren systematisch zu untersuchen. Dies umfasst Analysen der Leistungsfähigkeit unter verschiedenen akustischen Bedingungen und die Identifikation eventueller Verzerrungen, die zu Ungleichbehandlungen führen. Dafür werden geeignete Trainings- und Testdatensets zusammengestellt und verschiedene Verfahren für Sprechererkennung implementiert. Ein weiteres Ziel des Projekts besteht darin, die Funktionsweise neuronaler Netze in der Sprechererkennung durch Erklärbarkeitsmethoden transparenter zu machen. Die zunehmende Nutzung komplexer Deep-Learning-Methoden hat dazu geführt, dass Systeme oft als „Black Box“ betrachtet werden, da Anwender die internen Entscheidungsprozesse der KI nicht nachvollziehen können. Für die Verwertbarkeit von Ergebnissen vor Gericht, ist es jedoch entscheidend, dass diese auch erklärbar sind. Mit geeigneten Methoden, wie einer Analyse der Gewichte und Parameter, soll untersucht werden, auf welche Merkmale sich diese Modelle fokussieren. Am Ende des Vorhabens wird ein Demonstrator entwickelt, der tiefere Einblicke in die Funktionsweise der verwendeten neuronalen Netze bietet und die forensische Arbeit unterstützen kann. Die Projektergebnisse sollen zudem in ein Standardisierungsaktivitäten (DIN SPEC) einfließen.
DOI:10.34657/22510