Intelligent Security Inspection of Data using forensic Extraction and Analysis

map[class:object-cover object-center src:images/home/hero/fis2.png]

Digitale Forensik

Technische Hochschule Mannheim

Künstliche Intelligenz

University of Twente, ITIS GmbH

Rechtliche Bewertung

CII, FZI

Projektmanagement

ISS

map[class:aspect-square object-contain object-center w-[75%] src:images/home/features/features-1.png]

Digitale Forensik

Beweiskette, Digitale Beweismittel

Digitale Forensik von KI

In der heutigen Zeit haben Straftaten häufig auch eine digitale Komponente. Täter nutzen technische Möglichkeiten, um Straftaten zu ermöglichen und einer Strafverfolgung zu entgehen. Dadurch entstehen neue Herausforderungen für Anwälte, Richter, Strafverfolgungsbehörden, forensische Analysten sowie Sicherheitsverantwortliche in Unternehmen. Eine besonders relevante Technologie ist dabei die künstliche Intelligenz. Um die Nachvollziehbarkeit, Zuverlässigkeit und Überprüfbarkeit von KI-Systemen sicherzustellen, sollte die 'Digital Forensic Readiness' bereits bei bestehenden und neuen KI-Systemen berücksichtigt werden.

map[class:aspect-square object-contain object-center w-[75%] src:images/home/features/features-2.png]

Künstliche Intelligenz

Textbasierte KI

Komplexe und selbstlernende KI-Modelle

Die Forensik textbasierter KI-Systeme steht vor besonderen Herausforderungen, da die Nachvollziehbarkeit modellinterner Entscheidungsprozesse nur eingeschränkt möglich ist und Manipulationen häufig nur schwer eindeutig nachgewiesen werden können. Gleichzeitig nutzen Angreifer oft subtil formulierte Eingaben, die sich kaum von regulären Anfragen unterscheiden lassen. Dadurch wird die forensische Einordnung als Angriff erheblich erschwert. Zusätzlich erschweren spezialisierte Angriffstechniken wie 'Inversion' und 'Evasion' die eindeutige Identifikation bösartiger Interaktionen. Bei 'Inversion'-Attacken versuchen Angreifer, vertrauliche Trainingsdaten aus dem Modell zu rekonstruieren. Bei 'Evasion'-Angriffen werden Eingaben gezielt so manipuliert, dass das System sie falsch klassifiziert oder als harmlos einstuft. Besonders komplex wird die Analyse bei kontinuierlich lernenden Systemen, deren sich ständig verändernder Zustand die Reproduzierbarkeit von Ergebnissen einschränkt. Werden Modelle dynamisch aktualisiert, lassen sich häufig nicht alle Interaktionen vollständig protokollieren. Dadurch wird die Rekonstruktion möglicher Angriffspfade zusätzlich erschwert und die eindeutige Zuordnung sicherheitsrelevanter Vorfälle komplizierter.

map[class:aspect-square object-contain object-center w-[75%] src:images/home/features/features-3.png]

Rechtliche Bewertung

Anwälte, Richter und Strafverfolgungsbehörden

Herausforderungen beim Einsatz künstlicher Intelligenz für Anwälte, Richter und Strafverfolgungsbehörden

Um sicherzustellen, dass forensische Untersuchungen vor Gericht rechtlich verwertbar sind, ist eine juristische Begleitung erforderlich. Diese umfasst ein breites Spektrum an rechtlichen Vorgaben, darunter europäische Regelungen wie der AI Act und die DSGVO, das Produkthaftungsrecht, den Schutz von Geschäftsgeheimnissen sowie das nationale Verfahrensrecht. Ziel dieser juristischen Begleitung ist es, die Anforderungen an KI-Anwendungen und deren Auswirkungen auf die gerichtliche Verwertbarkeit auf Grundlage des formellen und materiellen Rechts zu analysieren und mögliche regulatorische Lücken zu identifizieren. Dadurch soll ein Ausgleich der gesellschaftlichen Interessen im Zusammenhang mit dem Einsatz künstlicher Intelligenz unterstützt werden. Die Verantwortung hierfür liegt bei dem Cyberintelligence Institute (CII) und FZI Forschungszentrum Informatik.

Projektpartner

map[alt:Technische Hochschule Mannheim class:h-16 w-auto src:images/home/clients/thmNEU.png]

map[alt:University of Twente class:h-16 w-auto src:images/home/clients/ut.png]

map[alt:ITIS GmbH class:h-16 w-auto src:images/home/clients/itis.png]

map[alt:CII class:h-16 w-auto src:images/home/clients/cii.png]

map[alt:FZI class:h-16 w-auto src:images/home/clients/fzi.png]

map[alt:Institute for Security and Safety GmbH class:h-16 w-auto src:images/home/clients/iss.png]