Als AI Reverse Engineering bezeichnet Marnus in seinem Buch den Prozess der Analyse und Entschlüsselung von KI-Modellen, um ihre Funktionsweise und Struktur besser zu verstehen. Während herkömmliche Programmiersprachen und Algorithmen in der Regel für Menschen leicht zugänglich sind, sind KI-Modelle oft komplex und ihre Entscheidungsfindung kann schwer nachvollziehbar sein. Reverse Engineering ermöglicht es uns jedoch, in die „Blackbox“ der KI einzudringen und ihre mathematische Funktion zu extrahieren.
Vereinfacht ausgedrückt ist die Idee dahinter, neuronale Netze in mathematischen Funktionen auszudrücken.
Dies führt dazu, dass in bestimmten Fällen Aufgaben gelöst werden können, ohne das neuronale Netz zu benötigen. Dies führt nicht nur zu einer drastischen Senkung der benötigten Compute-Power, sondern verwandelt die Black Box in eine White Box.
Lösung des Blackbox-Problems durch AI Reverse Engineering:
Das Blackbox-Problem entsteht, wenn die Entscheidungsfindung eines KI-Modells für Menschen nicht transparent oder erklärbar ist. Dies kann Bedenken hinsichtlich der Vertrauenswürdigkeit und Zuverlässigkeit von KI-Systemen aufwerfen, insbesondere in sicherheitskritischen Bereichen wie Gesundheitswesen oder autonomen Fahren. AI Reverse Engineering kann jedoch dazu beitragen, das Blackbox-Problem zu lösen oder zumindest zu mildern, indem es Einblicke in die innere Funktionsweise des KI-Modells liefert.
Durch Analyse der Gewichtungen der Neuronen und anderen Faktoren können Forscher und Entwickler herausfinden, wie das KI-Modell zu seinen Entscheidungen kommt. Dieser Prozess ermöglicht es, eventuelle Fehler oder Vorurteile zu erkennen und die Leistung und Vertrauenswürdigkeit des Modells zu verbessern.
https://towardsdatascience.com/how-to-define-a-neural-network-as-a-mathematical-function-f7b820cde3f
https://www.mdpi.com/2227-7390/9/24/3216
https://www.quantamagazine.org/symbolic-mathematics-finally-yields-to-neural-networks-20200520/
