Verbesserung der Erklärbarkeit von neuronalen Netzen

Künstliche Intelligenz (KI), die von neuronalen Netzen gesteuert wird, ist für viele Anwendungen wie Empfehlungssysteme, Sprachübersetzung, soziale Medien, Chatbots und Rechtschreibprüfung usw. von entscheidender Bedeutung. Diese Netze werden jedoch häufig als "Blackboxen" kritisiert, was Bedenken hinsichtlich ihrer Erklärbarkeit aufkommen lässt, insbesondere in sensiblen Bereichen wie dem Gesundheitswesen, dem autonomen Fahren usw. Bestehende Methoden zur Verbesserung der Erklärbarkeit, wie z. B. die Bedeutung von Merkmalen, sind oft nicht klar und leicht zu interpretieren. Um dieses Problem zu lösen, wurde das objektorientierte neuronale Netz zur Verbesserung der Erklärbarkeit (OONNIE) entwickelt. OONNIE verwendet objektorientierte Modellierung, um Verlust- und Verbindungsgewicht zur Berechnung der Merkmalsbedeutung zu kombinieren und integriert domänenspezifische Regeln durch die Erweiterbarkeit von OOP. Das Modell betont die algorithmische Transparenz, indem jeder Trainingsschritt detailliert beschrieben wird. Bei der Evaluierung von XOR- und XNOR-Funktionen zeigt OONNIE vielversprechende Ergebnisse bei der Merkmalsbedeutung, eine schnellere Verlustreduzierung und verbesserte Vorhersagen nach der Integration von Domänenregeln. Dies ist ein wichtiger Beitrag zur erklärbaren KI und macht OONNIE zu einem wertvollen Werkzeug für die Entwicklung vertrauenswürdiger KI-Systeme.

Autorentext

Dr. Enoch Arulprakash, der sich leidenschaftlich für Lehre und Forschung engagiert, hat sich für das UGC NET JRF qualifiziert und einen Doktortitel in Informatik an der Central University of Tamil Nadu erworben. Er ist Assistenzprofessor am DSATM und spezialisiert auf KI, maschinelles Lernen, Deep Learning und Objekterkennung.