Navigation

Veröffentlichung 28.10.2019 -

Umgang mit Sicherheitsrisiken industrieller Anwendungen durch mangelnde Erklärbarkeit von KI-Ergebnissen

Einleitung

Die Publikation stellt die Bedeutung von Erklärbarkeit der künstlichen Intelligenz für Sicherheitsaspekte dar. Es geht dabei vorrangig um die Frage, wie menschliche Betrachter die Entscheidungen eines KI-Systems verstehen. Das Fachpapier beantwortet, wie etwaige verborgene Fehler in Architektur, Konfiguration und Training aufgepürt werden können, um sie zu korrigieren

Umgang mit Sicherheitsrisiken industrieller Anwendungen durch mangelnde Erklärbarkeit von KI-Ergebnissen

KI kann in verschiedenen Bereichen industrieller Entwicklung, Produktion und Fertigung sinnvoll eingesetzt werden. Um KI in der Industrie allerdings sicher und erfolgreich
zum Einsatz zu bringen, sind einige Voraussetzungen zu erfüllen. Hierzu zählt:

1. Das Verständnis der Ziele, die KI erreichen oder eben nicht erreichen kann.

2. Die Kenntnis der Einflussfaktoren, die den Einsatz von KI-Systemen inhärent begleiten.

Grundlegende Aspekte zu diesem Themenfeld wurden bereits in „Künstliche Intelligenz (KI) in Sicherheitsaspekten der Industrie 4.0“ beschrieben. Die vorliegende Publikation geht darüber hinaus, indem sie die Bedeutung von Erklärbarkeit der KI für Sicherheitsaspekte darstellt. Es geht dabei vorrangig um die Frage, wie menschliche Betrachter die Entscheidungen eines KI-Systems verstehen. Die Publikation beantwortet, wie etwaige verborgene Fehler in Architektur, Konfiguration und Training aufgepürt werden können, um sie zu korrigieren: Was hat das System tatsächlich „gelernt“ und welche Einflussfaktoren waren in diesem Prozess ausschlaggebend?

Der Einsatz von Künstlicher Intelligenz kann neue Sicherheitsprobleme aufwerfen. Gleichzeitig eignet sich KI in mancher Hinsicht auch als Basis neuartiger Waffen. Dies können keineswegs nur gegen KI-basierte Systeme eingesetzt werden, sondern eine insgesamt erweiterte Gefährdungslage bewirken. Das vorliegende Papier richtet sich an beide Seiten und liefert dazu Erklärungen und Hinweise für Betreiber.

Akten Bilder Datepicker Download Drucken E-Mail Einfache-Sprache Externer-Link Facebook Filme Gebaerdensprache2 Home Image-Zoom Karten LinkedIn Menü Nach-oben Pfeil-Slider-links Pfeil-Slider-rechts Suche Teilen Toene Travel-Management Twitter Video Vordrucke-Antraege Webmail Xing Zeiterfassung dropdown iCal