Defense in Depth – Sicherheitsargumentation für KI-Systeme

Ohne Zweifel bietet Künstliche Intelligenz (KI) in vielen Industriezweigen neue Entwicklungsmöglichkeiten, wie z.B. auf dem Gebiet der Mensch-Maschine-Interaktion. Dem Potential dieser Methoden stehen allerdings meist hohe Komplexität und Intransparenz gegenüber. Speziell in sicherheitskritischen Anwendungen der Robotik oder der Medizin ist daher eine der größten Herausforderungen ein glaubwürdiges und belastbares Zuverlässigkeitsargument zu formulieren – das regulatorische Umfeld hat darauf noch keine klare Antwort, es entwickeln sich aber vielfältige Ansätze, wie z.B. in VDE-AR-E 2842-61 oder ISO/IEC TR 5469.

Mit dieser Präsentation wollen wir den Ansatz „Defense in Depth“ vorstellen und damit skizzieren wie die Beantwortung typischer Fragestellungen in sicherheitsrelevanten Systemen unterstützt werden kann:

  • Wie sicher ist sicher genug?
  • Wie quantifiziert man Sicherheit von KI?
  • Mit welchen Mechanismen kann man KI-Systeme absichern?

Basierend auf unseren Erfahrungen geben wir Empfehlungen für ein praktikables Vorgehen zur systematischen Absicherung von KI-Systemen im Einklang mit Normen wie der IEC 61508, ISO 13849, IEC 62061 oder ISO 10218.
Unsere Ansätze unterstützen dabei sowohl Assessoren und Auditoren als auch Ingenieure und helfen die Sicherheitsargumentation zu bewerten, zu erstellen oder zu verbessern.

 

Referent: Tim Jones, exida GmbH

Herr Tim Jones ist als Functional Safety Consultant bei der exida.com GmbH tätig. Er verfügt über mehr als 10 Jahre an Erfahrung in den Bereichen Systems und Software Engineering, Signalverarbeitung und Projektmanagement für sicherheitsrelevante Produkte.

Herr Jones studierte an der Fakultät für Elektrotechnik und Informationstechnik der TU Dresden. Nachdem er 2007 seine berufliche Laufbahn bei der Corscience GmbH & Co. KG in der Medizintechnik begonnen hatte, wechselte er 2013 als Experte für Funktionale Sicherheit zur Elektrobit Automotive GmbH. Seit 2016 ist Herr Jones als Funktional Safety Consultant bei der exida.com GmbH tätig. Sein Fokus liegt hier sowohl auf der Medizintechnik als auch der Automobilindustrie.

Herr Jones ist Mitglied der VDI Medical SPICE Standardisierungsgruppen und zusätzlich als Lehrbeauftragter an der TH Nürnberg für die Vorlesung „Funktionale Sicherheit“ verantwortlich.

Key Facts

Themengebiet: Safety & Security

Datum und Uhrzeit: 04. November 2021, 11:15 bis 12:00

Raum: Rom

Copyright © 2021 HLMC Events GmbH