Zuverlässige KI - Autonome Systeme

Es gibt laufende Forschungsarbeiten zur Entwicklung von Techniken für die Verifizierung und Validierung der Sicherheit von KI-Systemen. Dazu gehören Ansätze wie Modellprüfung, formale Verifizierung und Tests sowie der Einsatz von Simulation und Emulation. Darüber hinaus gibt es ein weit verbreitetes Interesse an sicherheistbewusster KI. So soll sichergestellt werden, dass KI-Systeme von Grund auf so konzipiert sind, dass sie der Sicherheit Vorrang einräumen und sich im Laufe der Zeit an sich ändernde Sicherheitsanforderungen anpassen können. Dies erfordert einen multidisziplinären Ansatz, der Fachwissen aus der Informatik, dem Ingenieurwesen und sicherheitskritischen Bereich kombiniert. 

• KI in funktionaler Sicherheit

• KI mit funktionaler Sicherheit

• Gefährdungen und Risiken

• KI- und ML-Entwicklungsprozess

• ISO PAS 8800

• IEC ISO TR 5469

Bedenken Sie, dass KI in der funktionalen Sicherheit für die Industrie und Wissenschaft ein sehr neues Thema ist. Ein gemeinsamer Prozess hat sich noch nicht etabliert. Aber wir treiben den Technologieansatz seit dem Beginn im Jahr 2014 voran.