Legal Eye – Die Rechtskolumne  Der Absturz von zwei Flugzeugen der neu entwickelten Boeing 737 Max in Äthiopien im März dieses Jahres und in Indonesien im Oktober 2018 führt drastisch vor Augen, dass mit künstlicher Intelligenz (KI) ausgestattete Computersysteme ihre Grenzen haben. In kritischen Situationen muss der Mensch eingreifen können. Anderenfalls besteht das Risiko, dass die Technik aus dem Ruder läuft und versagt. Daher sollte jedes mit KI arbeitende System zwingend mit einer simpel zu bedienenden Abschaltvorrichtung für Notfälle versehen sein. Ansonsten besteht die Gefahr, dass es nach anerkanntem Stand von Wissenschaft und Technik als nicht sicher konstruiert gilt. Haftungsansprüche können die Folge sein.