„Es genügt nicht, dass eine Rede schön sei, sie muss auch dem Gegenstand angemessen sein, so dass nichts zuviel ist und auch nichts fehlt.“

     Blaise Pascal (1623-62), französischer Mathematiker

Kommt Ihnen das bekannt vor: "Unsere Lösung - Ihr Problem"? Allzu oft erlebt man, dass "Lösungen" präsentiert werden, ohne das Problem - wir bevorzugen das Wort "Aufgabe" - richtig verstanden zu haben. Deshalb fangen wir mit einer gründlichen Analyse an und bewerten mögliche Lösungen anhand der für die Aufgabe ermittelten Kriterien. Denn schließlich muss die Lösung zur Aufgabe passen und nicht umgekehrt. Eine Lösung ist nicht schon deshalb gut, weil sie technisch funktioniert. Sie muss auch zur Bedeutung der Aufgabe, zum Risiko, zum vorhandenen Know-how und zum späteren Betrieb passen. Dazu gehört, dass ihre Komplexität und ihr Verhalten ausreichend verstanden und beherrscht werden können. Wir wollen nicht nur wissen, dass ein System funktioniert, sondern auch verstehen, warum es funktioniert, auf welchen Annahmen es beruht und wie es sich außerhalb des Normalfalls verhält. Wo es sinnvoll ist, messen und modellieren wir, statt nur zu vermuten.

„Ein überzeugendes Ergebnis ist noch kein verlässlicher Systemzustand.“

Neue Technologien sind für uns weder Selbstzweck noch grundsätzlich verdächtig. Wir setzen sie dort ein, wo sie für die konkrete Aufgabe einen nachvollziehbaren Nutzen bringen und ihre zusätzlichen Risiken angemessen beherrscht werden können. Das gilt auch für künstliche Intelligenz. KI kann bei Analyse, Entwicklung und Betrieb ein leistungsfähiges Werkzeug sein. Je näher sie jedoch an produktive oder sicherheitskritische Systeme rückt, desto wichtiger werden Fragen nach Verlässlichkeit, Berechtigungen, Datenflüssen und dem Verhalten im Fehlerfall. Technische Schutzmaßnahmen sind notwendig, ersetzen aber keine bewusste Architekturentscheidung.