Wenn Algorithmen Leben retten Künstliche Intelligenz eröffnet in der Unfallprävention völlig neue Möglichkeiten. Datenbasierte Systeme erkennen Risikomuster, analysieren Unfalldaten und unterstützen gezielte Präventionsmassnahmen. Gleichzeitig werfen sie ethische und gesellschaftliche Fragen auf – zu Verantwortung, Qualitätssicherung und Kontrolle. Prof. Dr. Peter G. Kirchschläger und BFU-Direktor Stefan Siegrist diskutieren Chancen, Grenzen und den kritischen Umgang mit der neuen Technologie.

Beginnen wir ganz konkret: Was verstehen wir unter künstlicher Intelligenz? Was leistet sie heute tatsächlich – und wo liegen ihre Grenzen?

Peter G. Kirchschläger: Sogenannte «KI» simuliert und übernimmt kognitive Funktionen, die bisher Menschen vorbehalten waren. In gewissen Bereichen funktioniert das so ausgezeichnet, dass man tatsächlich von «Intelligenz» sprechen könnte. Besonders im Umgang mit grossen Datenmengen sind uns die Maschinen deutlich überlegen. Doch gleichzeitig fehlt ihnen emotionale und soziale Intelligenz. Auch beim Erkennen von ethischen Regeln, was richtig oder falsch ist, gut oder schlecht, stossen Maschinen an Grenzen. Darum setze ich hinter den Begriff «Intelligenz» bewusst ein Fragezeichen. Im Kern ist sogenannte «KI» nichts anderes als komplexe Mathematik gepaart mit Unmengen von Daten. Ich würde daher als Alternativbegriff datenbasierte Systeme, DS, vorschlagen. Dieser Begriff beschreibt präziser, was diese Technologie tatsächlich leistet.

Stefan Siegrist: Wie KI bereits vorhandene Daten und Algorithmen mit enormer Rechenleistung kombiniert, beeindruckt mich. Denk- und Entscheidungsprozesse von Menschen werden dabei allerdings nur nachgeahmt. Die Geschwindigkeit und die Komplexität lassen dabei leicht vergessen, dass es letztlich nur intelligentes Nachplappern ist. ChatGPT und Co. vermitteln aber das Gefühl, mit einer echten Person zu kommunizieren. Darin sehe ich die Gefahr, dass man ein Übervertrauen entwickelt, was die eigene Meinung unbewusst beeinflusst. 

Kirchschläger: Gerade der Aspekt des Übervertrauens spricht dafür, begrifflich so präzise wie möglich zu bleiben. Der Begriff «Intelligenz» begünstigt dieses Übervertrauen. Ein trockener Begriff wie datenbasierte Systeme tut das hingegen nicht.

Herr Kirchschläger, Sie sind Theologe und Ethiker. Disziplinen, die man nicht automatisch mit Technologie verbindet. Wieso setzen Sie sich trotzdem mit datenbasierten Systemen auseinander?

Kirchschläger: Während meines Philosophiestudiums besuchte ich eine höchst spannende technische Einführungsvorlesung zu DS. Daraus ergaben sich für mich viele philosophische und ethische Fragen. Fasziniert blieb ich bei diesem Thema und erntete dafür auch Kritik. Damals galten DS als Randthema, das wenig mit den wirklich wichtigen Fragen der Ethik zu tun habe. Heute hat sich das grundlegend geändert, und ich werde nicht mehr dafür kritisiert, dass ich zu DS forsche. Im Zuge meiner Forschung zeigt sich das grosse ethische Potenzial, das wir mit DS erschliessen können, und gleichzeitig die grossen ethischen Gefahren. Beides müssen wir präzise identifizieren, damit wir das Potenzial ausschöpfen und die Gefahren mit sinnvollen Massnahmen vermeiden können.

Die BFU arbeitet seit jeher datenbasiert. Sie analysiert Unfalldaten, erkennt Muster und entwickelt daraus Präventionsmassnahmen. Rennt die Entwicklung datenbasierter Systeme da nicht geradezu offene Türen ein?

Siegrist: Absolut. Wir haben Mitarbeitende, die davon begeistert sind. Ich gehöre auch dazu. Datenbasierte Systeme können unsere Präventionsarbeit befeuern. Für die BFU als Wissensorganisation mit Forschung, Beratung, Bildung und Kommunikation gibt es keinen Bereich, in dem sie sich nicht gezielt einsetzen lassen. Das reicht von der Literaturrecherche und der Datenanalyse über den KI-Assistenten auf der Website bis hin zur Bildgenerierung und maschinellen Übersetzung. Machine Learning kann so trainiert werden, dass es in rudimentären Unfallbeschreibungen Unfallmuster erkennt. Entscheidend bleibt jedoch, dass die Ergebnisse immer von Menschen beurteilt werden. 

Kirchschläger: Datenbasierte Systeme lassen uns Dinge nicht nur besser, sondern auch neu verstehen. Dadurch können wir Unfallursachen noch präziser identifizieren und die Möglichkeiten für die Prävention noch gezielter bestimmen. Gleichzeitig sind sie auch ein Effizienzgewinn, was auch ethisch relevant ist, weil Ressourcen besser eingesetzt werden können.

Also macht KI unsere Welt sicherer? 

Siegrist: Die Vorteile zeigen sich auch in ganz konkreten Anwendungen. Ein Beispiel ist der Skitourenguru, ein Planungstool für Skitouren. Er kombiniert aktuelle Lawinenlageberichte mit detaillierten Geländedaten und bewertet täglich tausende Skitouren auf kritische Stellen mithilfe eines ausgefeilten Algorithmus. Eine grosse Rolle spielen datenbasierte Systeme auch beim automatisierten Fahren. Je genauer wir als BFU dort hinschauen, desto deutlicher treten die Bereiche zutage, in denen Risiken entstehen. Diese sehen wir vor allem in der herausfordernden Übergangsphase des teilautomatisierten Fahrens. Also dort, wo die Verantwortung zwischen Mensch und System wechselt.

Kirchschläger: Wir gehen davon aus, dass die Vollautomatisierung der Mobilität auch zu einer deutlichen Reduktion der Unfallzahlen führen wird. Denn viele menschliche Risikofaktoren fallen weg, etwa Alkohol, Ablenkung oder Übermüdung. Allerdings kommen auch neue Unfallursachen wie technische Fehler oder Cyberkriminalität hinzu. Herausforderungen sehe ich ebenfalls in der Übergangsphase. Der positive Effekt von sinkenden Unfallzahlen wird noch nicht erreicht. Gleichzeitig hat man die durch die Technologie entstandenen neuen Risiken noch nicht im Griff.

Mit den Chancen kommen also auch Herausforderungen. Wo bestehen für unsere Gesellschaft wie auch für die BFU ethische und praktische Risiken?

Kirchschläger: Wenn ich konsequent und kritisch auf ethische Gefahren hinweise, will ich einen Beitrag leisten, damit datenbasierte Systeme in Zukunft besser werden. Dafür müssen wir Fragen zu Datenschutz, Privatsphäre und Menschenrechten insgesamt zwingend angehen. Ebenso real ist das Problem der Urheberrechtsverletzungen. Eine weitere Gefahr liegt in den ökologischen Auswirkungen. Der Verbrauch an Wasser und Strom ist enorm. Und schliesslich dürfen wir den Menschen nicht aus der Verantwortung entlassen. Wenn wir uns zu stark auf diese Systeme verlassen, werden wir nicht unbedingt klüger. Ich plädiere immer dafür, selber zu denken, weil wir uns sonst zurückentwickeln. Das hat auch für die Unfallverhütung negative Konsequenzen, weil Menschen zu mehr Fehleinschätzungen neigen.

Siegrist: In der Unfallforschung sprechen wir in diesem Zusammenhang von der Kontrollillusion. Wir nehmen Situationen als kontrollierbar wahr, überschätzen dabei aber häufig unsere Fähigkeiten, beispielsweise in komplexen Konstellationen wie an einer grossen Strassenkreuzung. Das gilt auch für neue Technologien, von denen wir glauben, sie im Griff zu haben. Deshalb finde ich interessant, dass Sie, Herr Kirchschläger, von datenbasierten Systemen sprechen und nicht von Intelligenz. Denn Sprache schafft Bewusstsein. Dieses Bewusstsein brauchen wir im Umgang mit den neuen Systemen, die für uns Gedankengänge vollziehen. Ich muss ein erhaltenes Resultat noch kritischer auf seine Qualität überprüfen. 

Angesprochen ist damit das Vertrauen. In Daten und Systeme, die immer komplexer werden und deren Arbeitsweise wir kaum verstehen.

Kirchschläger: Im Kern geht es um kritisches Denken, kritische Gestaltung von und den kritischen Umgang mit DS. Das möchte ich am Beispiel von generativen datenbasierten Systemen veranschaulichen. Gibt ein System wie ChatGPT eine Antwort aus, kann sie korrekt sein oder nicht. Auch spielt die Qualitätshierarchie von Quellen keine Rolle. In Bezug auf die Relevanz werden beispielsweise die New York Times und ein Boulevardblatt gleich gewertet. Das System trainiert mit allen Inhalten des Internets. Für einen höchst anspruchsvollen Bereich wie die Unfallverhütung müssten Expertensysteme nur mit der besten Fachliteratur trainiert werden. Erst dann kann man den Organisationen, die sie anbieten, vertrauen. Maschinen dürfen wir nie vertrauen. 

Das wird unsere Arbeitswelt stark verändern – auch in der BFU. Welche neuen Anforderungen entstehen für Berufe, Unternehmen und Organisationen?

Kirchschläger: Unsere Arbeitswelt verändert sich fundamental. Es geht zunächst weniger um den Verlust von Jobs, sondern von einzelnen bezahlten, beruflichen Aufgaben. Anders als in früheren technologischen Umbrüchen betrifft es heute fast alle Tätigkeiten, auch hochqualifizierte. Hinzu kommt, dass DS ohne menschliche Inputs selbstständig weiterlernen. Ihr Ziel ist nicht mehr die Entlastung des Menschen, wie etwa Traktoren im Unterschied zum Pflug in der Landwirtschaft die körperlichen Anstrengungen verringert haben, sondern um die vollständige Übernahme von bezahlten, beruflichen Aufgaben. Das ist ethisch per se noch keine schlechte Nachricht. Kritisch wird es, wenn sich viele Menschen kein menschenwürdiges Dasein mehr leisten können. Wir verabschieden uns gerade als Wirtschaftssystem vom Streben nach Vollbeschäftigung. Auf diese systemische Veränderung müssen wir auch systemisch reagieren. Weiterbildung allein reicht nicht aus, wenn Menschen trotz Qualifikation keinen Platz mehr im Arbeitsmarkt finden.

Siegrist: Unsere Arbeitswelt verändert sich in einer Tiefe, auf die wir mit herkömmlichen Instrumenten nicht mehr reagieren können. Es braucht einen systemischen Ansatz und eine klare Governance. Wie gross diese Herausforderung ist, zeigt sich exemplarisch am autonomen Fahren. In der Praxis haben heutige Systeme noch Ausfälle. Rechnet man diese auf die Schweizer Strassenkilometer hoch, entstehen tausende kritische Situationen pro Jahr – mit realem Unfallpotenzial. Das zeigt, dass wir als Gesellschaft lernen müssen, mit diesen Risiken umzugehen. Wir dürfen nicht warten, bis der Schaden eintritt. Für diesen Wandel braucht es Sensibilisierung, strategisches Denken und eine breite gesellschaftliche Debatte.

Kirchschläger: Diese Debatte müssen wir jetzt führen. Uns läuft die Zeit davon. Beispiele wie robotergestützte Chirurgie zeigen, dass immer mehr Aufgaben ohne Menschen erledigt werden können. Ärztinnen und Ärzte bezahlt man heute noch in der Hoffnung, dass mehr Zeit für Gespräche mit Patientinnen und Patienten bleibt. Doch irgendwann stellt sich die Frage, ob ein Chatbot nicht auch dafür günstiger wäre. Mir ist wichtig, festzuhalten, dass sich dabei die Qualität verschlechtern kann; gerade bei zwischenmenschlicher Interaktion wird dies der Fall sein. Aber wofür sind wir als Gesellschaft letztlich noch bereit, Geld auszugeben?

Kann unsere Gesellschaft wie auch die BFU, die die Gesundheit und die Unversehrtheit von Menschen ins Zentrum stellt, KI sinnvoll und sinnstiftend einsetzen, ohne dass wir die Kontrolle verlieren?

Siegrist: In der Bundesverfassung ist das Recht auf körperliche Unversehrtheit verankert. Und die BFU hat den Auftrag, menschliches Leid zu verhindern. Genau daran orientieren wir uns auch im Umgang mit neuen Technologien. Unsere Arbeitsprinzipien gelten weiterhin. Massnahmen müssen wirksam, verhältnismässig und wissenschaftlich begründet sein. Indem wir unserer Linie aus Forschung, Evidenz und klaren ethischen Leitplanken treu bleiben, behalten wir auch mit neuer Technologie die Kontrolle.

Kirchschläger: Angesichts der Entwicklung von DS müssen wir das Rad nicht neu erfinden. Ethische und rechtliche Normen und Prinzipien wie die Menschenwürde bleiben bestehen. Was wir in der neuen Realität brauchen, ist eine globale, menschenrechtsbasierte Regulierung von DS und deren Durchsetzung mit einer Internationalen Agentur für datenbasierte Systeme (IDA) bei der UNO. Das erfreuliche an der Idee von IDA ist, dass sie weltweit ein positives Echo auslöste und unter anderen von UNO-Generalsekretär António Guterres, vom Papst, vom Dalai Lama, von Sam Altman und von einem internationalen, interdisziplinären Netzwerk von Expertinnen und Experten unterstützt wird. 

Also können uns auf eine «schöne neue Welt» freuen?

Siegrist: Bei jedem Technologieschub ist es normal, dass wir nicht alles bis ins Detail verstehen. Das war beim Telefon ebenso der Fall wie beim Auto. Entscheidend ist nicht, dass jede einzelne Person die Technologie begreift, sondern dass die Gesellschaft lernt, verantwortungsvoll damit umzugehen. Das hat in der Vergangenheit funktioniert, auch wenn es zunächst Ängste gab. Datenbasierte Systeme eröffnen in der Unfallprävention grosse Chancen. Sie werden uns unterstützen, nicht ersetzen. Eine schöne neue Welt entsteht nicht automatisch. Aber wir können sie gestalten.

Kirchschläger: Mit meiner Forschung versuche ich zu benennen, welche ethischen Chancen und Risiken DS in sich bergen. Ziel ist es, sie so zu gestalten und zu nutzen, dass sie eine menschenwürdige und nachhaltige Zukunft ermöglichen. Dort, wo die Menschenrechte respektiert und somit Freiheit, Zugang zu Information und kritisches Denken gewährleistet sind, können Innovationen am besten entstehen. Sichern wir diese Rahmenbedingungen, erreichen wir einen ethisch positiven Fortschritt für alle Menschen und unseren Planeten.

Vorgestellt

Prof. Dr. Peter G. Kirchschläger ist Professor für Theologische Ethik und Leiter des Instituts für Sozialethik ISE der Universität Luzern und Gastprofessor an der Professur für Neuroinformatik und Neuronale Systeme der ETH Zürich sowie am ETH AI Center. Er ist der Autor u. a. der Bücher «Ethics and the Digital Transformation of Human Work» (2025), «Digitale Transformation und Ethik» (2024) und «Ethisches Entscheiden» (2023) sowie Studienleiter des neuen Masterstudiengangs «Ethik» an der Universität Luzern: unilu.ch/master-ethik

Dr. Stefan Siegrist ist Direktor der BFU und promovierter Doktor der Psychologie. Der Solothurner prägt die Arbeit der BFU seit 30 Jahren in den drei Tätigkeitsgebieten Strassenverkehr, Sport sowie Haus und Freizeit. Unter seiner Leitung wurden die Grundlagen für effiziente und zielgerichtete Unfallprävention weiter geschärft.