Wenn Technik so mächtig wird, dass ihre Funktionsweise im Verborgenen liegt, droht die Gestaltungsfreiheit zu kippen. Im Gespräch mit Mathias Harrassowitz und Christian Granseier warnt David Nedel davor, dass gewachsene Systemkomplexität in Unternehmen unbewusst zum Machtinstrument wird. Nur wer jahrzehntealte IT-Architekturen durchdringt, besitzt heute Deutungshoheit. Gehen diese Wissensträger in den Ruhestand, droht ein Kontrollverlust. Die Lösung liegt nicht im Rückbau, sondern in der konsequenten Demokratisierung dieses Wissens.

Noch drängender wird diese Machtfrage durch KI. David betont: Algorithmen besitzen keinen eigenen Willen; sie vollziehen nur menschliche Designentscheidungen. Es wäre ethischer Bankrott, die Effizienzgewinne der Automatisierung abzuschöpfen, bei Fehlern aber auf die Maschine zu zeigen. Verantwortung lässt sich nicht wegdelegieren. Deshalb müssen wir Werte direkt in den Code schreiben: Ein Algorithmus darf nicht bloß Profit maximieren, sondern muss dies tun, ohne bestimmte Gruppen zu diskriminieren.

Dafür braucht es eine neue Kultur des Zweifelns. Entwickler müssen ermutigt werden, ethische Bedenken laut zu äußern, wenn ein Modell ältere Kunden benachteiligt. Während die Maschine berechnet, was technisch möglich ist, bleibt es das ureigene Privileg des Menschen, zu fragen, ob es auch richtig ist. Empathie, Einzelfallgerechtigkeit und echtes Bedauern im Krisenfall lassen sich nicht programmieren. Am Ende steuert Führung künftig keine bloßen Umsetzer mehr, sondern Gestalter autonomer Systeme. Ob dafür bald ein „Chief of Ethics“ am Vorstandstisch sitzt, bleibt offen – die Notwendigkeit einer ethischen Leitplanke steht längst fest.

Zu Gast:

David Nedel, Vorstand IT und Digitalisierung bei der VGH-Versicherung und Sprecher der Geschäftsführung bei der IVV GmbH

Der Philosoph wird ermöglicht durch unseren Zukunftspartner Concentrix.

Create your podcast today! #madeonzencastr