Ethik für automatisierte Fahrzeuge

Schon seit ihrer Jugend ist Elizabeth Hofvenschioeld davon fasziniert, wie neue Technologien unser Leben und die Gesellschaft verändern und voranbringen. Als Expertin für Mensch-Maschine-Interaktion, Zukunftsforschung und Ethik berät sie bei Daimler Entwickler und Strategen, wie automatisierte Fahrsysteme auch hohe ethische Anforderungen erfüllen können. Im Interview erzählt uns die Mutter zweier Kinder, was eine 450.000 Jahre alte Steinaxt mit Künstlicher Intelligenz verbindet – und warum die Herausforderungen beim automatisierten Fahren nicht nur in der Technologie liegen.

Elizabeth Hofvenschioeld in ihrem Home Office.

Frau Hofvenschioeld, Sie beschäftigen sich mit ethischen Standards für automatisiertes Fahren. Um was geht es dabei?

In unserem Team beraten wir Kolleginnen und Kollegen, die an der Entwicklung unserer Zukunftstechnologien mitarbeiten, zu ethischen und gesellschaftlichen Fragen. Wenn Fahrzeuge in Zukunft automatisiert fahren, gibt es ganz neue Herausforderungen – beispielsweise, wie die Interaktion zwischen Mensch und Maschine gelingt. Hier kommen wir ins Spiel.

Wie gehen Sie dabei vor?

Ich arbeite mit Kolleginnen und Kollegen mit unterschiedlichen fachlichen Hintergründen zusammen: von der Zukunftsforschung bis hin zur Philosophie. Dabei setzen wir auf zwei Ebenen an: Auf der strategischen Ebene geht es darum, abzuschätzen, welche Folgen automatisiertes Fahren für unsere Gesellschaft hat. Wie kann die neue Technologie in die bestehende Infrastruktur integriert werden? Welche rechtlichen Grundlagen müssen geschaffen werden? Und wie bereiten wir Menschen darauf vor, wenn Fahrzeuge automatisiert unterwegs sind?

Und die zweite Ebene?

Hier geht es um das Operative: Wir arbeiten gemeinsam mit Ingenieuren, Juristen und Systemdesignern daran, sichere Produkte für die Zukunft zu entwickeln. Unsere Rolle dabei ist, ethisch relevante Anwendungsfälle zu identifizieren, potenzielle Konsequenzen abzuschätzen und unsere Kolleginnen und Kollegen zu beraten. Die ethischen Aspekte beim autonomen Fahren können wir natürlich nicht allein vorantreiben: Hier braucht es den gesellschaftlichen Diskurs.

Was genau meinen Sie mit ethisch relevanten Anwendungsfällen?

Nehmen wir einen ziemlich naheliegenden Anwendungsfall: ein automatisiertes Fahrzeug fährt auf der Straße. Ethisch relevant ist, dass die Sensoren des Fahrzeugs, die permanent die Straße und den Straßenrand überwachen, Menschen korrekt detektieren. Und dies unabhängig davon, was sie für Kleidung tragen, wie groß sie sind oder was sie für eine Ethnizität haben.

Technologie hat mich schon immer begeistert. Deshalb habe ich an mein Archäologiestudium direkt einen zweiten Master im Bereich Mensch-Maschine-Interaktion drangehängt.
Elizabeth Hofvenschioeld absolvierte ihr Archäologie-Studium mit einem zweiten Master-Abschluss in Mensch-Maschine-Interaktion.

Wie wird das von den Entwicklern umgesetzt?

Daimler setzt bei den automatisierten Fahrzeugen verschiedene Sensoren und damit ein redundantes Sicherheitskonzept ein: So werden etwa Fußgänger nicht nur über Kameras, sondern zusätzlich mit Radar- und Lidar-Sensoren erkannt. Sowohl Radar- als auch Lidar-Sensoren können technisch keine Farben erkennen und somit auch keine Unterscheidungen anhand von Farben vornehmen.

Das klingt sehr interessant!

Ja, unser Job ist sehr spannend. Man sieht, wie die Theorie zur Praxis kommt. Ein Beispiel: Der viel zitierte Bericht von der Ethikkommission beinhaltet 20 ethische Regeln für den automatisierten und vernetzten Fahrzeugverkehr. Allerdings wird darin nicht erläutert, wie man diese Regeln praktisch umsetzen kann. Daher haben wir unter anderem den Bericht analysiert, dessen wichtigste Punkte herausgestellt und werden diese mit unseren eigenen Prinzipien (u.a. die Prinzipien für Künstliche Intelligenz ) in den Entwicklungsprozess integriert. So unterstützen wir unsere Entwickler dabei, dass Zukunftstechnologien wie automatisiertes Fahren ethischen und gesellschaftlichen Anforderungen gerecht werden.

Wichtig ist auch zu erwähnen das unsere Arbeit auch integrierter Teil der Governance von Daimler ist. Wir gehören mit dieser Beratung ähnlich wie die Rechtsberatung auch zu dem technischen Compliance Prozessen bei Daimler und sind in der Rechtsabteilung aufgehängt.

Ursprünglich haben Sie Archäologie studiert. Wie passt das mit Zukunftstechnologien zusammen?

Das ist sicher überraschend [lacht]. Aber im Kern geht es um ähnliche Fragen. Ein Bereich der Archäologie beschäftigt sich nämlich damit, welche Werkzeuge unsere Vorfahren genutzt haben und welche Auswirkungen neue Werkzeuge bzw. Technologien auf die Menschheit hatten. Unser Professor hat in eine Vorlesung mal eine Steinaxt mitgebracht, die Menschen vor 450.000 Jahren gefertigt haben. Seinerzeit eine neue Technologie, die für die Menschen vielleicht ähnlich bedeutend war wie automatisierte Fahrzeuge für unsere heutige Gesellschaft.

Weil die Axt eine technologische Revolution in der Steinzeit ausgelöst hat?

Ganz genau, die Axt hat die Arbeit damals wesentlich erleichtert und die Herstellung weiterer Dinge ermöglicht. Und schließlich hat das Werkzeug das Denken der Menschen verändert. Der Zukunftsforscher Jim Dator hat mal gesagt: „Erst formen wir unsere Werkzeuge, dann formen sie uns.“ Wenn wir also heute über Künstliche Intelligenz und automatisiertes Fahren reden, müssen wir uns fragen, wie diese Innovationen unsere Gesellschaft verändern. Technologie hat mich schon immer begeistert. Deshalb habe ich an mein Archäologiestudium direkt einen zweiten Master im Bereich Mensch-Maschine-Interaktion drangehängt.

Ich habe früh gelernt, offen für neue Kulturen zu sein und kommunikativ auf Menschen zuzugehen.
Als Kind ist sie viel umgezogen. Deshalb spricht sie neben Deutsch, Englisch, und Schwedisch auch Französisch, Mandarin und Tagalog.

2014 haben Sie dann bei Daimler in Peking angefangen.

Ja, dort war ich Teamleiterin in einem Forschungsprojekt, das sich mit Produkten und den Bedürfnissen des chinesischen Markts beschäftigt hat.

Um was ging es dabei genau?

Die Erwartungen der chinesischen und deutschen Kunden sind nicht immer dieselben. Im Westen ist der Geruch eines Neufahrzeugs zum Beispiel etwas ganz Besonderes, die meisten Nutzer assoziieren damit etwas Positives und Edles. Dort kann man sogar Lufterfrischer mit dieser Duftnote kaufen. In China hingegen wird der Geruch eher als störend wahrgenommen. Solche interkulturellen Unterschiede gibt es auf der ganzen Welt. Unser Team hat mit Kunden in China gesprochen und somit die Grundlage dafür geliefert, dass die Produkte besser an die Bedürfnisse der Menschen angepasst werden konnten. Die Erforschung interkultureller Unterschiede ist ja wie für mich gemacht.

Weil Sie als Kind viel unterwegs waren, meinen Sie?

Ja, mein Vater kommt ursprünglich aus Schweden und meine Mutter von den Philippinen. Weil mein Vater in der Öl- und Schifffahrtsindustrie tätig war, sind wir oft umgezogen und haben in Japan, Nigeria, Großbritannien, Schweden und Deutschland gelebt. Ich habe früh gelernt, offen für neue Kulturen zu sein und kommunikativ auf Menschen zuzugehen.

Und Kommunikation war dann auch im Fokus Ihrer Doktorarbeit.

Ja, ich habe mich an der University of the West of Scotland mit dem Thema “Forschungskommunikation” beschäftigt. Das war eine Kooperation mit der Hochschule für Medien in Stuttgart. Es geht in meiner Dissertation darum, wie Ergebnisse und Erkenntnisse so dargestellt und kommuniziert werden können, dass ihre Bedeutung und Anwendbarkeit besser erkannt werden und dass sie für die Entwicklung von Innovationen in Unternehmen genutzt werden können. Und das Ganze habe ich unter anderem am Fall der Daimler Zukunftsforschung in Sindelfingen analysiert. Das war dort auch das erste Mal, dass sich eine Doktorarbeit um die Prozesse und die Kommunikation dreht, und nicht um eine technologische Frage.

Mit 40 Jahren war ich damals die älteste Doktorandin im Konzern (lacht). Daimler bietet wirklich viele individuelle Karriere- und Weiterbildungsmöglichkeiten!

Mit 40 Jahren war ich damals die älteste Doktorandin im Konzern. Daimler bietet wirklich viele individuelle Karriere- und Weiterbildungsmöglichkeiten!
Elizabeth Hofvenschioeld (44) Elizabeth „Beth“ Hofvenschioeld ist die Tochter einer Filipina und eines Schweden und ist mit einem Deutschen verheiratet. Neben Deutsch, Englisch und Schwedisch spricht sie Französisch, Mandarin und Tagalog. Beth hat Archäologie studiert und anschließend noch ein Masterstudium in Mensch-Maschine-Interaktion absolviert. Nach ihrer Zeit bei Daimler in Peking suchte sie nach einer neuen beruflichen Herausforderung, die sie als Doktorandin bei der Daimler-Zukunftsforschung fand. Heute berät sie mit einem Team in der Rechtsabteilung von Daimler Entwickler und Strategen zu ethischen und gesellschaftlichen Fragen.

Wir verwenden Cookies

Damit wollen wir unsere Webseiten nutzerfreundlicher gestalten und fortlaufend verbessern. Wenn Sie die Webseiten weiter nutzen, stimmen Sie dadurch der Verwendung von Cookies zu.