Autonome Systeme – Wie intelligente Maschinen uns verändern

Selbstfahrende Autos, Pflegeroboter, vernetzte Haushaltsgeräte und autonome Waffensysteme existieren längst nicht mehr nur auf dem Papier. Zumindest als Prototypen "agieren" sie zunehmend mitten unter uns: Maschinen, die unabhängig von menschlichen Befehlen scheinbar selbstständig handeln.

Im Gegensatz zu herkömmlichen Automaten sollen solche "autonomen" Systeme den Nutzern nicht nur langweilige, schwierige oder gefährliche Aufgaben abnehmen, sondern auch in der Lage sein, in Alltagssituationen die "richtigen" Entscheidungen zu treffen. Ausgeklügelte Sensoren, Vernetzungsmöglichkeiten und selbstlernende Algorithmen erlauben es den neuen Maschinen, schnell, empfindlich und unter Abgleich vielfältiger Daten auf ihre Umwelt zu reagieren.

Dabei wird oft der Eindruck erweckt, es handle sich um eine kontinuierliche Weiterentwicklung aus ethischer Sicht bisher nicht grundsätzlich infrage gestellter Assistenzsysteme. Im Unterschied zu diesen verlangen autonome Systeme dem Menschen jedoch deutlich weniger Aufmerksamkeit und Beteiligung an Entscheidungsprozessen ab. Daraus ergeben sich eine Reihe ethischer, rechtlicher und sozialer Fragen, die der Deutsche Ethikrat im Verlauf seiner Jahrestagung ansprechen will:

• Wer trägt die Verantwortung für die "Handlungen" autonomer Maschinen, wenn der Nutzer selbst an solchen Entscheidungen nicht oder nur noch am Rande beteiligt ist?
• Nach welchen Kriterien sollen Maschinen im Konfliktfall "entscheiden", und wer legt diese fest?
• Wie kann ein angemessener Umgang mit den großen Mengen sensibler Daten gewährleistet werden, die autonome Systeme zwecks optimaler Funktion erheben und austauschen müssen?
• Wie lassen sich Risiken minimieren, dass solche Systeme von anderen missbraucht werden?
• Wie verändern "intelligente" Maschinen unser Selbstverständnis?

Diskutieren Sie mit unter #AutonomeSysteme!

Begrüßung
Peter Dabrock · Vorsitzender des Deutschen Ethikrates

Was können selbststeuernde Systeme?
Henning Kagermann · acatech – Deutsche Akademie der Technikwissenschaften
Präsentation

Ökonomischer Kommentar: Autonome Maschinen im Dienst des Kunden?
Christoph M. Schmidt · RWI – Leibniz-Institut für Wirtschaftsforschung
Präsentation

Technischer Kommentar: Die Macht der Algorithmen
Katharina A. Zweig · Technische Universität Kaiserslautern
Präsentation

Diskussion
Moderation: Stephan Kruip · Deutscher Ethikrat

Regeln für Roboter: Wer trägt Verantwortung für autonome Systeme?
Julian Nida-Rümelin · Ludwig-Maximilians-Universität München

Rechtlicher Kommentar: Was dürfen Maschinen?
Christiane Wendehorst · Universität Wien
Präsentation

Diskussion
Moderation: Carl Friedrich Gethmann · Deutscher Ethikrat

Parallele Foren

Forum A – Selbstfahrende Autos
Joachim Damasky · Verband der Automobilindustrie

Reinhard Merkel · Deutscher Ethikrat

Moderation: Peter Dabrock · Vorsitzender des Deutschen Ethikrates

Forum B – Medizinmaschinen und Pflegeroboter
Birgit Graf · Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA
Präsentation

Steffen Leonhardt · RWTH Aachen University

Arne Manzeschke · Evangelische Hochschule Nürnberg
Präsentation

Moderation: Adelheid Kuhlmey · Deutscher Ethikrat

Forum C – Das vernetzte Heim
Wolfgang Maaß · Deutsches Forschungszentrum für Künstliche Intelligenz
Präsentation

Johanna Kardel · Verbraucherzentrale Bundesverband
Präsentation

Michael Decker · Karlsruher Institut für Technologie
Präsentation

Moderation: Carl Friedrich Gethmann · Deutscher Ethikrat

Forum D – Autonome Waffensysteme
Karl Müllner · Inspekteur der Luftwaffe

Bernhard Koch · Institut für Theologie und Frieden

Moderation: Steffen Augsberg · Deutscher Ethikrat

Berichte aus den Foren
Peter Dabrock
Adelheid Kuhlmey
Carl Friedrich Gethmann
Steffen Augsberg

Wie verändern intelligente Maschinen unser Selbstverständnis?
Thea Dorn · Schriftstellerin

Schlusswort
Peter Dabrock · Vorsitzender des Deutschen Ethikrates

Weitere Medien finden Sie in der Mediathek