Mensch Maschine Interaktion

Die Ethik machthungriger Algorithmen

Die Ethik machthungriger Algorithmen

Abbildung 1:lunch-with-robots-atop-a-skyscraper

Wie können die Interaktion zwischen Menschen und Maschinen aussehen, wenn Letztere nicht bloß allein vom Menschen zu steuernde Automaten sind, sondern Selbststeuerungsvermögen haben?

Stellen Sie sich vor, Künstliche Intelligenz (KI), wird mit der Aufgabe betraut, den Planeten zu schützen – seine Ressourcen, die Nachhaltigkeit und das geregelte Auskommen mit der Natur. Was würde die KI tun, wenn Menschen diesen Zielen zuwiderlaufen?  Menschen würden es als Problem sehen und entschieden dagegen vorgehen. Das bedeutet, es ist zwingend notwendig Regeln und Ethik aufzunehmen, um etwaige Zielkonflikte zwischen dem was die KI anstrebt und dem was wir als Schöpfer dieser KI insgesamt anstreben.

Gemäß dem Duden wird Ethik mit der Gesamtheit sittlicher und moralischer Normen und Maximen, die einer verantwortungsbewussten Einstellung zugrunde liegen, definiert. Moral bedeutet schwarz – weiß, richtig oder falsch, gut oder schlecht. Es gibt jedoch zwischen Richtig und Falsch viele situative Variablen, wo Vernunft und angemessenes Vorgehen gefragt ist. Ein Mensch entscheidet aufgrund seiner Erziehung, Erfahrungen und persönlichem Ermessen zwischen Moral – was dem sittlichen Verhalten des Menschen zum Gegenstand hat – und der richtigen vernünftigen Einschätzung der vorliegenden Situation – also Vernunft. Ethik ist Vernunft. Ist KI vernünftig? Woher weiß die KI eines selbstfahrenden Autos, nach welchen Entscheidungsvarianten sie bei der Vermeidung eines Verkehrsunfall eingreifen soll? Schützt sie die Mutter mit Kind oder den Pensionisten der die Straße ohne zu Schauen überquert oder der Schüler, der auf die Straße gelaufen ist, um den Pensionisten zu Hilfe zu eilen? Ein Mensch reagiert intuitiv und entscheidet sich vielleicht das Auto gegen den Baum zu fahren, um die verschiedenen Passanten zu schützen. Wie jedoch entscheidet die KI?

Ein anderes interessantes aktuelles Beispiel ist der kürzlich abgebrochene Versuch von Facebook; es handelte sich hier um zwei Chatbots, die zusammen geschaltet wurden um miteinander beim Verkauf von Hüten, Bällen und Büchern zu verhandeln. Jedem Gegenstand würde ein bestimmter Wert zugewiesen. Die Roboter wurden instruiert, sich untereinander auszumachen, wie sie miteinander verhandeln und diesen Verhandlungsprozess sukzessive zu verbessern. Das Ziel war es, dass diese Technologie dann mit Menschen zum Einsatz kommt. Die Chatbots wurden jedoch nicht instruiert, ein verständliches Englisch zu benutzen. Beide Roboter entwickleten eine Sprache  die für uns Menschen keinen Sinn ergab. Deren eigene Sprache resultierte eigentlich im erreichen des Zieles, nämlich sich über eine Transaktion zu einigen. Das KIs in der Lage sind eine eigene Sprache zu entwickeln, ohne das dies beabsichtigt war, veranlasste Facebook das Experiment abzubrechen. Das Ziel der Ethik wurde hier verfehlt.(Vgl.independent.co.uk/life-style/facebook-artificial-intelligence-ai-chatbot-new-language-research-openai-google)

Der Vorsitzende des Deutschen Ethikrates, Peter Dabrock, beschäftigt sich mit den Fortschritten auf dem Gebiet der künstlichen Intelligenz und sieht eine Reihe ethischer, rechtlicher und sozialer Fragen auf uns zukommen. Konkret eröffnete er mit dieser Mahnung die Jahrestagung zum Thema Autonome Systeme, die in Berlin stattfand. Für die Entwickler sogenannter autonomer Systeme wie selbstfahrende Autos, Pflegeroboter, vernetzte Haushaltsgeräte aber auch autonome Waffensysteme sind dies gute Aussichten. Experten zufolge erlauben eine ausgeklügelte Sensorik, komplexe und selbstlernende Algorithmen sowie umfassende Vernetzungsmöglichkeiten den Systemen, „schnell und unter Abgleich vielfältiger Daten auf ihre Umwelt zu reagieren und weitgehend unabhängig von menschlichen Eingriffen zu agieren“.(Vgl.springerprofessional.de/die-ethik-machthungriger-algorithmen)

Mit dem am 1. August 2007 in Kraft getretenem Gesetz zur Einrichtung des Deutschen Ethikrats (Ethikratgesetz – EthRG) befasst sich ein unabhängiger Sachverständigenrat mit ethischen, gesellschaftlichen, naturwissenschaftlichen, medizinischen und rechtlichen Fragen. Dazu gehören auch die voraussichtlichen Folgen für Individuum und Gesellschaft, die sich im Zusammenhang mit der Forschung und den Entwicklungen insbesondere auf dem Gebiet der Lebenswissenschaften und ihrer Anwendung auf den Menschen ergeben. Auch deshalb hinterfragt Dabrock die Entwicklung kritisch, ob „wir im Meer unserer Datenströme selbstbestimmt bleiben können, oder stolpern wir – mehr berauscht als bewusst – vor lauter Freude an Miniaturverbesserungen unseres Alltages in eine Unmündigkeitsfalle hinein?“. Seiner Ansicht nach ist die gesamte Gesellschaft gefragt, „mitzureden und mitzugestalten, wie sie das erhebliche Potenzial der neuen Entwicklungen nutzen will“. Wie wichtig die Diskussion jetzt ist, zeigt der Bericht von Henning Kagermann von der Deutschen Technikakademie acatech. Er erklärt, was hochautomatisierte Systeme bereits können und wie mithilfe von Methoden der künstlichen Intelligenz eine neue Generation zunehmend autonomer Systeme entsteht. Ob Industrieproduktion, Mobilität, Smart Home oder für Menschen gefährliche (Rettungs-)Maßnahmen – für alle Anwendungsfelder gelte, dass mit den Maschinen Menschen unterstützt und ihre Fähigkeiten ergänzt, sie aber nicht ersetzt werden sollten. Deshalb sei so Kagermann, „ein frühzeitiger und langfristig angelegter gesellschaftlicher Dialog nötig, in dem Chancen und Risiken transparent gemacht und gegeneinander abgewogen werden“.(Vgl.ethikrat.org/ueber-uns/ethikratgesetz)(Vgl.springerprofessional.de/die-ethik-machthungriger-algorithmen)

Es ist mit Spannung zu erwarten, welche Erkenntnisse zum Thema Ethik in die Entwicklung solcher KIs in Zukunft einfließen wird, damit Mensch noch die Möglichkeiten hat, einzugreifen und.

Quellen

Independent Digital News and Media, Limited (2017), „Facebook´s Artificial Intelligence – Robots shut down after they start talking to each other in their own language“, URL: http://www.independent.co.uk/life-style/gadgets-and-tech/news/facebook-artificial-intelligence-ai-chatbot-new-language-research-openai-google-a7869706.html . [Stand: Montag 31 July 2017 16:10 BST]

Springer Fachmedien Wiesbaden, GmbH (2017), „Die Ethik machthungriger Algorithmen“, URL:https://www.springerprofessional.de/mensch-maschine-interaktion/informationssysteme/die-ethik-machthungriger-algorithmen/12469336. [Stand: Juni 2017]

Deutschen Ethikrat, Organization (2007), „Gesetz zur Einrichtung des Deutschen Ethikrats (Ethikratgesetz – EthRG) “, URL: http://www.ethikrat.org/ueber-uns/ethikratgesetz[Stand: März 2014 ]

Bilderverzeichnis

Abbildung 1: lunch-with-robots-atop-a-skyscraper

 

machine brain Team.



Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.