Speech by Federal President Dr. Frank-Walter Steinmeier at the reception for the members of the German Ethics Council on June 26, 2018, in Berlin:
Frank-Walter Steinmeier · Federal President of Germany
- Context
- Steinmeier addressed members of the German Ethics Council at a reception at Schloss Bellevue, Berlin, on June 26, 2018, marking the council's evolving role in advising on emerging ethical challenges.
- Main themes
- Ethics of digitalization, artificial intelligence, human dignity, technological progress, genome and brain intervention, democratic society, political advisory role, German Ethics Council, Silicon Valley culture, Yuval Harari's thought experiment, innovation and risk, aging society and healthcare
- Duration
- ~7 min
- Words
- 834
- Sentences
- 38
- Readability
- 40
- Grade
- 13.1
- Syntax
- 3.13
- Vocabulary
- 2.26
Translated from German
The broad sphere of national life a sentence belongs to. Every sentence has an Arena, so it is the denominator the other indices are read against.
Other38 sentences in 14 paragraphs
How wonderful to have you here. A warm welcome to Schloss Bellevue!
I still remember well when the National Ethics Council was founded during my time in the Chancellery in 2001, which ten years ago evolved into the German Ethics Council. Today, we can rightly say: If the Ethics Council had not been established back then, we would need it more urgently than ever today.
Ethical questions have gained importance in political consulting worldwide in recent years. This is not only felt by us in Germany, but there are now national ethics committees in around 100 countries, and nowhere have these questions become less, let alone simpler.
In more and more areas of policy, we are encountering ethical boundary questions. And on many of these boundary questions, you have expressed your views in recent years through statements: on dementia and self-determination, for example, on pre-implantation diagnostics, or on the cost-benefit considerations in the ever-growing healthcare sector. In doing so, you are negotiating topics that could not be more relevant in an aging society and the current debate about the situation of care in Germany.
At the same time, you are looking ahead to the great ethical challenges on the horizon of science, which can be roughly outlined as follows: the intervention in the human genome, the intervention in the human brain, as well as the opportunities and risks of artificial intelligence. Many of these questions may still sound like science fiction to many of our citizens – but for you, they are on the table because they are already shaping laboratories and research centers today. For example:
How do we deal with "Artificial General Intelligence" – a perfected artificial intelligence that would completely surpass our own?
What are the consequences of intervening in the human germline? A utopia for curing rare diseases or a dystopia of limitless "optimization" of humans?
How will we coexist when brain implants are no longer only used in cases of illness, but are circulated solely for individual knowledge and competitive advantage? Or, as entrepreneur Elon Musk demands, to upgrade humans to cyborgs in the long term, because otherwise they would become redundant in the midst of artificial ambient intelligence?
Last week, I was in California and Silicon Valley. I had the feeling that there the focus is mainly on the opportunities of new technological possibilities, while the risks are often dismissed with a roll of the eyes, as if they were questions of naysayers and those stuck in the past. The motto: Economy and science drive technological change forward, and politics somehow deals with the consequences, I consider to be the wrong approach. I am convinced: Our society is not anti-progress. On the contrary: The Germans are proud that we are an innovation society. But the willingness to innovate, the curiosity, the desire for the future will only be maintained if answers are also provided to the open questions, the uncertainties, the risks that technological upheavals bring about. And these answers cannot be provided by politics alone; those who drive innovation forward must also be involved.
The Israeli historian Yuval Harari, whom you have invited to your conference and with whom I spoke at length last night, has posed the following thought experiment: If machines are fed more and more data about our wishes and longings, our pulse and heart rate, our purchasing behavior, and our GPS data, then at some point they will make all decisions for us. The new and dangerous aspect of this: Presumably, these decisions would be better, in the sense of more efficient, than any human could ever make. Our democratic society would be at an end if elections become unnecessary because the algorithm apparently knows my preferences better than I do.
That would be fatal, because technological progress is supposed to – in the spirit of Kant's Enlightenment motto – facilitate humanity's emergence from immaturity, and not be a voluntary entry into new immaturity. New technology, however, can do both: empower and disempower. If we are not vigilant, I see the risk that we will transition from an era in which the machine served humanity to an age in which humanity serves the machine.
To be clear: I do not share this fatalistic determinism. However, to prevent this from happening, we need a broad debate on the ethics of digitalization. Because this ethics is not primarily about the future of technologies, but about our own future – as human beings and as a human society. An ethics of digitalization is necessary so that we can shape the future in such a way that security and prosperity are maintained in change; and not just for a small technologically enhanced elite, but for all citizens.
With your work, you are making an important contribution to this societal debate. The dignity of the human being is your compass. Politics will urgently need your advice in the next ten years and beyond.
I thank you all for your commitment and look forward to the conversation with you.
The original German. The tags above are read on the English translation's sentences.
Wie schön, Sie hier zu haben. Herzlich willkommen im Schloss Bellevue!
Ich erinnere mich noch gut daran, als während meiner Zeit im Kanzleramt im Jahr 2001 der Nationale Ethikrat gegründet wurde, aus dem vor zehn Jahren der Deutsche Ethikrat hervorgegangen ist. Wir können heute mit Fug und Recht sagen: Wenn damals der Ethikrat nicht gegründet worden wäre, heute bräuchten wir ihn dringender denn je.
Ethische Fragen haben in der Politikberatung in den vergangenen Jahren weltweit an Bedeutung gewonnen. Das empfinden nicht nur wir in Deutschland so, sondern in rund 100 Staaten gibt es mittlerweile nationale Ethikgremien und nirgendwo sind diese Fragen weniger, geschweige denn einfacher geworden.
In immer mehr Politikfeldern stoßen wir an ethische Grenzfragen. Und zu vielen dieser Grenzfragen haben Sie sich in den vergangenen Jahren durch Stellungnahmen geäußert: zu Demenz und Selbstbestimmung etwa, zur Präimplantationsdiagnostik oder zu den Kosten- und Nutzenabwägungen im stetig wachsenden Sektor des Gesundheitswesens. Damit verhandeln Sie Themen, die in einer alternden Gesellschaft und der gegenwärtigen Debatte um die Situation der Pflege in Deutschland relevanter nicht sein könnten.
Gleichzeitig werfen Sie den Blick voraus auf die großen ethischen Herausforderungen am Horizont der Wissenschaft, die man grob wie folgt skizzieren kann: den Eingriff in das menschliche Genom, den in das menschliche Gehirn sowie die Chancen und Risiken der künstlichen Intelligenz. Nicht wenige dieser Fragen klingen für viele unserer Bürgerinnen und Bürger wahrscheinlich noch nach Science-Fiction – aber bei Ihnen liegen sie auf dem Tisch, weil sie eben die Labore und Forschungszentren schon heute bestimmen. Zum Beispiel:
Wie gehen wir mit einer "Artificial General Intelligence" um – einer vollendeten künstlichen Intelligenz, die unsere eigene vollends übertreffen würde?
Was sind die Folgen des Eingriffs in die menschliche Keimbahn? Eine Utopie zur Heilung seltener Krankheiten oder eine Dystopie der grenzenlosen "Optimierung" des Menschen?
Wie werden wir zusammenleben, wenn Gehirnimplantate nicht mehr nur im Krankheitsfall Anwendung finden, sondern allein zum individuellen Wissens- und Wettbewerbsvorteil in Umlauf geraten? Oder, wie der Unternehmer Elon Musk fordert, den Menschen langfristig zum Cyborg aufzurüsten, weil er sonst inmitten der künstlichen Umgebungsintelligenz überflüssig werden würde?
Vergangene Woche war ich in Kalifornien und dem Silicon Valley unterwegs. Ich hatte das Gefühl, dass dort das Augenmerk hauptsächlich auf den Chancen der neuen technischen Möglichkeiten liegt, während die Risiken von vielen höchstens mit einem Augenrollen abgehandelt werden, als seien das Fragen der Bedenkenträger und Ewiggestrigen. Das Motto: Wirtschaft und Wissenschaft treiben technische Veränderung voran, und Politik beschäftigt sich dann irgendwie mit den Folgen, halte ich allerdings für den falschen Weg. Ich bin überzeugt: Unsere Gesellschaft ist nicht fortschrittsfeindlich. Im Gegenteil: Die Deutschen sind stolz darauf, dass wir eine Innovationsgesellschaft sind. Aber die Bereitschaft zur Innovation, die Neugier, die Lust auf Zukunft wird nur erhalten bleiben, wenn eben auch Antworten auf die offenen Fragen, die Unsicherheiten, die Risiken gegeben werden, die technologische Umwälzungen hervorrufen. Und diese Antworten kann nicht Politik allein geben, sondern an denen müssen auch die mitarbeiten, die Innovation vorantreiben.
Der israelische Historiker Yuval Harari, den Sie zu Ihrer Tagung eingeladen haben und mit dem ich gestern Abend lange gesprochen habe, hat folgendes Gedankenexperiment angestellt: Wenn Maschinen mit immer mehr Daten über unsere Wünsche und Sehnsüchte, unseren Puls und Herzfrequenz, unser Kaufverhalten und unsere GPS-Daten gefüttert werden, dann treffen diese irgendwann alle Entscheidungen für uns. Das Neue und Gefährliche daran: Vermutlich wären diese Entscheidungen besser, im Sinne von effizienter, als sie der Mensch je treffen könnte. Unsere demokratische Gesellschaft wäre am Ende, wenn Wahlen überflüssig werden, weil der Algorithmus meine Präferenzen augenscheinlich besser kennt als ich selbst.
Das wäre fatal, denn der technologische Fortschritt soll ja – frei nach Kants aufklärerischem Motto – den Ausgang des Menschen aus der Unmündigkeit erleichtern, und nicht der freiwillige Einstieg in neue Unmündigkeit sein. Neue Technologie aber kann beides: befähigen und entmündigen. Wenn wir aber nicht wachsam sind, sehe ich jedenfalls das Risiko, dass wir aus einer Zeit, in der die Maschine dem Menschen diente, eintreten in ein Zeitalter, in der der Mensch der Maschine dient.
Um es klar zu sagen: Ich teile diesen fatalistischen Determinismus nicht. Damit es allerdings nicht so weit kommt, brauchen wir eine breite Debatte zur Ethik der Digitalisierung. Denn es geht bei dieser Ethik nicht in erster Linie um die Zukunft von Technologien, sondern es geht um unsere eigene Zukunft – als Menschen und als menschliche Gesellschaft. Eine Ethik der Digitalisierung ist nötig, damit wir die Zukunft so gestalten können, dass Sicherheit und Wohlstand im Wandel erhalten bleiben; und zwar nicht für eine kleine technologisch aufgewertete Elite, sondern für alle Bürgerinnen und Bürger.
Zu dieser gesellschaftlichen Debatte leisten Sie mit Ihrer Arbeit einen wichtigen Beitrag. Die Würde des Menschen ist dabei Ihr Kompass. Ihren Rat wird die Politik auch in den nächsten zehn Jahren und darüber hinaus dringend brauchen.
Ich danke Ihnen allen für Ihren Einsatz und freue mich auf das Gespräch mit Ihnen.