MENSCHEN
Für die Gesellschaft

Disruptive Technologien und die Ambivalenz der Forschung

Die rasante Entwicklung von Technologien wie künstlicher Intelligenz und Quantentechnologien verändert unser Leben grundlegend. Doch Fortschritt birgt auch Risiken: Die Nutzung für zivile und militärische Zwecke und weitere ethische Dilemmata stellen Wissenschaftler:innen vor große Herausforderungen.

Vorabversion

Für viele Menschen deutlich sichtbar beschleunigt sich der wissenschaftlich-technische Fortschritt weiter. Neue Materialien, Energiesysteme oder digitale Technologien verändern unser tägliches Leben. Die Physik ist daran, ebenso wie andere Disziplinen, mit Innovationen und bahnbrechenden wissenschaftlichen Erkenntnissen beteiligt. Diese fußen auf grundlegender und angewandter Forschung. Auch ist von neuen „disruptiven“ Technologien die Rede. Darunter versteht man zukunftsweisende Entwicklungen, die bereits existierende Technologien, Produkte oder Dienstleistungen ersetzen oder diese vom Markt verdrängen. Genannt werden heute insbesondere die künstliche Intelligenz oder die Quantentechnologien. Moderne KI-Systeme basieren fast ausschließlich auf künstlichen neuronalen Netzwerken. Das sind Netzwerke, die aus einzelnen, miteinander verknüpften Einheiten bestehen und mithilfe von Daten selbst lernen können. Quantentechnologien nutzen die Gesetze der Quantenmechanik. Ziele sind hier u. a. der Bau von superschnellen Quantencomputern, neuen höchst empfindlichen Sensoren und verschlüsselter Kommunikation. Viele künftige Entwicklungen haben ein enormes wirtschaftliches Potenzial und sind das Ergebnis von Grundlagenforschung.

Anwendung – für welche Zwecke?

Die oft nicht voraussagbaren Ergebnisse von Grundlagenforschung und angewandter Forschung bringen viele wirtschaftlich und gesellschaftlich lukrative und faszinierende Anwendungschancen mit sich, die aber auch neue Risiken, Missbrauchsmöglichkeiten und militärrelevante Anwendungen beinhalten. Die Forschenden sind dabei im Prinzip die ersten, die mögliche Konsequenzen ihrer Ergebnisse einschätzen können. Die schnellen Technologiezyklen, nationale Wettbewerbe, lukrative Verwertungsangebote oder die schnelle Weiterverbreitung von Erkenntnissen erschweren dabei eine gezielte und interdisziplinäre Technologiefolgenabschätzung. Die Ergebnisse von Grundlagenforschung sind ambivalent, d. h. sie können zu einer konflikthaften, von gegensätzlichen Aspekten geprägten Bewertung eines Forschungsergebnisses führen. Klassische Beispiele sind die Nutzung der Kernkraft für zivile (Reaktoren) wie militärische Zwecke (Atombombe) oder die Entschlüsselung der DNS und damit die Möglichkeit der Manipulation von Genen und die Schaffung biologischer Waffen (Stichwort: CRISPR-CAS). Die Konsequenzen solcher Entwicklungen sind sehr schwer vorauszusehen, denn wenn solche Ergebnisse öffentlich werden oder die jeweiligen Technologien proliferieren, steigt auch das Missbrauchspotenzial durch andere.

Oft wird auch von Doppelverwendbarkeit („Dual-Use“) gesprochen. Hierunter versteht man allgemein die Verwendbarkeit von Technologien, Gütern oder Software sowohl für zivile als auch für militärische Zwecke. Dies ist besonders für die nationale und europäische Rüstungsexportkontrolle von Bedeutung, da bestimmte Technologien oder Baupläne nicht in die Hände anderer Staaten gelangen sollen, insbesondere im Bereich von Massenvernichtungswaffen, deren Entwicklung, Besitz und Einsatz Deutschland durch internationale Verträge und Kontrollregime verboten ist. International geregelte Güter sind in der Außenwirtschaftsverordnung und der EU-Dual-Use-Verordnung aufgelistet. Forscher:innen haben die Pflicht, sich darüber zu informieren, was in manchen Anwendungsfeldern, wie etwa der Softwareentwicklung, nicht einfach ist. Zudem haben Universitäten und Forschungseinrichtungen in Bundesländern Zivilklauseln beschlossen, die betonen, ausschließlich für zivile und nicht für militärische Zwecke zu forschen. Der Artikel 26.1 des Grundgesetzes hebt hervor, dass „Handlungen, die geeignet sind und in der Absicht vorgenommen werden, das friedliche Zusammenleben der Völker zu stören, insbesondere die Führung eines Angriffskrieges vorzubereiten, verfassungswidrig“ sind und unter Strafe stehen. Freiheit von Lehre und Forschung hingegen sind im Artikel 5 unserer Verfassung festgeschrieben.

Ethische Bewertungsmaßstäbe

„Aggregat 4“ und „Vergeltungswaffe 2“ – die Zeit der Raumfahrt nahm in der Heeresversuchsanstalt Peenemünde vor und während des 2. Weltkriegs ihren Anfang. Die Finanzierung der Arbeiten beruhte darauf, dass die Raketen als verheerende Waffe gegen London eingesetzt wurden. Der Kopf des deutschen Raketenwaffenprogramms, Wernher von Braun, leitete später die Entwicklung der Mondraketen der NASA. Ambivalenz, sowohl im Forschungsinhalt als auch in der Person.

Aus der Wissenschaftsfreiheit und dem Wissen über potenziell schädliche Entwicklungen leitet sich aber auch eine besondere Verantwortung der Wissenschaft ab. Die Leopoldina und die DFG haben 2014 und 2022 Empfehlungen zum Umgang mit sicherheitsrelevanter Forschung veröffentlicht, um das Problembewusstsein und die Bewertungskompetenz der Forschergemeinschaft zu stärken. Es geht also nicht nur um späteren militärischen oder zivilen Dual-Use, sondern auch um Multipurpose-Use-Anwendungen (Mehrzweckanwendungen) in verschiedenen gesellschaftlichen Bereichen, da wissenschaftliche Entwicklungen für viele Teile der Gesellschaft sicherheitsrelevant sein können. Die deutsche Wissenschaft setzt hier auf Eigenverantwortung und Selbstregulierung. Zu diesem Zweck wurden von der Leopoldina sowohl ein gemeinsamer Ausschuss als auch bei bestimmten Institutionen „Kommissionen für die Ethik sicherheitsrelevanter Forschung“ (KEF) gegründet (siehe auch „Ethik in der Forschung“ auf Seite 327). Hier wird insbesondere von „besorgniserregender sicherheitsrelevanter Forschung wissenschaftlicher Arbeiten“ gesprochen, „bei der die Möglichkeit besteht, dass sie Wissen, Produkte oder Technologien hervorbringen, die unmittelbar von Dritten missbraucht werden können, um Menschenwürde, Leben, Gesundheit, Freiheit, Eigentum, Umwelt oder friedliches Zusammenleben erheblich zu schädigen.“ In den letzten Jahren wurden neben Richt­linien zudem Checklisten zur ethischen Bewertung sicherheitsrelevanter Forschung erarbeitet, Schulungs- und In­for­ma­ti­ons­ma­te­ri­a­lien ent­wickelt und die Kom­pe­tenz­bildung weiter voran­ge­trie­ben. Das Thematisieren ethischer Fragestellungen in der wissenschaftlichen Lehre kann hier frühzeitig Gefahren vorbeugen und die späteren Forscher:innen auf mögliche Zielkonflikte und Dilemmata vorbereiten, schließlich geht es auch um die Sicherheit von Forscher:innen selbst.

2017 hat die Max-Planck-Gesellschaft „Hinweise und Regeln der Max-Planck-Gesellschaft zum verantwortlichen Umgang mit Forschungsfreiheit und Forschungsrisiken“ erarbeitet. Hier wird betont: „Eine erfolgreiche Grundlagenforschung erfordert weiter die Transparenz, den freien Informationsaustausch sowie die Veröffentlichung von Forschungsergebnissen.“ Hier sind Zielkonflikte und Dilemmata möglich und eine Risikominimierung geboten.

Sicherheitsrelevante Forschung

Forschungsbereiche, die ein besonderes Risikopotenzial in Bezug auf die internationale Sicherheit haben, sind laut eines aktuellen Berichts des Generalsekretärs der Vereinten Nationen: künstliche Intelligenz (Mustererkennung, maschinelles Lernen) und Autonomie, Quantentechnologien (Quantencomputer), unbemannte Waffensysteme, Bioinformatik und synthetische Biologie, digitale Technologien (Cyberangriffe), Materialtechnologien, Weltraumtechnologien oder elektro­magnetische Erzeugung von Strahlung wie z. B. Laserlicht. Hier wird die Integration von Technologieanalysen und Nutzen-Risiko-Überprüfungen von besonders schädlichen Entwicklungen im Forschungsprozess durch verantwortliche Staaten eingefordert.

In den letzten Jahren – besonders nach Beginn des Angriffs Russlands auf die Ukraine – ist unter dem Stichwort „Zeitenwende“ die Forderung erhoben worden, Universitäten und Forschungseinrichtungen sollten stärker in militärrelevante Forschung eingebunden werden. Angesichts der veränderten globalen Rahmenbedingungen solle die strikte Trennung zwischen ziviler und militärischer Forschung und Entwicklung aufgelöst werden. Wenngleich eine gesellschaftliche Diskussion angesichts veränderter geopolitischer Situationen notwendig erscheint, so muss darauf verwiesen werden, dass Wissenschaft von Offenheit, einer kooperativen Forschungsatmosphäre, freiem Informationsaustausch und der Veröffentlichung der Forschungsergebnisse lebt und Militärforschung Geheimhaltung erfordert, die ein offener Wissenschaftsbetrieb nicht einhalten kann.

Götz Neuneck