Schlagwort: Medizin

„Trotz allen Fortschritts ist es nicht die KI, die Verantwortung trägt.“ Universitätsprofessorin Anne Siegetsleitner zu Fragen der Ethik in der Forschung

Georg Haderer wirft in seinem Kriminalroman „Seht ihr es nicht?“ die Frage auf: Was darf Wissenschaft und wo stößt sie an ihre moralischen Grenzen? Wir haben mit Univ.-Prof.in  Mag.a Dr.in Anne Siegetsleitner darüber gesprochen, was überhaupt unter den Begriffen „Moral“ und „Ethik“ zu verstehen ist,  welche Herausforderungen im Bereich der Technik am drängendsten sind und ob eine „Angst vor den Maschinen“ gerechtfertigt ist.

Oft spricht man sehr allgemein über die Begriffe „Moral“ und „Ethik“. Religiöse Menschen beziehen sich dabei gern auf religiöse Schriften wie die Bibel oder den Koran, andere wiederum richten sich nach Gesetzen. Wonach richten sich Ethiker*innen, wenn sie über „moralisch richtiges Verhalten“ sprechen?

Das hängt ganz davon ab, wen Sie meinen, wenn Sie von „Ethiker*innen“ sprechen. Vielfach wird heute das Wort „Ethik“ einfach anstatt „Moral“ verwendet, weil es besser klingt, weniger streng und moralinsauer. Menschen richten sich dann nach ihren persönlichen Maßstäben oder jenen ihrer Moralgruppe, sehr häufig einer religiösen Gruppe, treten aber als „Ethiker*innen“ auf. Wer sich vormals als Moraltheologe auswies, nennt sich heute eben oft „Ethiker“. Wer als Soziologin bestehende moralische Haltungen z.B. in der Medizin im Rahmen der empirischen Methoden des Faches erforscht, gibt persönliche moralische Urteile ab und bezeichnet sich als „Ethikerin“. KI-Expert*innen haben eine persönliche moralische Einstellung, und schwupps haben wir angeblich neue „KI-Ethiker*innen“. Eine Juristin leitet eine Ethikkommission und sieht sich deshalb als „Ethikerin“. Dadurch, dass sich diese Menschen als „Ethiker*innen“ bezeichnen, wird ihr spezifischer moralischer Standpunkt jedoch gut verdeckt. Das kann unüberlegt passieren oder als bewusste Immunisierungsstrategie eingesetzt werden.

Dass meist weniger hinterfragt wird, wenn jemand von „Ethik“ anstatt von „Moral“ spricht, liegt daran, dass in einem anderen Verständnis von „Ethik“ mit dem Gemeinten ein höherer Anspruch an Objektivität oder zumindest Intersubjektivität verbunden ist. Dann ist „Ethik“ nicht gleichbedeutend mit „Moral“. Die wichtigste Bedeutung von „Ethik“ in einer solchen Unterscheidung ist, dass mit „Ethik“ eine Teildisziplin der Philosophie bezeichnet wird, die Moral bzw. verschiedene Moralen philosophisch reflektiert. Das kann sehr unterschiedlich aussehen. Vieles, was Ethiker*innen in diesem Sinne tun und worin ihre Kompetenz liegt, besteht nicht darin, moralische Urteile abzugeben. Ethik nimmt keine Moral einfach hin, sie fragt nach Begründungen, nach der Möglichkeit und Reichweite von Begründungen, danach, was vorausgesetzt wird, ohne offengelegt zu werden. Ethiker*innen sind deshalb in machen Umgebungen gar nicht gerne gesehen. Sie stören das Nichthinterfragte. Das gilt meiner Erfahrung nach nicht zuletzt im stark traditionell geprägten Tirol.

Wenn Ethiker*innen im philosophischen Sinne moralische Urteile abgeben, geschieht dies auf der Grundlage von offengelegten Voraussetzungen, die sich immer einer Kritik stellen. Es sind Vorschläge im gemeinsamen Ringen um eine bessere Moral, d.h. einem Normen- und Wertesystem, das dem Zweck eines guten und gerechten Lebens sowie eines gedeihlichen Miteinanders besser dient als andere Vorschläge. Ethiker*innen sind keine säkularen Priester*innen, sie können auch religiös sein, solange dieser Zweck mit einer Religion vereinbar ist. Auch der Vorschlag, sich zu diesem Zweck nach Gesetzen zu richten, würde in der Ausgestaltung von Gesetzen seine Grenze finden.

In meiner eigenen Verwendung des Wortes „Ethik“ außerhalb des fachinternen Dialogs bin ich übrigens nicht immer konsequent. Ich will mich mit den Menschen über die Inhalte austauschen, und wenn ich das durch das Wort „Moral“ erschwere, sage ich eben auch „Ethik“, zumal ich tatsächlich Ethikerin im philosophischen Sinne bin. Wichtig ist mir dazuzusagen, worin ich meine Aufgabe und Zuständigkeit sehe und worin nicht.

 

Blickt man auf die Menschheitsgeschichte, wird klar: Was als „moralisch richtig“ angesehen wird, verändert sich. Ist eine universell gültige Moral überhaupt möglich? Gibt es einen Kern der Moral?

Nehmen wir den vorhin genannten Zweck als Formulierungsvorschlag für das Gemeinsame von Moralen, nämlich einem guten und gerechten Leben sowie einem gedeihlichen Miteinander zu dienen. Dass es auch in moralischer Hinsicht geschichtliche Veränderungen gibt, muss nicht heißen, dass es kein verbindendes Verständnis vom Zweck moralischer Beurteilung gibt. Es können sich ja die Umstände ändern oder eben in unterschiedlichen Regionen, Ländern, Gesellschaften unterschiedliche Rahmenbedingungen vorliegen. Es können aber auch im Laufe der Geschichte Vorurteile widerlegt werden, etwa jenes, dass Frauen weniger gut denken können als Männer. Dann ändern sich die spezifischen moralischen Urteile, obwohl sich an der grundsätzlichen Ausrichtung dessen, was mit „Moral“ gemeint ist, nichts geändert hat. Und es kann die geschichtliche Erfahrung geben, dass in einer Gesellschaft nicht immer alle dieselbe Vorstellung vom guten Leben haben müssen, sondern es ausreicht, einander auf individueller Ebene genügend Toleranzräume zu gewähren und gerade dadurch gut miteinander leben zu können. Eine solche Moral der Freiheitsräume, die einander gewährt werden, könnte universell gültig sein. Aber selbstverständlich ist sie nicht mit allem vereinbar, nämlich nicht mit fundamentalistischen Ansprüchen. Ob diese religiös oder nicht religiös sind, ist gar nicht der entscheidende Punkt.

Außerdem steht nicht fest, dass alle, die von „Moral“ sprechen, den oben genannten Zweck verfolgen. Und wenn wir darauf kommen, dass wir im Grundsätzlichen von Unterschiedlichem sprechen, dann ist es ratsam, das ausdrücklich kenntlich zu machen. Auch hierbei können Ethiker*innen im philosophischen Sinne äußerst hilfreich sein.

 

An der Universität Innsbruck lehren Sie u.a. zu Fragen der Wissenschafts- und Technikphilosophie. Welche ethischen Herausforderungen sind gegenwärtig am aktuellsten?

Die moralischen Herausforderungen, mit denen sich auch die Ethik im philosophischen Sinne beschäftigt, sind mannigfach. Im Zentrum der Aufmerksamkeit stehen seit gut einem Jahr sicherlich jene in Verbindung mit (generativer) KI. Abgesehen von den positiven Entwicklungen, die hiermit z.B. in der Medizin verbunden sein können, sehe ich als zentralen Punkt die Frage nach der Verantwortung bzw. in der irrtümlichen Annahme, Verantwortung an KI-Systeme abtreten zu können.

 

Wenn von Menschen programmierte Maschinen Handlungen ausführen, stellt sich oft diese Frage nach der Verantwortung, wenn etwas schief geht. Wo sehen Sie die Verantwortung: bei den Forschenden, den Entwickler*innen oder doch der Maschine selbst?

Sicherlich nicht bei der Maschine. Maschinen – zumindest das, was wir gegenwärtig „Maschine“ nennen – können nichts verantworten. Sie können in dem Sinne, den Verantwortung voraussetzt, nicht einmal handeln. Trotz allen Fortschritts ist es nicht die KI, die Verantwortung trägt. Vielmehr braucht es vertrauenswürdige und verantwortungsvolle Menschen, die nur zuverlässige Technik entwickeln und einsetzen.

Abgesehen von der Versuchung, Verantwortung abschieben zu wollen, spielt hier nicht zuletzt das im Grunde verblüffende und beeindruckende menschliche Vermögen eine Rolle, mit Gegenständen oder Programmen so umzugehen, als ob sie Menschen wären oder über dieselben Fähigkeiten wie diese verfügen würden. Diese Fähigkeit kann uns leider auch in die Irre führen. Es fällt uns schwer, diesem Sog der Illusion nicht zu erliegen. Menschen glauben dann, ein Chat-Programm wäre eine Person, sie sagen „bitte“ und „danke“ zu ihm oder sie verlieben sich in Sexroboter, deren Entwicklung übrigens noch immer enttäuscht. Das ist wie ein Sprechen mit dem angeblichen Männchen im Radio nichts, was zu verbieten wäre, aber wir sind im Sinne des Zwecks der Moral, so meine Einschätzung, nicht gut beraten, unseren Umgang mit Technik und den Einsatz von Technik im Umgang miteinander auf solche verfehlten Annahmen zu stützen. Eine philosophische Ethik, die wissenschaftlich informiert und fundiert argumentiert und selbst die (latente) Technikfeindlichkeit manch geltender Moralsysteme hinterfragt, kann bei der Suche nach guten Lösungen durchaus einen bedeutenden Beitrag leisten, und zwar jenseits von solch pauschalen Ansichten, Systeme Künstlicher Intelligenz würden die Menschheit insgesamt bedrohen oder retten.

 

Sie teilen also nicht die Ansicht jener, die fürchten, die Menschheit schaffe sich durch Technologie selbst ab. Und was wäre die Alternative? Gibt eine „Rückkehr zur Natur“?

Eine „Rückkehr zur Natur“ gibt es nicht, weil es „die“ Natur nicht gibt. Viele nennen das, was sie sich als Ideal vorstellen, das Natürliche. Sie stellen dann beispielsweise eine „natürliche Empfängnis“ einer „künstlichen“ gegenüber und verbinden damit bereits eine Wertung.

Dass sich die Menschheit gleich abschaffen würde, sehe ich nicht. Was in einem bestimmten Rahmen abgeschafft wird oder werden könnte, sind bestimmte Tätigkeiten oder ganze Berufsfelder. Es drohen eine weitere Erosion privater Sphären, erhöhte Abhängigkeiten von global mächtigen Konzernen und einiges mehr, das es unter der Perspektive eines guten und gerechten Lebens zu beurteilen gilt. Wir sollten hier jedoch weniger auf die Technologie selbst blicken als auf die Menschen und Unternehmen dahinter. Technologie weder zu verherrlichen noch zu verteufeln, sondern mit Bedacht einzusetzen, das wäre intelligent. Je mehr wir das schaffen, umso weniger bedroht müssen wir uns sehen.

Unsichtbare Bedrohung in „Seht ihr es nicht?“ von Georg Haderer.

 

Als Helena Sartori, deren Eltern und ihr Sohn tot aufgefunden werden, wird Philomena Schimmer hinzugezogen: Die jugendliche Tochter Sartoris, Karina, ist spurlos verschwunden – und Schimmer soll sie suchen.
Helena Sartori war leidenschaftliche Wissenschaftlerin, wollte die Welt mit ihrer Forschung an Nanobots verändern . Und dann plötzlich hat sie sich – einige Zeit vor ihrer Ermordung – völlig zurückgezogen, in die wlanfreie Einöde. Was ist passiert? Ist ihr die Arbeit an den mikroskopisch kleinen, mit freiem Auge nicht sichtbaren Robotern entglitten – und hat das Sartori und ihre Familie in den Abgrund gestürzt? Ist Karina am Leben? Hat man sie entführt oder ist sie selbst geflohen? Quälende Fragen für Philomena Schimmer, der es immer schwerer fällt, die professionelle Distanz zu wahren, je länger von Karina jede Spur fehlt.

Und dann klopft plötzlich ein alter Fall an Schimmers Tür, eine junge Frau aus Philomenas Vergangenheit, die sie damals nicht retten konnte …

Wurden aus nützlichen Nanobots unkontrollierbare Mini-Monster? Finde es hier heraus.