Fragen nach dem Menschsein

Thema Künstliche Intelligenz (KI) - um die folgenden Bücher geht es: Katharina Zweig fragt, wann die Entscheidungsqualität von Maschinen besser sein wird als die von Menschen - und wen wir dann entscheiden lassen. Lisz Hirn identifiziert das Verletzliche an uns als das Menschliche und erkennt darin den Unterschied zu technischer Rationalität, zu KI. Jörg Phil Friedrich sagt: Mit der Technisierung haben wir angefangen, Vernunft mit Logik gleichzusetzen, und nun kommt uns KI intelligent vor - natürliche Vernunft aber ist etwas anderes: Sie ist nichts ohne Sinnieren und Kreativität. Catrin Misselhorn zeigt, dass die Autorschaft zentral ist für unser Verständnis von Kunst. Und sie argumentiert, dass KI keine Autorschaft zukommt, weil sie keine ästhetische Verantwortung übernehmen kann. Johannes Caspar schließlich appelliert, endlich unsere Naivität hinsichtlich der Bedeutung von Daten in der digitalen Moderne abzulegen. Er plädiert für informationelle Integrität, um Freiheit und Selbstbestimmung und die Gleichheit der Menschen zu schützen.

Der Mensch im Mittelpunkt

Katharina Zweig ist Professorin an der TU Kaiserslautern-Landau, wo sie den ersten deutschen Lehrstuhl für Sozioinformatik ins Leben gerufen hat. In ihrem neuen Buch Die KI war’s! geht es ihr um die Frage, "unter welchen Bedingungen man Entscheidungen von Computern infrage stellen kann und welche Antworten wir erwarten können". In den vier Teilen ihres Buchs sucht sie nach Antworten. 

Teil I macht mit Grundbegriffen vertraut. Von zentraler Bedeutung ist es, zu verstehen, dass "hinter allen Algorithmen erst einmal ein Modell im Kopf seiner Entwicklerinnen und Entwickler steht, bevor die Maschine dann ebenfalls ein statistisches Modell berechnet, auf dessen Grundlage alle maschinellen Entscheidungen beruhen". Während ersteres, die sogenannte äußere Modellierung, gut nachvollziehbar ist, bleibt die innere Modellierung nur "schlecht zugänglich", weil sie aus der angewandten Methode und - ganz zentral! - dem verwendeten Trainingsdatensatz emergent entsteht. 

Teil II erzählt sieben wahre, zum Teil abstrus anmutende Geschichten, in denen Computer offensichtlich falsche Entscheidungen getroffen haben, die teils dramatische Auswirkungen auf das Leben der betroffenen Personen hatten. Die Analyse, wie es zu diesen Fehlentscheidungen kommen konnte, zeigt, dass es in der "langen Kette der Verantwortlichkeiten" meistens mehrere Fehler beteiligter Personen gab, angefangen von Softwareentwickler:innen über die Nutzer:innen, oftmals in Institutionen, bis hin zu den Betroffenen selbst. 

Teil III verhandelt automatisierte Entscheidungen, von denen einige auf individueller Ebene nachprüfbar sind, andere hingegen nicht. Zu den letzteren gehören statistische Entscheidungen oder solche, die auf Werturteilen beruhen, wie zum Beispiel die Vergabe von Noten. Für die Autorin steht fest, dass "das Vorhandensein von Werturteilen in einem Entscheidungsprozess ganz grundsätzlich darauf hinweist, dass Maschinen diesen Prozess nicht übernehmen können". 

Teil IV wirft einen Blick auf die Zukunft von Mensch-Computer-Entscheidungen. Am Beispiel des österreichischen Arbeitsmarktservice unternimmt das Buch einen detaillierten Vergleich zwischen maschineller und menschlicher Einschätzung der Integrationschancen von Arbeitslosen. Daran wird deutlich, welche Themen auf uns zukommen: Wann wird die Entscheidungsqualität von Maschinen besser sein als die von Menschen? Kann sie überhaupt besser sein? Und letztlich: "Wen wollen wir in Zukunft wie entscheiden lassen?" 

Das Buch schließt mit dem Kapitel "Widerspruch lohnt sich". Es zeichnet nach, wie einige Fehlentwicklungen durch das engagierte Handeln Einzelner korrigiert werden konnten. Katharina Zweig plädiert für eine "klare und breit geführte gesellschaftliche Diskussion, wann wir welche Form von automatisierten Entscheidungssystemen nutzen wollen und wie diese Nutzung abgesichert werden sollte". 

Das Buch besticht durch eine Fülle an Beispielen, in denen die "Tücken der künstlichen Intelligenz", so der Untertitel, konkret greifbar werden. Es erliegt weder der Versuchung, künstliche Intelligenz in den Himmel zu loben, noch sie zu verteufeln: Auf leicht verständliche Art und Weise beschreibt das Buch die Möglichkeiten der KI einerseits und ihre fundamentalen Begrenzungen andererseits - Begrenzungen, die sich auch durch noch leistungsfähigere Systeme nicht werden lösen lassen. Damit rückt statt der KI der Mensch wieder in den Mittelpunkt. Von Jean-Marie Krier

Anders als Rechenmaschinen und Werkzeuge

Was ist denn dieses "Unwesen zwischen Tier und Übermensch"? Dem widmet sich Lisz Hirn in ihrem Buch Der überschätzte Mensch. Sie sammelt eigene Ideen, Beobachtungen und Überlegungen von Philosoph:innen, sortiert sie neu und formt daraus ein Bild, bei dem die Verletzlichkeit des Menschen im Mittelpunkt steht. 

Dabei greift die Autorin oft auf Friedrich Nietzsche zurück. Bei ihm ist das Menschsein wie "ein Seil, geknüpft zwischen Tier und Übermensch - ein Seil über einem Abgrunde". Der Mensch ist für Nietzsche etwas Werdendes. Er kommt aus der Fleischlichkeit und ist in seiner biologischen Ausrichtung ein auf die Gemeinschaft ausgerichtetes Lebewesen, das erst durch die Zugabe neu auftauchender Qualitäten entsteht. Dieses Werdende formuliert Hirn so: Die Menschen teilen mit den Tieren die Verletzlichkeit. Gleichzeitig sind sie aber bestrebt, über diese Verletzlichkeit hinwegzukommen, sie abzuschaffen, "Übermensch" zu werden. 

Der Ausgangspunkt ist die Fleischlichkeit. Die ultimative Form der Verletzlichkeit ist das Gegessenwerden. Etwas, das den Tieren passieren kann, dem Menschen aber auf keinen Fall. Der Mensch ist das Tier, das nicht gegessen werden darf, sagen wir Menschen und versuchen daher, ganz anders zu werden als die Tiere. Hirn nennt das freilich "fleischlichen Hochmut" und deutet dies als eine der menschlichen Besonderheiten. Auch das Wissen um den eigenen Tod hebt uns ab. "Aus diesem Grund mag der Mensch auch das einzige Lebewesen sein, das beerdigt". Darin zeigt sich für die Autorin, dass man sich mit dem eigenen Verwesen nicht abgefunden hat. Schon zu Lebzeiten kämpft man gegen Verfall, das Altern. 

Wir wollen nicht verfallen, wir wollen anders werden, wir wollen auch über den Schmerz hinweg. Nichts soll uns mehr verletzen können. Den Verfall gilt es aufzuhalten, nicht zuletzt mit Technik, durch die Verbesserung des Menschen. In ihr zeigt sich unser Versuch, über das Fleischliche hinwegzukommen. Der transhumanistische Traum von der Verbesserung des Menschen ist für Hirn nur eine Fortführung des angeblichen Mythos vom Mängelwesen Mensch, der nun nicht mehr auf die Erlösung durch Gott, sondern einen Deus ex machina hofft. Lisz Hirn hat ihre Zweifel. Denn es ist "unser verdammtes Fleisch, das uns verweigert, ganz Maschine zu werden. Wir können nie völlig verschmelzen". Doch müssen wir deswegen der Maschine mit Scham gegenüberstehen? Hirn meint, wir können unsere Verletzlichkeit nicht hoch genug schätzen. Sterben und Geborenwerden seien Momente der Unberechenbarkeit. An dieser Bruchstelle liegt auch die Sensibilität des Körpers. Gerade aus dieser können unsere Gedanken geboren werden. "Technischer Rationalität fehlt die Unterscheidung und das Verständnis für die unterschiedlichen Vulnerabilitäten menschlicher Existenz." 

"In dieser Welt ist der Mensch inmitten seiner Maschinen, inmitten anderer Organismen, die sich mit ihm die kritische Zone teilen. Diese Faszination für die Vulnerabilität, also für das, was der langsamen Reduktion unterliegt, macht den Unterschied. Ist nicht genau die Sphäre des Fleisches die einzige, die die Maschine nie ersetzen kann?" Und zur Vorherrschaft des Geistigen: "Aus diesem absurden Dogma der Suprematie des Geistes über das Fleisch lässt sich auch erklären, dass unsere Verletzlichkeit sowohl als Schwäche als auch als Mangel gedeutet wurde. Stattdessen macht sie uns als lebendige Wesen nicht nur des Trostes, sondern auch der Fürsorge bedürftig." 

"Das Verletzlichste an uns ist das Menschliche, nicht unser Fleisch. Dass wir anders sind als bloßes Fleisch, als irgendeine zoologisch erfasste Tierart, anders als Rechenmaschinen und Werkzeuge, ist einer genuin politischen Aufforderung geschuldet. ‚Ecce Homo!‘" - Seht, der Mensch! Von Stefan Wally

Eine künstlich beschnittene Form von Vernunft

Was heißt es für uns, wenn eine künstliche Intelligenz, oder besser: künstliche Vernunft, einen Text erzeugen kann, der nicht länger von einem von Menschen verfassten unterscheidbar ist? Jörg Phil Friedrich widmet sich in seinem Buch Degenerierte Vernunft im Kern dieser prominenten Frage, allerdings auf eine Art und Weise, die überrascht. Er rückt den Menschen in den Fokus und versucht die Hintergründe seiner Natur, Vernunft und Intelligenz aufzuzeigen. 

Das bedeutet aber nicht, KI zu diffamieren. Tatsächlich konfrontiert uns Friedrich bereits in seinem ersten Kapitel mit einer entzauberten Darstellung des Menschen. Er beschreibt KI als ein Instrument, welches menschliches Vermögen in manchen Bereichen schlichtweg übersteigt. So wie ein Kran schwerer heben kann als ein Mensch, werden KIs in ihren zugeschnittenen Sparten Menschen übertrumpfen. Nachdem dieser gefühlte Hoheitsverlust aber für uns so erschreckend scheint, versucht Friedrich ein besseres Selbstverständnis des Menschen aufzubauen, wobei er konkret nach den Unterschieden zwischen Natürlichkeit und Künstlichkeit sowie Vernunft und Intelligenz fragt. 

Zur Klärung dieser Begriffe beschäftigt sich der Autor, wie mehrmals in diesem Buch, mit den Worten selbst. Er kommt zu dem Schluss, dass wir Natürlichkeit mit einer ursprünglichen Form verbinden, während etwas als künstlich gilt, sobald diese natürliche Form beeinflusst wird. Vernünftig ist für ihn eine Handlung, wenn sie begründbar ist, während Intelligenz darüber hinausgeht. Diese Erkenntnisse bewegen ihn zu einer Reflexion: Sind wir vernünftig und ist KI wirklich intelligent? 

Diese Frage leitet das Resümee dieses Buches ein, in welchem Friedrich identifiziert, dass wir KI nur deshalb als intelligent beschreiben, weil wir selbst einer "degenerierten Vernunft" unterliegen. Wir haben über die Technisierung und Identifizierung von Regeln angefangen, Vernunft mit Logik gleichzusetzen. Dementsprechend kommt uns KI intelligent vor, weil sie Logik über unser Maß hinaus anwenden und ausführen kann. "Es ist eine künstlich beschnittene Form von Vernunft, die zuerst die Dominanz in der technischen Welt erlangt hat und nun von den neuesten Produkten dieser Vernunft selbst reproduziert werden kann." Tatsächlich entspricht natürlicher Vernunft aber vielmehr der Prozess eines Sinnierens, und Intelligenz ist nichts anderes als ein Ausleben von Kreativität. Nachdem KI aber weder natürlich sinniert noch wahrlich kreativ ist, wäre es wohl ganz im Sinne des Autors, die anfangs angedeutete Beschreibung von künstlicher Vernunft der von künstlicher Intelligenz vorzuziehen. Von Johannes Haunschmid

KI kommt keine Autorschaft zu

Catrin Misselhorn, die als Professorin für Philosophie an der Georg-August-Universität Göttingen tätig ist, nennt als Schwerpunkte ihrer Forschung und Lehre die Bereiche Erkenntnis- und Wissenschaftstheorie, Technikphilosophie, Philosophie des Geistes, der Sprache und der Kultur. Ihre jüngsten Publikationen fokussieren sich dabei vor allem auf Roboter- und Maschinenethik sowie philosophische Probleme der künstlichen Intelligenz. In diesem neuesten Essay Künstliche Intelligenz - das Ende der Kunst? widmet sich Misselhorn nun der Frage, welche Bedeutung KI für das breite Feld der Kunst hat und welche Herausforderungen neueste Entwicklungen mit sich bringen. 

Die Autorin schreitet dabei strukturiert durch Kernelemente der Debatte, indem sie sich etwa mit dem Verständnis von Kunst an sich auseinandersetzt und eruiert, inwiefern KI-Kunst eben dieses Verständnis herausfordert; indem sie zur Diskussion stellt, welche Rolle es spielt, ob Menschen oder KI Kunstwerke hervorbringen; indem sie nach Autorschaft und ästhetischer Verantwortung fragt und den Unterschied von KI-Kunst, Fake und Fälschung erklärt. Dabei rekurriert sie etwa auf Denker:innen wie Arthur C. Danto, Roland Barthes, Hannah Arendt und Walter Benjamin, nennt aktuelle Beispiele und stellt die gesellschaftliche Kritik an diesen in einen historischen wie gegenwärtigen Kontext. 

Wie Misselhorn herausarbeitet, ist "Autorschaft für die Identität und den Status von Kunstwerken entscheidend. KI kommt hingegen keine Autorschaft zu, weil sie weder im individuellen noch im kollektiven Sinn ästhetische Verantwortung übernehmen kann". KI-Generiertes kann demnach nur dann Kunst sein, wenn die Gesamtperformance betrachtet wird. Wenn ähnlich wie bei der Konzeptkunst nicht nur das wahrnehmbare Resultat, sondern auch die dahinterstehende Konzeption betrachtet wird. Herausfordernd ist offensichtlich, dass mit dem massenhaften Auftreten sogenannter KI-Kunst zwar nicht die Kunstdefinition an sich, wohl aber die Kunstpraxis infrage gestellt wird. Misselhorn arbeitet prägnante Zukunftsszenarien heraus, die aufzeigen, dass sich Künstlerinnen und Künstler bedroht sehen, wenn ihre Möglichkeiten zu kreativer Lebensgestaltung massiv beschnitten werden. Sie schließt ihre Abhandlung, die einen guten Einstieg in die Thematik bildet, mit den Worten: "Wie es letztlich mit der Kunstpraxis weitergehen wird, entscheiden wir durch unseren Umgang mit der Kunst heute." Von Katharina Kiening

Die Ambivalenz des Digitalen

Nach der Lektüre der ersten Seiten dieses Buchs steht für mich fest: Ich nutze nie wieder das Internet! Zwar war mir bewusst, dass meine digitale "Krümelspur" vielfach erfasst und gespeichert wird, nicht aber die Implikationen für meine individuelle und die gesellschaftliche Freiheit. Doch schnell wird klar, dass eine digitale Askese weder sinnvoll noch gangbar ist. Die digitale Informationsgesellschaft birgt viele Potenziale, die derzeit durch die Macht und Kontrolle einiger weniger privatwirtschaftlicher Unternehmen überlagert werden. Das ist das Thema des Buchs Wir Datensklaven von Johannes Caspar. 

Johannes Caspar, Jurist und Rechtsphilosoph, langjähriger Hamburgischer Beauftragter für Datenschutz und Informationsfreiheit sowie Vertreter der unabhängigen deutschen Datenschutzbehörden der Länder im europäischen Datenschutzausschuss in Brüssel, lehrt heute an der Universität Hamburg und ist Vorsitzender des Beirats von Transparency International Deutschland. Kurzum: Ein ausgewiesener Experte auf seinem Feld. Ein Datenschützer, der früh erkannt hat, welche Bedeutung Daten in der Zukunft (also heute) haben werden. Und wie wichtig es sein wird, die demokratische und gesellschaftliche Kontrolle darüber zu behalten, statt sie in die Hände einiger weniger privatwirtschaftlich agierender, vorwiegend amerikanischer Unternehmen zu geben. 

In seinem Buch arbeitet Johannes Caspar heraus, dass der Schutz unserer persönlichen Daten in einer digitalen Welt nicht wichtiger sein könnte. Und er zeigt, dass Datenschutz von einem nervigen Alltagserlebnis - "Wir verwenden Cookies…" - zu einem zentralen politischen und gesellschaftlichen Thema im 21. Jahrhundert werden muss. Er ruft dazu auf, endlich unsere "Naivität, was die Bedeutung von Daten in der digitalen Moderne betrifft" abzulegen. Der Autor möchte mit seinem Buch Vorschläge und Ansätze entwickeln, wie das System verändert werden kann, um einen menschengerechten und transparenten Zugang zur digitalen Welt für alle zu ermöglichen. Die Grundprämisse seiner Analyse lautet: "Es ist der Mensch selbst, der in der digitalen Moderne mit den Verzeichnissen seiner Identität, mit seinen Daten, zur Ressource des gesellschaftlichen und ökonomischen Wandels geworden ist." Wir Menschen sind zur zentralen Ressource des Datenkapitalismus geworden, und die Fähigkeit, große Mengen von Daten zu verarbeiten, ist eine Herrschaftsmacht, die derzeit vor allem von Privatunternehmen mit Partikularinteressen, potenziell aber auch vom Staat ausgeht, siehe China. 

In den ersten Kapiteln des Buches spürt der Autor dem Funktionieren des Datenkapitalismus auf individueller Ebene nach: Was bedeutet das für den Einzelnen? Warum machen wir so bereitwillig mit? Welche Konsequenzen ergeben sich daraus? Die "Ambivalenz des Digitalen", die darin besteht, dass Technik weder böse noch gut ist und wir selbst dafür verantwortlich sind, wie und wofür wir sie nutzen, übersetzt sich in eine Ambivalenz der Reaktion: Die Notwendigkeit des Handelns wird deutlich, auch werden Möglichkeiten des Wie (vor allem im Hinblick auf die europäischen legislativen Anstrengungen) erläutert. Aber dem entgegen steht die Ernüchterung auch Caspars selbst, wenn es um die Bändigung globaler Datenkonzerne und das Austarieren geopolitischer Machtgefüge geht. 

Der Schlüssel für das Gelingen unserer Gesellschaftsform und damit der Erhalt der Freiheit liegt in der "informationellen Integrität". Sie soll "nicht nur Freiheit und Selbstbestimmung" schützen, "sondern auch die Gleichheit der Menschen". Sie soll uns davor bewahren, dass unsere Daten (der falsche Wohnort, die falschen Gene) gegen uns verwendet werden können und so die "entsolidarisierenden Effekte über eine personelle Individualisierung durch Daten" verhindern. 

Johannes Caspar unternimmt dann noch die Anstrengung, die EU-Digitalgesetzgebung inklusive ihrer Stärken und Schwächen zu erläutern und räumt dabei mit dem einen oder anderen Missverständnis auf, sodass ich sie nach der Lektüre des Buches mit anderen Augen sehe. Im abschließenden Kapitel macht der Autor noch einmal deutlich, was zur Wahrung unserer freiheitlich-demokratischen Grundordnung in Europa nötig sein wird - und wie schwierig dies zu erreichen sein wird. Ein Buch, das neue Sichtweisen eröffnet. Von Martin P. Fladerer