Das Thema ist zu komplex um es umfassend er\u00f6rtern zu k\u00f6nnen. Angefangen habe ich damit bereits in dem Blog-Artikel „K\u00fcnstliche Intelligenz oder die Rechenleistung einer Maschine?“, jetzt geht es in die Tiefe und Breite.
\nAusl\u00f6ser ist f\u00fcr mich eine Diskussion in der TV-Serie \u201ePhilosophisches Forum\u201c (2023), die von Konrad Paul Liessmann geleitet und von Barbara St\u00f6ckl moderiert wird.
\nHier m\u00f6chte ich einige Aspekte beleuchten. Wie immer sind auch meine eigenen Gedanken und Schl\u00fcsse integriert.<\/p>\n
Vorweg: Ich bin selbst als Lektor an einer Fachhochschule vom Thema direkt betroffen, weil anzunehmen ist, dass meine Student:innen da und dort \u201eKI\u201c ben\u00fctzen, um ihre Arbeiten zu verbessern oder gar erstellen zu lassen.
\nIch bin mit diesem Problem nat\u00fcrlich nicht allein, muss aber f\u00fcr mich einen Weg finden. Die FH gibt drei M\u00f6glichkeiten vor:<\/p>\n
1.) Verbieten. Dann ist es in dieser Lehrveranstaltung (LV) nicht erlaubt, KI zu verwenden.
\nDas ist problematisch, weil schwer zu beweisen. Konkret meine ich es zu erkennen, wenn Formulierungen so geschliffen sind, dass ich selbst zu staunen beginne, vor allem, wenn der jeweilige Student\/die Studentin solche verbalen F\u00e4higkeiten sonst nicht erbringt.
\nKonkret geht es aber darum, dass die Verwendung ja Schummeln bedeutet und den Versuch, sich ohne Leistung eine Note zu erschleichen.
\nDas finde ich nicht gut, weil ich sowieso keine Pr\u00fcfungen mache und meinen Studierenden viele Freiheiten gebe, um den Aufwand zu reduzieren. Ich will aber nicht, dass sie ihn auf Null reduzieren, weil wozu soll die Lehrveranstaltung dann dienen?
\nDie FH hat hier einen pragmatischen Ansatz: Was sich sowieso nicht verbieten l\u00e4sst, sollte auch nicht verboten werden.
\nDas ist zu diskutieren.<\/p>\n
2.) Erlaubnis f\u00fcr bestimmte Teile einer LV
\nDieser Ansatz ist ebenfalls interessant, vor allem wenn er noch durch eine Sonderleistung erg\u00e4nzt wird: Die Studierenden m\u00fcssen selbst \u00fcber den Einsatz der KI reflektieren und erkl\u00e4ren, was sie gebracht hat und was nicht.
\nDas ist bei uns zwar nicht vorgesehen, k\u00f6nnte aber eine gute Erg\u00e4nzung sein.
\nAch ja: Auch in dieser Variante ist es nicht erlaubt eine ganze Arbeit einfach durch die KI erstellen zu lassen.<\/p>\n
3.) Erlaubnis, sofern der Einsatz dem Lernzweck dient
\nDas ist ja ganz nett, aber so wie ich meine Pappenheimer kenne, dient dann jeder Einsatz der KI halt dem Lernzweck.
\nIn Variante 2+3 muss der Einsatz \u00fcbrigens dokumentiert, also in Form von Quellenangabe offengelegt werden.<\/p>\n
So weit, so gut. Spannend wird es dann, wenn Masterarbeiten von der KI erstellt werden. Das ist n\u00e4mlich nicht leicht \u00fcberpr\u00fcfbar. Wir werden sehen, in welche Richtung sich das entwickelt.<\/p>\n
Zur\u00fcck zum Thema, in dem wir nat\u00fcrlich schon drin sind. Ich selbst habe KI noch nie verwendet, schreibe derzeit aber mit zwei Kolleginnen ein Buch, wo wir das lange diskutiert haben, \u00fcbrigens mit dem Ergebnis, dass wir keinerlei Passagen durch KI erstellen lassen. Es geht auch ohne, wenngleich die Vorteile da und dort nat\u00fcrlich offensichtlich sind.<\/p>\n
Die Sendung rei\u00dft gleich zu Beginn eine Vielzahl an Themen auf, die Bandbreite ist enorm, die Ebenen sind vielf\u00e4ltig.
\nTrotzdem sticht ein Punkt aus philosophischer Hinsicht gleich hervor: Was ist \u00fcberhaupt Intelligenz? Es f\u00e4llt uns schon schwer das beim Menschen zu definieren, in der Diskussion wird das Wort derzeit \u00e4u\u00dferst leichtfertig verwendet. Das ist wichtig, denn es gilt in gewisser Weise der alte Spruch \u201ewas liegt, das pickt\u201c: Wenn sich der Begriff einmal durchgesetzt hat, ist er schwerer zu hinterfragen. Wenn wo Intelligenz draufsteht, dann wird sie wohl auch drin sein \u2013 so der Trugschluss.
\nDabei rutschen wir sehr schnell in die Themen Bewusstsein und Moral, gemischt mit Entscheidungsfindung und in Folge mit Grenzsetzung: Was soll KI d\u00fcrfen und was nicht?
\nJetzt taucht sofort die Frage nach der Beherrschbarkeit auf und wird mit der uralten Diskussion um den Golem verkn\u00fcpft: Ein geschaffenes Wesen, das sich selbst\u00e4ndig macht. Dieser Begriff macht tendenziell Angst, weil wir die Gefahr vermuten, dass der Selbst\u00e4ndige auch gerne autonom w\u00e4re, also von uns nicht mehr zu kontrollieren, und dass er in Folge irgendwann auf die Idee kommt uns zu kontrollieren.
\nIn zahlreichen Filmen (z.B. Terminator) wurde dieses Thema durchgespielt.<\/p>\n
Um die Kirche im Dorf zu lassen: Bisher ergeben seri\u00f6se Diskussionen stets, dass der Begriff \u201eK\u00fcnstliche Intelligenz\u201c als nicht zutreffend einzustufen ist. Es handelt sich um Rechenoperationen eines Computers, die uns aufgrund ihrer Komplexit\u00e4t, Geschwindigkeit und Erscheinungsform als intelligent erscheinen.
\nDaraus folgt aber, dass diese Rechner nur das berechnen k\u00f6nnen, was wir ihnen eingeben. Wenn wir in die Eingaben Fehler einbauen, arbeitet die KI mit diesen Fehlern und produziert selbst Fehler.
\nDie Gegner dieses Standpunktes behaupten, dass die Computer aus den Eingaben plus dem, was sie sich selbst aus dem Internet holen, lernf\u00e4hig sind. Das suggeriert, dass sie von sich aus eine h\u00f6here Abstraktionsebene erreichen k\u00f6nnen und das ist zu diskutieren.
\nDazu zwei Geschichten:<\/p>\n
Das Milit\u00e4r hat einen dieser neuen Computer gekauft, der strategische Entscheidungen besonders clever und besser als Menschen treffen k\u00f6nnen soll. Der gesamte Generalstab steht gespannt vor dem Riesending (die Geschichte ist schon ein paar Jahrzehnte alt) und der Programmierer gibt die Frage ein:
\n\u201eOffense or Defense?\u201c
\nDie Maschine beginnt zu arbeiten, rattert, es vergehen einige Minuten, dann spuckt sie das Ergebnis aus:
\n\u201eYes\u201c.
\nDie Milit\u00e4rs sind aufgeregt, mit der Antwort nat\u00fcrlich nicht zufrieden und der Programmierer gibt eine neue Frage ein:
\n\u201eYes what?\u201c
\nWieder arbeitet der Rechner, diesmal fast doppelt so lang. Dann spuckt er das neue Ergebnis aus:
\n\u201eYes, Sir!\u201c<\/p>\n
Computer k\u00f6nnen uns maximal spiegeln, nicht aber \u00fcbertreffen \u2013 das w\u00e4re die Conclusio aus diesem alten Witz.
\nEmotionale oder soziale Intelligenz haben Computer sowieso nicht, ganz zu schweigen von einem Bewusstsein ihrer selbst. Die Diskutierenden sind sich auch einig, dass die KI nicht einmal das Potenzial dazu hat.
\nMaximal in der Logik k\u00f6nnen sie punkten, wobei sie diese auch nicht selbst finden, sondern ihrer Programmierung folgen.
\nDas k\u00f6nnen sie hervorragend, so wie viele andere Dinge \u2013 etwa im Bereich der Medizin k\u00f6nnen sie gro\u00dfe Spr\u00fcnge in der Diagnostik bewirken und dadurch Menschenleben retten.<\/p>\n
Weil viele Menschen die Frage nach der wirklichen Intelligenz gar nicht stellen, weckt die KI sowohl Hoffnungen als auch \u00c4ngste \u2013 Liessmann betont, dass beides wohl \u00fcbertrieben sei.
\nEs ist die Kombination aus sehr schneller Rechenleistung plus Big Data plus den programmierten Vorg\u00e4ngen (Algorithmen), die das Ergebnis aussehen lassen, als w\u00e4re eine Intelligenz dahinter.
\nWahrscheinlich, weil die meisten Menschen nicht verstehen, was dahinter verborgen ist. Und wohl auch, weil die mediale Berichterstattung stets auf Sensationsgier aus ist und die Debatte entsprechend steuert.
\nVerloren geht dabei die wichtige Frage, wie wir das alles n\u00fctzen wollen und sollen. Wir erleben, dass KI einfach \u201epassiert\u201c, dass ChatGPT von Menschen gen\u00fctzt wird, weil es da ist und von daheim am Laptop mit einem Knopfdruck gestartet und verwendet werden kann, kostenfrei oder mit sehr geringen Kosten.
\nWir leben immer noch in einem \u201etechnikgeilen\u201c Zeitalter und erhoffen uns von der Technik L\u00f6sungen f\u00fcr Probleme, die wir selbst nicht anpacken wollen oder k\u00f6nnen. Jede Zeit schafft ihre Erl\u00f6sungsphantasien samt Erl\u00f6sern, die irgendwann in Mode kommen und nach einer gewissen Zeit von etwas anderem, neuem abgel\u00f6st werden: A new kid in town!
\nDas war lange die Religion, sp\u00e4ter kamen die Naturwissenschaften etwa in Form der Genetik, der Biotechnologie und noch einiges mehr. Dann tauchten die Computer auf und jetzt ist es gerade die KI, die als Revolution, als neues Zeitalter gefeiert wird. Das war aber bei der Dampfmaschine auch schon so. Und beim Computer. <\/p>\n
Um zu verstehen, was da vorgeht, m\u00fcssen wir der Spur des Geldes folgen \u2013 eh wie immer, sozusagen. Sie f\u00fchrt uns zu den gro\u00dfen Technologiekonzernen, die ein enormes Interesse daran haben, die Debatte zu steuern, wie die Politikwissenschafterin Barbara Prainsack erkl\u00e4rt: Sie treiben die Ethikdebatte gerne vor sich her, um der Frage nach der Regulierung zu entkommen, denn das ist wiederum ihre gr\u00f6\u00dfte Angst: Dass wir uns die Freiheit nehmen, die KI zu kontrollieren.
\nDahinter steckt das Prinzip, dass Konzerne (samt den dort t\u00e4tigen Menschen an der Hierarchiespitze) stets auf eine Maximierung des Gewinns aus sind und sich dabei ungern st\u00f6ren lassen. Da die dahintersteckende Gier immer unendlich ist, setzen sie sich selbst keine Grenzen, auch wenn sie nach au\u00dfen hin anders auftreten.
\nWenn die Menschen \u00fcber ihr Ordnungsprinzip (genannt \u201eStaat\u201c) eingreifen wollen, wirken ihnen starke Kr\u00e4fte in vielf\u00e4ltiger Form entgegen, die st\u00e4rksten sind die Bequemlichkeit und die Neugier.
\nDaher bekommen sie Spiele (und Brot in Form von Zucker, das ist aber eine andere Geschichte) und n\u00fctzen diese intensiv bis pervers. Im Idealfall machen wir uns von diesen Spielen \u2013 wir alle kennen sie als \u201eHandys\u201c \u2013 so abh\u00e4ngig, dass wir ohne nicht mehr sein wollen und k\u00f6nnen.
\nWer mit offenen Augen durch die Welt geht (und nicht gerade auf sein Handy starrt), kann das jeden Tag fast \u00fcberall gut erkennen.
\nDas f\u00fchrt zu Ph\u00e4nomenen, etwa dass Menschen rund um sich herum alles egal ist, wenn sie auf ihr Handy (Computer, Fernseher etc.) fokussiert sind. Da st\u00f6rt am Weltuntergang nur, dass dann das Internet nicht mehr geht und das \u201eDevice\u201c nicht mehr geladen werden kann. Immerhin, dann sind die Menschen bereit aufzublicken, letztlich aber auch nur, weil sie dazu gezwungen werden.
\nWir sind hier sehr schnell in einer politischen Diskussion, denn es ist die Verantwortung der Politik, die wesentlichen Fragen des menschlichen Daseins zu behandeln und im Sinne des Wohles der Gesellschaft zu steuern.
\nDie Technologiekonzerne werden sich um Fragen des Umweltschutzes, der Demokratie oder der Menschenw\u00fcrde nur k\u00fcmmern, wenn sie ihnen schnellen Profit bringen oder wenn sie dazu gezwungen werden. Da es in unserer Welt aber letztlich nur mehr zwei Dinge gibt, die man gefahrlos zum Zwecke der Profitmaximierung ausbeuten kann, wird dies auch getan: Menschen (die meisten zumindest) und Natur k\u00f6nnen sich nicht oder nur schwer wehren, zumindest nicht schnell genug, um die kapitalistische Wirtschaft zu bewegen. Hier gilt der Spruch \u201ethe king said to the priest: you keep them stupid, i keep them poor\u201d.
\nDaher wird die KI auch in diesem Sinne verwendet, wenn wir dies zulassen. Die erste Bastion, die derzeit gerade massiv angegriffen wird, ist die Demokratie. Sie erschwert die schon angesprochene Profitmaximierung. Die Diktatur ist f\u00fcr die Konzerne viel praktischer: Ich besteche den Diktator und bekomme alle Rechte und Freiheiten, um Mensch und Natur maximal ausbeuten zu k\u00f6nnen. Das l\u00e4sst sich an vielen Orten bzw. in vielen L\u00e4ndern unserer sch\u00f6nen Welt trefflich beobachten.<\/p>\n
Peter Kirchschl\u00e4ger wirft die Frage des Vertrauens auf: Dieses m\u00fcssten sich die Technologiekonzerne erst erarbeiten. Liessmann entgegnet, dass sie (G\u00fcnter Anders folgend) bereits einen Vertrauensvorschuss bekommen haben, der enorm gro\u00df ist \u2013 wie das bei neuen Technologien immer geschieht.
\nSie erwecken Neugier und Hoffnung und bekommen in Folge Vertrauen, das erstaunlich lange anh\u00e4lt, bevor es bei Missbrauch in sich zusammenst\u00fcrzt.
\nDazu kommt noch die Pikanterie, dass die entsprechenden Konzerne ja darauf hinarbeiten, genau das Vertrauen nicht mehr zu brauchen. Wenn ich von etwas abh\u00e4ngig bin, muss ich ihm nicht vertrauen, weil ich sowieso keine Wahl, keine andere Handlungsoption habe. Deswegen suchen ja auch alle Wirtschaftsunternehmen die Monopolstellung, weil man ihnen und ihren Produkten dann nicht mehr vertrauen muss. Den Schm\u00e4h mit der \u201egesunden Konkurrenz\u201c muss man ja nicht unbedingt glauben, finde ich. Sie ist nicht mehr als ein Feigenblatt.<\/p>\n
Auf die Frage, wie denn die Konzerne das anstellen, antwortet Kirchschl\u00e4ger: Mit Manipulation. Ihr gro\u00dfer Hebel liegt in der Unmenge an Daten, die gesammelt und verwertet werden. Die meisten Menschen, die Geld haben, haben auch Internet und stellen ihre eigenen Daten den Technologiekonzernen dort gratis zur Verf\u00fcgung. Sie schreien zwar st\u00e4ndig nach Datenschutz, handeln selbst aber gegenteilig, indem sie ihre privatesten Daten jedem geben, der sie haben will. Der K\u00f6der ist die Gratis-Ben\u00fctzung der Programme (Facebook, Instagram, TikTok etc.) plus der Mehrwert der Teilnahme an einer Gemeinschaft \u2013 deswegen tut es auch weh, wenn man \u201eentfreundet\u201c wird. Aber auch hier gilt die Regel: Wenn du f\u00fcr etwas nichts bezahlen musst, dann bist du nicht Kunde, sondern Produkt.
\nDiese Daten werden dann dazu verwendet, um uns zu manipulieren, etwa in unserem Konsum- oder in unserem Wahlverhalten. Nicht ohne Grund steckt die Politik Unsummen in Social-Media-Kampagnen und ebenfalls nicht ohne Grund geben die meisten Konzerne Unsummen f\u00fcr Werbung im Internet aus.
\nSelbstverst\u00e4ndlich kann man sich dagegen wehren, den totalen Nicht-Konsum schafft aber wohl niemand ohne zu verhungern. Das Leben als selbstversorgender Eremit in der einsamen H\u00fctte im Wald ist zwar m\u00f6glich, allerdings nur f\u00fcr ganz wenige Menschen.
\nAlle anderen, also fast alle, brauchen soziale Kontakte, sind von gesellschaftlichen Rahmenbedingungen (Haus, Supermarkt, Arbeitsplatz etc.) abh\u00e4ngig und m\u00fcssen somit den gesellschaftlichen Normen folgen. Diese wiederum geben etwa vor, dass Menschen ein Smartphone brauchen. Ohne kann man heute vieles gar nicht mehr machen, das Leben wird sozusagen immer enger und schwieriger ohne Handy.
\nIm Gegenzug bietet es uns eine fast grenzenlose Welt der Unterhaltung, schon kleine Kinder bekommen heute von ihren Eltern ein Smartphone und werden damit ruhiggestellt. Die Gefahren werden nur h\u00f6chst selten thematisiert und noch seltener diskutiert, m\u00f6glicherweise weil auch die Politik am Smartphone h\u00e4ngt und diesen neuen G\u00f6tzen nicht in der Kritik sehen will.<\/p>\n
Eine n\u00e4chste wichtige Frage ist die nach der Moral der KI. Kirchschl\u00e4ger f\u00fchrt aus, dass zur Moral die Freiheit geh\u00f6rt: Nur wer frei entscheiden kann, ist dazu f\u00e4hig moralisch zu entscheiden. Ein Beispiel ist das autonom steuernde Fahrzeug. Wenn diesem einprogrammiert wird, den Fahrgast so schnell wie m\u00f6glich von A nach B zu bringen, dann wird es diese Anweisung ausf\u00fchren. Es gibt keine moralische Instanz, die es davon abhalten k\u00f6nnte. Das spielende Kind auf der Stra\u00dfe, das dabei \u00fcberfahren wird, spielt f\u00fcr die so programmierte KI keine Rolle.
\nWenn man einem Menschen diese Anweisung gibt, dann hat er das Potenzial diese moralisch abzuw\u00e4gen und entsprechend zu handeln. <\/p>\n
Der Informatiker Peter Reichel erl\u00e4utert, dass Algorithmen nicht ethisch sind und daher auch nicht zur Verantwortung gezogen werden k\u00f6nnen. Das obliegt einzig und allein dem K\u00e4ufer eines autonomen Fahrzeugs. Ethik und Moral sind keine bin\u00e4ren, digitalen Systeme \u2013 wenn jemand einen Schaden verursacht, dann wird er\/sie als Mensch das Gef\u00fchl haben, dass es ihm bzw. ihr leid tut. Ein Computer kann so etwas nicht und wird es nie k\u00f6nnen.
\nDer Philosoph und Soziologe Christian Dries erg\u00e4nzt, dass wir derzeit auf dem Weg sind Computern bzw. dem Internet mehr zu vertrauen als Menschen. Diese Entwicklung sollte so nicht weitergehen, auch wenn Computer manche Dinge schneller und sauberer ausrechnen k\u00f6nnen. Urteilskraft im Kant\u00b4schen Sinne l\u00e4sst sich aber auf Computersysteme nicht \u00fcbertragen.
\nDas Problem l\u00e4ge darin, dass wir seit Jahrzehnten Computer in unser Leben integriert haben und inzwischen der Annahme sind, dass sie uns insofern \u00fcberlegen sind, als wir durch unsere K\u00f6rperlichkeit und Emotionen nicht so scharf und klar rechnen k\u00f6nnen \u2013 wir werden dadurch sozusagen zu fehlerhaften KI-Systemen. Das \u00fcbertr\u00e4gt sich dann auf unsere Entscheidungskraft, die in Folge ebenfalls als fehlerhaft angesehen wird. Dann vertrauen wir in immer mehr Lebensbereichen dem Computer, was wiederum dazu f\u00fchrt, dass dieser immer mehr Macht und in Folge noch mehr Vertrauen bekommt.<\/p>\n
Dries greift auch noch die \u00f6kologische Frage auf: Die KI ist unglaublich energieintensiv und sch\u00f6pft Ressourcen ab, die wir dringend f\u00fcr andere, oft lebenserhaltende Systeme brauchen \u2013 was wiederum gro\u00dfteils arme Menschen trifft. Wir kennen diese Thematik schon von den Blockchain-W\u00e4hrungen wie Bitcoin, die inzwischen unfassbare Mengen an Energie verbrauchen, was jedoch nahezu nirgends diskutiert wird.<\/p>\n
Liessmann betont, dass die KI gar nicht in der Lage ist zu verstehen, was \u201eMensch sein\u201c \u00fcberhaupt bedeutet. Es ist nicht m\u00f6glich einer KI die Regel \u201esch\u00e4dige keinen Menschen\u201c mitzugeben, weil sie nicht wissen kann, was \u201eMensch\u201c bedeutet und was \u201esch\u00e4digen\u201c ist. <\/p>\n
Wir sehen also Chancen und Risiken, die dringend notwendige Diskussion auf gesellschaftlicher und politischer Ebene fehlt jedoch. Somit bleibt auch offen, wie es weitergeht.<\/p>\n","protected":false},"excerpt":{"rendered":"
Das Thema ist zu komplex um es umfassend er\u00f6rtern zu k\u00f6nnen. Angefangen habe ich damit bereits in dem Blog-Artikel „K\u00fcnstliche Intelligenz oder die Rechenleistung einer Maschine?“, jetzt geht es in die Tiefe und Breite. Ausl\u00f6ser ist f\u00fcr mich eine Diskussion<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-3074","post","type-post","status-publish","format-standard","hentry","category-allgemeines"],"_links":{"self":[{"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/posts\/3074","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/comments?post=3074"}],"version-history":[{"count":3,"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/posts\/3074\/revisions"}],"predecessor-version":[{"id":3077,"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/posts\/3074\/revisions\/3077"}],"wp:attachment":[{"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/media?parent=3074"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/categories?post=3074"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/guidoschwarz.at\/blog\/wp-json\/wp\/v2\/tags?post=3074"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}