Ich wurde gefragt, ob ich etwas zu dem Vortrag von Joscha Bach auf dem 37C3 sagen kann. Das hat dann fast eine Stunde gedauert.
Shownotes
- Sapir-Whorf Hypothese
- Jonathan Swift – Gulliver’s Travels Buch III
- Euklid
- Hesiod
- Julian Jaynes
- Kurze Notiz zu Jaynes. Er ist Psychologe, der historische Texte als wahr akzeptiert. Das würde niemand in der Literaturwissenschaft oder Geschichtswissenschaft tun. Man würde immer dazudenken, dass hier spezifische Personen ihre Sichtweise zeigen. Daraus dann Schlüsse auf die komplette Realität der Menschen und ihrer psychischen Verfasstheit zu ziehen ist möglich, aber sehr sehr steil.
- Neal Stephenson – Snow Crash
- Thomas von Aquin
Hallo Thomas,
Danke, dass du meinen Kommentar aufgenommen hast und deine Gedanken zu dem Vortrag geteilt hast. Deine Gedanken spiegeln ziemlich gut meinen Eindruck wider. Nur fehlt mir geisteswissenschaftliche Hintergrund, um dies auch gut zu formulieren oder die Behauptungen von Joscha Bach widerlegen zu können. Ich bin eben Physiker und mir fehlen deshalb die Quellen und Methoden dazu. Nur das einfache Interesse an geisteswissenschaftlichen Themen reicht dann nicht aus.
Die Vorträge von Joscha Bach auf den Congressen werden oft innerhalb der „Chaos-Community“ positiv rezipiert und ich selbst fand sie ganz interessant aber irgendwann um den 3ten Vortrag von ihm herum kamen bei mir Zweifel auf, vermutlich hatte ich mittlerweile einfach genug geisteswissenschaftlich-philosophische Fundierung aufgesaugt. Was mir immer bewusster wurde, ist sein Reduktionismus, den du auch erwähnst.
Dazu kommt, dass er sehr viel mit den Memen und Narrativen der Hacker-Community arbeitet. So werden Ideen aus Sciencefictionromanen als Philosophie oder Wissenschaft verkauft. In diesem Vortrag ist mir als Physiker das am Begriff Entropie aufgefallen. Das ist so ein Begriff, der gern unter Nerds verwendet wird, ohne zu verstehen, was in der Physik gemeint ist. Aber man wirft ihn in den Raum und alle nicken wissen. Und so wird man skeptisch was denn in den anderen Bereichen denn so zusammenfabuliert wurde.
Was mich daran interssiert ist, dass am Ende die Hacker/Informatiker dann den Eindruck haben, sie hätten Ethik verstanden und wissen nun wie man ethische KI baut (und ich weiß von was ich rede in der Physiker:innen-Community gibt es eine ähnliche Hybris, dass man meint man könne alles auf Physik reduzieren und somit können man als Physiker:in im Prinzip alles). Das führt dann dazu, dass Google seine Ethik-Abteilung schließt. Zugespitzt formuliert: „Man muss nur das Trolley-Problem (algorithmisch) lösen und schon hätte man alle ethischen Problem des autonomen Fahrens gelöst.“ Aber ohne die Idee hinter diesem Gedankenexperiment zu verstehen.
Darum Danke dir für deine Gedanken dazu. Vielleicht gibt es statt den 7ten Teil der Vortragsreihe mal einen Vortrag von einem Philosophen zu diesem Thema.
Zu Gödel: Ich glaube, du hast das nicht ganz korrekt wiedergegeben. Meiner Ansicht nach (und ich bin auch kein Mathematiker) ist die zentrale Aussage, dass es in jedem Axiomensystem Aussagen gibt, die weder beweisbar noch widerlegbar sind, es also immer nicht-entscheidbare Aussagen gibt. Ein Beispiel für eine solche Aussage ist die sogenannte „Kontinuumshypothese“ (https://de.wikipedia.org/wiki/Kontinuumshypothese), die nicht entscheidbar ist.
Es freut mich, dass dir die Folge geholfen hat.
Ohja, stimmt. Das fiel mir auch auf. Ich hab eine grobe Idee, was Entropie ist, aber deswegen spreche ich da auch nicht drüber. Snow Crash wiederum habe ich gelesen.
Ich werde wahrscheinlich einen Vortrag entlang der Science Fiction/Literaturidee einreichen. Aufm Congress oder auf der IGER.
Und danke für die Erklärung zu Gödel. Ich weiß schon, warum ich da darum bitte, dass man mich gerne korrigieren kann. 🙂
Mir scheint Joshua mit Hesiod als Göttererzähler an der richtig Stelle – ihn KI möchte er sich neue Götter, im Sinne von Orientierungsgebern, kreieren.
Ich hoffe, die Menschheit ist genug säkularisiert und aufgeklärt, den aufkommenden KI-Quatsch kritisch zu nehmen..
So wie du in diesem Kommentar. Vielen Dank für das Co-Referat! 🙂
SG
Frederic
Was ich an der ganzen KI-Sache sehr interessant finde, und auch in Deiner Auseinandersetzung wieder finde, dass ist der Wunsch, dass KI nun endlich die Technologie ist, mit der wir Computern alles beibringen können, inklusive dem Erschaffen von Bewusstsein.
Sehr viele Argumentationen versuchen das dann zu belegen, weshalb KI jetzt allmächtig ist.
Durch dieses hoffnungslose Überschätzen der Möglichkeiten von KI fällt hinten leider komplett runter, wo KI prinzipbedingt super funzt und uns echt weiter bringt. Stattdessen wollen viele Informatiker_innen und Leute mit wenig Ahnung endlich Teil von was Besonderem sein, der KI Revolution, die uns alles abnimmt und alles endlich löst und deshalb muß alles jetzt mit KI gelöst werden. Und Nerds überbieten sich mit Postulaten, wo alles sich „endlich“ angeblich verändern wird.
Oftmals ohne das jeweilige Themengebiet, wo KI alles abnehmen soll, überhaupt durchdrungen oder verstanden zu haben.
Dieser Reduktionismus zeigt sich beispielsweise auch in dem Thema KI schreibt in Zukunft unsere Literatur, nur weil KI Text produzieren kann.
Als wäre der Job von Autor_innen nur Text zu produzieren, nicht Inhalt oder Erkenntnis.
Speziell durch das Auslassungen, durch das nicht in Worte fassen, Dinge auszudrücken, das kann keine KI, prinzipbedingt nicht.
Aber Nerds, die noch nie im Leben ne Geschichte geschrieben haben, sehen nur „literarischer Text=Worte, GPT kann Worte, ergo kann GPT literarischen Text, ergo brauchen wir auch dafür keine Menschen mehr“.
Der Reduktionismus ist daher eher der Wunsch nach „jetzt kann die Maschine auch das“ ohne das Thema wirklich durchdrungen zu haben und zu verstehen was es denn mit dem Thema auf sich hat, was bei Joscha Bach auch erneut passiert zu sein scheint.
Letztendlich sehen wir da eine genauso unrealistische Herangehensweise wie damals, als das Internet noch neu war und alle(ich eingeschlossen) glaubten, es würde nur positives in die Welt bringen. Eine vollkommene Überschätzung dessen, was eine Technologie kann. Und gleichzeitiges Mißverstehen, was die Technologie WIRKLICH kann und wo sie uns als Menschheit nutzen könnte.
Und dieses Ignorieren von Warnzeichen in SF, was Technologien alles auch Schwieriges oder auch ambivalentes mit sich bringen, wenn man sie erst einmal hat, ist auch schlimm.
Wie Mad Scientists in schlechten B-Movies der 50er, die mit ihrer Hybris was erfinden, was der zuschauenden Person ganz klar als „Don’t do it, man bist Du blöd!“ auffällt.
Nur um in der Freizeit das Selbe zu machen oder zumindest gut zu finden.
Mich befremdet das Ganze sehr…
Wir haben das jetzt immer wieder. Genauso dieser Fetisch mit Disruption. Damit man dann Dinge neu erfindet, die es schon gibt. Blockchain war das ja auch schon. Wir sind irgendwie in einem geisteswissenschaftlichen Loch. Diese Wissenschaften wurden immer verächtlich gemacht. Über Soziologen gelacht und alles was nicht empirisch ist, ignoriert. Und jetzt fällt das alles zusammen. Die Postmoderne ist durchgespielt und wir sind immer noch da, und nun weiß niemand mehr irgendwas, außer sich panisch an irgendwas mit Zukunft zu klammern.
Ja… da ist ein Vortrag versteckt…
Sci-Fi Author: In my book I invented the Torment Nexus as a cautionary tale
Tech Company: At long last, we have created the Torment Nexus from classic sci-fi novel Don’t Create The Torment Nexus
https://twitter.com/AlexBlechman/status/1457842724128833538
Habe mir gerade den Vortrag von Joscha Bach angesehen. War doch ziemlich gut. Vielleicht ist die KI auch einfach nur die nächste große Kränkung der Menschheit, so wie sie vorher kosmologisch(durch Kopernikus), biologisch (durch Darwin) und psychologisch(durch Freud) erfolgt ist. Jetzt kommt halt technologisch(durch Bach) hinzu.
Das Problem bei den Kränkungen, die du aufführst ist schon, dass die Liste schwierig ist. Kopernikus und Darwin beruhen auf überprüfbaren Beobachtungen. Die hat man natürlich zu ihrer Zeit doof gefunden. Freud wiederum war keine Kränkung. Den fanden alle geil. Der ist auch durch überprüfbare Beobachtungen widerlegt, respektive gilt als zu simplizistisch. Sagen wir es mal so: alles über Trieb zu erklären ist dann auch schwierig. Und die Erkenntnisse von Kopernikus und Darwin haben am Ende gehalten. Wenn du Joscha da vergleichst, dann vielleicht doch eher mit Freud. Der hatte ne steile These und dann alles zu dieser These hingebogen. Dazu fällt mir gerade auf, dass Joscha meint die Psychologen haben keine Theorien mehr, aber dann Freud zitiert, dessen Theorie als fragwürdig gilt. (Hier existieren halt mehrere nebeneinander und sie ist jetzt nicht die plausibelste.)
Das Problem hier ist, dass er Dinge, die wissbar komplizierter oder teilweise auch falsch sind, als Annahmen verwendet. Das bedeutet sehr wahrscheinlich, dass hier genauso wenig eine Kränkung herauskommt wie bei Freud. Aktuell finden das ja auch viele super. Die Wahrscheinlichkeit, dass sich bei falschen Annahmen die Ergebnisse auch als nicht befriedigend herausstellen ist dann aber sehr hoch. Und wenn ich da Fragen habe, ist das kein gutes Zeichen, weil der große Philosoph bin ich jetzt dann nicht.
Und um mal einen geisteswissenschaftlichen Vergleich zu machen: vor 100 Jahren wurden gerade so Bakterien und Viren entdeckt. Vor 150 Jahren ließen sich Menschen mit Magnetstäben behandeln, damit ihr Körpermagnetfeld wieder stimmt und sie gesund werden. Homöopathie beruht auch auf einem solchen Fehlschluss über die Realität. Die sind nicht selten. Aber wie man bei der Homöopathie auch sehr gut sehen kann, halten solche Konzepte erstaunlich lang, wenn sie nur plausibel genug klingen. Und obwohl da viel wissbar ist, lassen sich Leute heute nicht damit behandeln. Fehlschlüsse beeindrucken uns gern, aber das Problem ist, dass wir im nur im Zusammenspiel von naturwissenschaftlicher Forschung und diskursiver Interpretation unserer Weltwahrnehmung näher an die Wahrheit kommen. Kritischer Rationalismus ist halt ne Philosophie, aber er ist instrumental für die Naturwissenschaft. Du brauchst beides. Ansonsten labern die Geisteswissenschaften nur rum und die Naturwissenschaften reduzieren alles.
Zum Verständnis hierzu recht hilfreich: https://de.wikipedia.org/wiki/Kränkungen_der_Menschheit
Okay. Amüsiert mich jetzt ja schon, dass er sich darin versteigert hat und sich dann ein Diskurs anschließt, wer eine anthropomorphisierte Menschheit womit gekränkt hat. Man darf da ruhig weiterspielen, solange es kein Wettbewerb wird, wessen Handlungen das am besten machen…