29.01.2024: Künstliche Intelligenz konkret: Was wir von einer KI-Anwendung lernen können

 1. Begrüßung

Wolfgang Hesse begrüßt die Teilnehmer und erläutert das heutige Thema.

2. Impuls Wolfgang Hesse

Die Präsentation kann unter dem folgenden Link eingesehen und heruntergeladen werden. 

Künstliche Intelligenz konkret

Ergänzend seien folgende Links genannt:

1. Stellungnahme des Deutschen Ethikrates zum Thema Mensch und Maschine

2. Auf SWR2.de finden Sie das Manuskript einer Sendung zum Thema Kulturschaffende wehren sich gegen KI

Kurlturschaffende bestehen auf der Einhaltung ihrer Urheberrechte bei der Verwendung ihrer Werke durch KI-Anwendungen.

3. Nachfragen und Diskussionsbeiträge

• Nach Erläuterung der Trainings- und Testverfahren zur Entwicklung von KI-Anwendungen (Folien 8 und 9 zu Trainings- und Testdaten) wird der Einwand formuliert, bis dahin bleibe die Intelligenz „vor dem Rechner“. Die vorgestellte KI-Anwendung zeichne sich doch nur durch ihre ungeheure Rechengewalt aus.
• An die Bedeutung der Trainingsdaten anknüpfend, werden die Manipulationsmöglichkeiten angesprochen, die in der Sammlung der Daten liegen. Die Frage, ob die zum Training der KI notwendigen Daten nicht im großen Stil Urheberrechte verletzen, ist derzeit schon aktuell. So klagt etwa die New York Times u.a. gegen Open AI, da letztere urheberrechtlich geschützte Veröffentlichungen für eigene kommerziellen Anwendungen benutzt.
• Auswirkungen auf die Demokratie können auch positiv sein. KI kann helfen, die Datenflut zu sichten und sich erst einmal einen Überblick zu verschaffen. Bezogen auf die Beispiele für Manipulationen, etwa ein gefälschtes und übers Netz verbreitetes Interview mit der Vorsitzenden der „Grünen“, kann ja auch argumentiert werden, dass KI in der Lage ist, solche Fälschungen schnell zu identifizieren.
• Positive Auswirkungen auf die Gesellschaft sind nach Armin Nassehi, einem Münchner Soziologen, die Fähigkeit der KI, gesellschaftliche Muster besser zu erkennen und so einen großen gesellschaftlichen Nutzen zu bringen und aber eben auch z.B. menschliches Verhalten vorauszusagen. Das kann ökonomisch sinnvoll sein. Dagegen wird eingewandt, dass damit präventive Repressionen möglich würden. Es sei eine Dystopie, Menschen mit der Begründung wegzusperren, dass zukünftig Straftaten von ihnen zu erwarten seien.
• Als weiterer Effekt von KI sei der Wegfall zahlreicher Arbeitsplätze zu erwarten, insbesondere bei formalen Entscheidungen in Bürokratien. Das träfe dann vor allem die Mittelschicht. Für Länder mit abnehmender Bevölkerung wie Japan sei das jedoch auch eine Chance.
• Zu den Regulierungsmaßnahmen auf europäischer Ebene wird eingewandt, die europäische Gesetzgebung sei ein stumpfes Schwert und laufe in diesem Bereich ins Leere. Die Technologie komme fast ausschließlich aus dem Silicon Valley und die Akteure dort – s. Musk – machen ohnehin was sie wollen.
• In dem Zusammenhang wird das Buch von Richard David Precht, Künstliche Intelligenz und der Sinn des Lebens, Goldmann Verlag,  genannt, das sehr schön beschreibe, wie wenig Regierungen noch gegen die Macht dieser Konzerne ankommen.
• Auswirkungen von KI auf das Militär sind noch gar nicht thematisiert. In diesem Bereich besteht ein hohes Risiko durch die Nutzung der KI.
• Es wird nochmal hinterfragt, warum wir überhaupt von künstlicher „Intelligenz“ sprechen, wenn da doch nur gerechnet wird. Von Intelligenz könne nur die Rede sein, wenn nicht mehr nur gerechnet wird. Aber: die neue Technologie imitiert bis zu einem gewissen Grad neuronale Netze des menschlichen Gehirns. Sie trifft eigene Entscheidungen, die im Einzelfall auch von den Programmierern nicht vorherzusagen sind.
• Was ist mit künstlicher Vernunft? Der Unterschied zu Intelligenz wäre genauer zu klären.
• Auswirkungen auf die Bildung sind vielleicht geringer als befürchtet: Wir müssen, um beim Beispiel zu bleiben, weiter über Schwertlilien Bescheid wissen, weil wir sonst nicht in der Lage sind, die u.U. fehlerhaften Ergebnisse der KI zu beurteilen. Über die Wahrheit entscheidet der Mensch.
• Was können Lehrer tun, um Schüler auf den Umgang mit dieser Technik vorzubereiten? Wie können sie lernen, kritisch damit umzugehen und die von der KI angebotenen Ergebnisse zu hinterfragen?
• Die KI bietet auch Lernmöglichkeiten, weil heute schon Lösungswege und nicht nur Ergebnisse abzurufen sind. Skeptisch wird aber auch darauf hingewiesen, dass die Welt durch KI zweidimensional werde und Schüler Gefahr laufen, die Wirklichkeit aus dem Auge zu verlieren – als illustratives Beispiel wird eine Gewichtsberechnung genannt, nach der ein auf dem Tisch stehendes Kupfergefäß mehrere Tonnen wiegen soll, der Schüler dieses Ergebnis jedoch ungefragt übernimmt.
• Schwedische Erfahrungen haben jüngst gezeigt, dass die frühe Nutzung von digitalen Endgeräten im Unterricht für den Lernerfolg eher negative Folgen hat.
• Keine Studie belege, dass mit Hilfe digitaler Medien besser gelernt werde. Dennoch werden extrem hohe Summen für die Digitalisierung des Unterrichts ausgegeben.
• Ein Unterrichtsfach Medienmündigkeit sei unbedingt nötig. Den Tübinger Professor Bernhard Pörksen zitierend: „Information geht schnell, Wahrheit braucht Zeit“. Der Grad an Unsicherheit über die Verlässlichkeit von Informationen sei ungeheuer gewachsen. Früher konnte man davon ausgehen, dass ein Photo „wahr“ sei, heute müsse man das immer hinterfragen.

4. Verabschiedung

Wolfgang Hesse bedankt sich bei den Teilnehmern für ihr Interesse und die lebhafte Diskussion.

Am 26.02.2024 wird Dr. Emanuel Peter den neuen Report des Club of Rome aus dem Jahr 2022 vorstellen.