24.11.2020: Chancen und Risiken der künstlichen Intelligenz

1. Begrüßung und Einführung (Wolfgang Hesse)

Wolfgang Hesse begrüßt die Teilnehmenden sowie den Impulsgeber Dr. Florian Mayer vom Max-Planck-Institut Tübingen (Cyber Valley) und gibt zunächst einige technische Hinweise zur Nutzung der Cisco-Webex-Software. Corona-Bedingt findet der Gesprächskreis als Videokonferenz statt. 

Sicher haben Sie sich schon gefragt, wie schafft es Amazon, in den meisten Fällen bereits einen Tag nach der Bestellung die Ware dem Kunden zu liefen. Die nahe liegende Vorstellung ist, dass die Bestellung eingeht, die Ware gesucht und verpackt und danach das Paket adressiert und versendet wird. Mit dieser Vorgehensweise könnte Amazon bei der riesigen Zahl der Bestellungen so schnell aber nicht liefern. Es geht anders: Amazon kann voraussagen, welche Artikel in der nächsten Stunde höchstwahrscheinlich bestellt werden und den Versand quasi im Voraus darauf einstellen. Woher können sie das wissen? Amazon verfügt über riesige Datenmengen aus vergangen Bestellungen und untersucht diese mit Hilfe leistungsstarker Software auf Zusammenhänge. Stichworte dafür sind Korrelationen und Datamining.

Damit sind wir bei der ersten Frage: Was ist Künstliche Intelligenz? In zahlreichen Diskussionen zu diesem Thema bleibt unklar, worüber eigentlich geredet wird. Welche Folgen diese Art von Diskussion z. B. hat, konnte man kürzlich im ARD-Film ‚Exit‘ sehen. Darin wird gezeigt, wie mit Hilfe von KI erzeugte Klone von lebendigen und toten Menschen durch die Gegend springen und ihr Unwesen treiben. KI wird als mystisch und dämonisch dargestellt, die Zukunft ist bedrohlich und keiner versteht irgendwas. Eine solche Sicht führt nicht weiter.

Der TÜV-Verband hat kürzlich 500 Unternehmen mit über 50 Beschäftigten in einer repräsentativen Studie zum Thema KI befragt. 78% der Unternehmen stimmten zwar der Aussage zu, der Einsatz von KI verschaffe ihnen Wettbewerbsvorteile, 69% der befragten Unternehmen gaben aber an, sich nicht auf KI einzulassen, insbesondere mittelständige Unternehmen. Jedes zweite Unternehmen sieht darin für sich keine sinnvollen Anwendungsbereiche (vgl. SWP vom 07.10.2020). Das führt zum 2. Themenkomplex: Welche praktischen Anwendungen der KI haben sich bewährt, welche sind realistisch in nächster Zeit zu erwarten? Wo können KI-Anwendungen nicht Fuß fassen und warum nicht?

Wirtschaftlich gesehen verschafft der Einsatz von KI-Werkzeugen Amazon im Wettbewerb mit anderen Versendern große Vorteile, ein Grund für seine marktbeherrschende Stellung. Wir müssen uns also auch mit einem 3. Themenkomplex beschäftigen: Wer setzt mit welchem Interesse KI ein und welche Auswirkungen hat dies auf Wirtschaft und Gesellschaft.

Unser Interesse ist, im Rahmen des heutigen Gesprächskreises ein angemessenes und realistisches Bild von KI zu gewinnen, fernab von übertriebener Fortschrittslyrik auf der einen Seite und Technikfeindlichkeit auf der anderen Seite. In einer der letzten Veranstaltungen, die leider dem Corona-Virus zum Opfer fiel, sollte das Buch von Frank Biess „Republik der Angst“ vorgestellt werden. In diesem Buch wird u. a. die Entwicklung der Haltungen zur Automatisierung von Produktionsprozessen in Deutschland untersucht. Es zeigte sich in der Rückschau, dass die Befürworter der Automatisierungsprozesse die positive Wirkung der Automatisierung auf Wirtschaft und Gesellschaft überschätzten, während die Gegner die negativen Auswirkungen der Automatisierungsprozesse überschätzten. Möglicherweise verhält es sich mit KI ebenso.

Impulsgeber ist Dr. Florian Mayer. Er studierte Biochemie, promovierte in Neurowissenschaften an der Universität Tübingen und war danach Referent am DKFZ in Heidelberg. Weitere Stationen sind Geschäftsführer am Werner Reichard Centrum für Integrative Neurowissenschaften und seit Januar 2019 Forschungskoordinator des Cyber Valley am Max-Planck-Institut für intelligente Systeme in Tübingen.

2. Einstiegsimpuls (Dr. Florian Mayer)

• Künstliche Intelligenz (KI) versucht menschliches Verhalten nachzubilden. Der Begriff kam das erste Mal auf 1956 in Verbindung mit Fachkompetenz
• Erste KI-Programme waren Schachprogramme, denen man die Regeln des Schachspielens fest einprogrammierte. Diese Programme konnten dann eben nur Schachspielen und z. B. nicht Dame.
• Die Erhöhung der Rechenleistung in den 1990iger Jahren ermöglichten neue Anwendungen. Mit Hilfe komplizierter Algorithmen konnten Muster erkannt und Zusammenhänge in großen Datenmengen untersucht werden. Auf diese Weise lassen sich Vorhersagen erstellen. Ein Beispiel dafür ist die in der Einführung genannte Fähigkeit von Amazon, Bestelleingänge der nächsten Stunden vorher zu sagen. Ein weiteres Beispiel sind die Vorschläge, die Amazon dem Kunden auf Basis seiner bisherigen Einkäufe machen kann.
• Weil selbst kleine Gehirne von Tieren leistungsfähiger sind als Computer, hat man biologische Gehirne genauer untersucht und versucht, diese teilweise in Form von neuronalen Netzen nachzubilden. Neuronale Netze ermöglichen das tiefe Lernen. Bekanntes Beispiel ist das Programm „Alpha Go“, das einen Profi Go-Spieler mit total ungewöhnlichen Zügen überraschte und besiegte.
• Eine starke KI wäre in der Lage, sich selbst Wissen anzueignen. Davon sind wir noch weit entfernt, denn die Forschung versteht noch nicht ausreichend, wie das menschliche Gehirn funktioniert und wie z. B. Bewusstsein entsteht.
• Nützlich sind Computer im Verarbeiten riesiger Datenmengen. Darin übertreffen sie die Fähigkeiten des Menschen deutlich. Jedoch werde es der Referent nicht mehr erleben, wie Computer den Menschen an Intelligenz übertreffen.
• KI wird heute vorrangig in den Bereichen Marketing, Robotik, Bildbearbeitung und Medizin eingesetzt. In den USA wird KI benutzt, um Richtern die Rückfallwahrscheinlichkeit eines Täters zu prognostizieren. Weitere Anwendungen finden sich im militärischen Bereich und bei der Gesichtserkennung.

3. Beiträge der Teilnehmenden und Diskussion

Was ist KI genau?

• Amazon erarbeitet aus Bestellungen Vorschläge an Kunden und verweist auf Interessen weiterer Einkäufer, z. B. indem darauf hingewiesen wird, von wem welche ähnlichen Produkte ausgewählt wurden. So wird der Kunde ein Stück weit gelenkt hinsichtlich seiner Interessen, auch wenn diese Hinweise im Einzelfall die Suche nach bestimmten Produkten erleichtern mögen. Die Frage stellt sich, ob der Kunde hier ein Stück weit manipuliert wird. Die Gefahr ist in der Tat, dass diese Vorgehensweise eine Reduktion der Kundenbedürfnisse zur Folge hat, indem andere Produkte nicht mehr gesucht werden.

• Es wird nochmals gefragt, wie KI letztlich definiert wird. KI setzt voraus, dass Systeme selbständig lernfähig sind. Trifft dies immer zu? Wie lernt ein neuronales Netz z. B. einen Elefanten auf Bildern zu erkennen? Dazu werden ihm tausende Bilder vorgelegt und das System muss antworten, ob eine Abbildung einen Elefanten zeigt oder nicht. Für jede Antwort bekommt das System eine Rückmeldung. Auf diese Weise verbessert dieses seine Antworten und kann am Ende auch einen Elefanten auf einem Bild erkennen, welches es zuvor nie gesehen hat. Die Antworten des neuronalen Netzes beruhen auf Wahrscheinlichkeiten. Diese Systeme sind also nicht 100%ig zuverlässig. Außerdem ist es auch für Experten nicht möglich, nachzuvollziehen, wie das neuronale Netz zu seiner Antwort gekommen ist.

Praktische Anwendungen

• Ein Teilnehmer zeigt sich aufgrund des Impulses eher ernüchtert. Sein Eindruck, Ziel sei es, unseren Konsum zu steigern. So stelle sich die Frage, wie gehe ich als Laie an die Problematik KI heran? Braucht es nicht ethische Kriterien, um einerseits die Chancen, vor allem aber Risiken und Gefahren zu erkennen? Lt. Herrn Mayer versucht grundsätzlich jedes Unternehmen, seinen Gewinn zu steigern. Es braucht aber beim Einsatz von KI in der Tat ethische Kriterien. Allerdings sei die Ethikforschung in Bezug auf KI noch im Hintertreffen. Wichtige Voraussetzung ist die Augenhöhe zwischen Ethik und Wissenschaft, wobei dabei auch rechtliche Aspekte und Auswirkungen zu bedenken sind. Es gebe große Anstrengungen hinsichtlich der Klärung der ethischen Voraussetzungen von KI.

• Eine Frage wird sein, ob durch KI letztlich erforschbar ist, wie Bewusstsein beim Menschen entsteht. Momentan ist man davon noch weit entfernt.

• Mit Bezug auf einen Leserbrief im Schwäbischen Tagblattes sieht ein Teilnehmer Gefahren beim Einsatz von KI im militärischen Bereich. Wie können gerade in diesem Bereich ethische Voraussetzungen gestärkt werden? Herr Mayer verweist darauf, dass sie als öffentlich finanziertes Institut alle Forschungsergebnisse öffentlich machen müssen. Grundsätzlich sei aber nicht auszuschließen, wie auch in anderen Fällen, dass Forschungen, die z. B. für die Medizin von Nutzen sind, missbraucht werden. Solche Risiken kann man nicht ausschließen. Umso nötiger sind Sicherheitsmaßnahmen, die gefährliche Nutzungen ausschließen bzw. zumindest erschweren.

• KI braucht eine verlässliche Infrastruktur. Wer hat Zugriff auf Forschungsergebnisse, eher große Unternehmen oder das Militär? Die Frage ist daher, inwieweit auch im Gemeinwohlbereich KI-Anwendungen ermöglicht werden. Herr Mayer sieht in diesem Fall positive Entwicklungsmöglichkeiten. Beispiele dafür sind ÖPNV, Energieverteilung in einer Stadt, im Bereich Nachhaltigkeit, Klimaschutz und Natur.

• Eine Frage stellt sich hinsichtlich Sicherheit, Plausibilität und Funktionsfähigkeit. Ein Teilnehmer berichtet von einer Aktion aus Berlin: Hier hat Simon Weckert 99 Smartphone in einem Handkarren durch die Straßen gefahren. So führte er Google Maps in die Irre: Es zeigte Staus an, wo keine waren. Wie schützen wir uns vor den Fehlfunktionen komplexer Systeme, die dann letztlich nur noch von einigen wenigen Experten behoben werden können?

• Herr Mayer sieht als entscheidende Voraussetzung für Sicherheit und Funktionsfähigkeit die Robustheit des Systems, so ist z. B. sicherzustellen, dass ein Verkehrsschild immer korrekt erkannt wird, auch bei Nebel oder bei Beschädigungen.

• Die Studie des TÜV-Verbandes fordert Regelungen hinsichtlich der Risiken beim Einsatz von KI. Es gibt Bestrebungen, Sicherheitskriterien aufzustellen und deren Überprüfbarkeit zu gewährleisten. Diese sind notwendig, auch wegen der Haftungsfragen.

Gesellschaftliche Auswirkungen

• Die Studie TÜV besagt weiterhin, 77% der Jobprofile verändern sich, 80% werden Routineaufgaben übernehmen. In der Tat wird es durch den Einsatz von KI langfristig erhebliche Nutzungsveränderungen geben. So könnten z. B. Bankprozesse weitgehend durch KI organisiert werden. Damit verbunden wären gravierende Auswirkungen auf bisherige Bankberufe. Allerdings ist die Frage, wie schnell bestimmte Tätigkeitsprofile verschwinden und in welchem Umfang neue entstehen. Es braucht jedenfalls eine gerechte Verteilung von Arbeit, sodass nach wie vor möglichst viele ihr Auskommen haben. Herr Mayer sieht momentan noch keine besondere Gefahr großer Jobverluste. Langfristig wird es aber einen großen Umbruch geben.

• Besondere Relevanz hat der Einsatz von KI in Bereichen, die wesentlich von der Qualität der Beziehung leben, wie z. B. im Bereich Pflege. Es braucht nach wie vor Empathie, soziale Interaktion, was Roboter nicht können und auch nicht können werden. Roboter können keine menschlichen Beziehungen ersetzen, sondern sind in diesen Bereichen eher als Unterstützungssysteme zu nutzen. Generell ist die Annahme berechtigt, dass der Mensch bei allen technischen und digitalen Fortschritten nach wie vor das Bedürfnis hat, selbst etwas zu gestalten und bewirken zu können. Welchen Sinn würde es machen, einen teuren selbstfahrenden Porsche zu kaufen, wenn der Mensch nichts mehr tun muss. Wer ein solches Auto erwirbt, möchte diesen auch bedienen. Der Mensch wird nach wie vor das Bedürfnis haben nach Empathie, nach Gestalten, Beziehungen und Kontakte. Daher ist davon auszugehen, dass nicht jede Erkenntnis in der Forschung auch im Alltag umgesetzt wird.

4. Abschluss und Dank (Wolfgang Hesse)

Wolfgang Hesse bedankt sich bei Dr. Florian Mayer sowie den Teilnehmenden für die anregende Diskussion und weist noch auf das Buch hin von Tariq Rashid „Neuronale Netze selbst programmieren“. In diesem Buch werden schwierige Zusammenhänge verständlich erklärt. Dr. Mayer weist hin auf den Kurs „Elements of AI“, ein kostenloser Onlinekurs zu den Grundlagen der KI.

Der nächste Gesprächskreis findet am 22.12.2020 statt, ebenfalls wieder als Videokonferenz und wegen der Weihnachtszeit eine Woche früher. Thema wird sein: ‚Zusammenhang von Corona und Demokratie‘. Impulsgeber ist Hans-Ulrich Brändle.

Rottenburg, 02.12.2020

Karl Schneiderhan