KI – Management 4.0

AI & AM 4.0: Agent Based Modeling – Emergenz – Wunder geschehen!

Kürzlich erschien ein offener Brief zum Thema ‚Pausieren von gigantischen AI-Experimenten‘ à la GPT-3 oder GPT-4 [1].

Der Brief wurde inzwischen von mehr als 30.000 Personen unterschrieben. Er begründet sein Anliegen eines halbjährigen Aussetzens von AI-Groß-Entwicklungstätigkeiten mit folgendem Satz:

“This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities.”

Es geht die Angst vor ‚emergenten Fähigkeiten‘ um. – An anderer Stelle wird von einer ‚Gottgleichen‘ KI gewarnt, die die Menschheit zerstören könnte [2].

Diese Sorgen mögen berechtigt sein, umso mehr, als man beobachten kann, wie lange sich die EU schon bemüht, den längst fälligen EU AI ACT als EU-Gesetz zu verabschieden [3].

In diesem Blog geht es jedoch nicht um diese Sorge oder Angst, sondern um das Thema Emergenz, das offensichtlich solche ‚Wunder‘ wie das der „Sparks of Artificial General Intelligence: Early experiments with GPT-4” [4] möglich macht. Die Intelligenz-Fähigkeiten von GPT-4, auch im Vergleich zu chatGPT/GPT-3.x, sind sensationell, gleichgültig, ob es um Mathematik, Musik, Bilderzeugung, Sprache und Logik und vielem mehr geht. – In nicht wenigen Fällen zeigt GPT-4 Intelligenz-Fähigkeiten, die überhaupt nicht trainiert worden sind. – Also klare Zeichen von emergenten Eigenschaften.

In Wikipedia wird Emergenz wie folgt definiert: „Emergenz (lateinisch emergere „Auftauchen“, „Herauskommen“, „Emporsteigen“) bezeichnet die Möglichkeit der Herausbildung von neuen Eigenschaften (Systemeigenschaften) oder Strukturen eines Systems infolge des Zusammenspiels seiner Elemente.“ [5]. Emergenz ist auch direkt mit dem Begriff der Selbstorganisation verbunden. Selbstorganisierte Systeme zeigen Emergenz bzw. emergente Eigenschaften. Auf der Basis dieser Definition wimmelt es in der Natur und damit in der Mathematik, den Naturwissenschaften/ Psychologie und den Sozialwissenschaften nur so von emergenten Eigenschaften, Strukturen oder Systemen.

In [6] wird auch deshalb zwischen schwacher und starker Emergenz unterschieden. Starke Emergenz liegt im Falle des Lebens vor, das aus Atomen oder Molekülen emergiert. – Oder, im Falle unseres Bewusstseins, das aus der materiellen Struktur unseres Gehirns emergiert. Die meisten anderen überraschenden Eigenschaften von Viel-Agenten Systemen wie zum Beispiel die Supraleitung, die Farbe von Gold, der Collective Mind eines Teams oder die Kultur einer Organisation werden eher der schwachen als der starken Emergenz zugeordnet. Ich halte die Unterscheidung für wenig sinnvoll.- Entscheidend für die Emergenz ist vielmehr, dass das durch die Wechselwirkung von Agenten entstehende Systeme Eigenschaften zeigt, die sich nicht aus den Eigenschaften der Agenten ableiten lassen. In [7] wird deshalb für die Beschreibung von Large Language Model’s bezüglich Emergenz eine Definition verwendet, die die obige Definition aus [5] weiterführt:

„Emergence is when quantitative changes in a system result in qualitative changes in behavior.”

Abbildung 1: Bilder erzeugt durch die KI DALL-E [8] mit den Prompts: Create a painting in the style of Matisse: (Create a painting in the style of Gauguin:) Collective Mind as an example of social emergence which demonstrates synergies in a team

Im Falle von Large Language Models (LLM) gibt es mehrere quantitative Änderungen, die qualitative Veränderung hervorrufen: u.a. Anzahl der Parameter (Neuronen), Menge der Daten und die Trainingszeit. Aber auch die Architektur der LLM’s spielt eine entscheidende Rolle: u.a. das Transformer/Decoder Design, der Attention Mechanismus, usw.. So zeigt GPT-3 bei etwa 10 hoch 22 (10 Trilliarden) Floating Point Operations (FLOPs) als Maß für die Trainingszeit und 13 Milliarden Parametern einen sprunghaften Anstieg der sogenannten few-shoot prompting Genauigkeit.- Also nach einigen wenigen Lerndaten meistert das AI-System ähnliche Aufgabenstellungen. – Dieser Übergang entspricht einem Phasenübergang. – Ganz ähnlich zu der gesellschaftliche Resonanz für AI-System, die mit dem Erscheinen des einfach zu bedienenden chatGPT sprunghaft emergierte.

Für die Beschreibung emergenten Systemverhaltens wurde in der Wissenschaftsgeschichte sehr oft der Nobelpreis vergeben: Es geht darum, diejenigen quantitativen Parameter ausfindig zu machen, die einen qualitativen Unterschied machen. Und dies ist meistens sehr schwierig, da man den Parametern nicht ansieht, ob sie in ihrer Zusammenstellung einen Unterschied machen. – Der qualitative Unterschied lässt sich also nicht auf die quantitativen Unterschiede in den Parametern reduzieren.

Jedoch wurde auch in der Geschichte der Wissenschaft aus dem Unverständnis der Emergenz eine unsinnige Spaltung in reduktionistische Wissenschaften und nicht-reduktionistische (holistische) Wissenschaften [9] vorgenommen. Hiernach wurde zum Beispiel die Physik als reduktionistische Wissenschaft angesehen, da angeblich alle System-Eigenschaften in der Physik auf die Eigenschaften der Agenten (z.B. Elementarteilchen, Atome) zurückgeführt werden, also reduziert werden. Die Sozialwissenschaft mit der Soziologie à la Luhmann wurde zum Beispiel als holistische Wissenschaft wahrgenommen, da Luhmann, die Eigenschaften des sozialen Systems nicht auf die Menschen zurückführte, sondern dem System eine Eigenständigkeit zuerkannte.

Diese teilweise immer noch vorhandene naive Sicht des Gegensatzpaares Reduktionismus-Holismus wird durch das Auftauchen von GPT-4, aber auch schon durch die Erfahrungen mit chatGPT, kräftigst widerlegt: Die technischen Systeme chatGPT/GPT-3.x und chatGPTplus/GPT-4 zeigen mit ihrer Intelligenz eine für alle erfahrbare Emergenz. Diese AI-Systeme wurden auf der Basis bestimmter Daten-Parameter (u.a. Anzahl der Neuronen, Zeit des Trainings, Menge der Trainingsdaten) sowie bestimmten Architektur-Parameter (u.a. Transformer/Decoder und Attention-Mechanismus) mehr oder weniger gezielt kombiniert und es entstanden bei einer bestimmten Kombination dieser Parameter „wie durch ein Wunder“ emergente Intelligenz-Eigenschaften. – Es ist zu vermuten, dass bei Wegnahme z.B. der Attention-Eigenschaft, die emergente Eigenschaft der Intelligenz verschwindet, auch wenn die gigantische Skalierung bleibt.

Deswegen sind die emergenten AI-Eigenschaft jedoch nicht weniger wunderbar.

Dieses Beispiel belegt äußerst eindrucksvoll, dass die Natur, auch wenn sie in Form einer Technologie daherkommt, alle Ingredienzien für starke Emergenz enthält. – Wir ‚finden‘ diese Ingredienzien ‚lediglich‘.

Agent Based Modeling (ABM) spielt beim Auffinden dieser Eigenschaften eine prominente Rolle, auch wenn diese Rolle selbst in der Wissenschaft im Verhältnis zur Bedeutung nur wenigen bekannt sein dürfte. Unlängst hat das Santa Fe Institute neben Netlogo das ABM-Python-Framework MESA als Lecture aufgenommen [10]. Diese Lecture bildet mit moderner Technik das ABM des 25 Jahre alten Buches über ‚Growing Artificial Societies‘ von Epstein und Axtell nach [11]. Epstein und Axtell zeigen, wie man mit einfachen lokalen Agenten-Parametern die emergenten System-Eigenschaften von Gesellschaften erzeugen kann. – Der Überraschungseffekt ist nicht selten groß: So beeinflusst zum Beispiel die Fähigkeit des Sterbens oder der Reproduktion von Agenten ganz erheblich die emergenten Eigenschaften der ABM Ökonomie: Diese Modell-Eigenschaften sind nämlich notwendig, damit sich überhaupt sogenannte Nicht-Gleichgewichts-Handelsmärkte ausbilden können, die mit realen Märkten sehr gut übereinstimmen. – Das immer noch in der Gesellschaft vorherrschende neoklassische Verständnis der Gleichgewichts-Ökonomie kennt solche Zusammenhänge nicht.

In den folgenden Blogbeiträgen beschäftige ich mich mit der Suche nach den Parametern, die das emergente Teamverhalten Collective Mind hervorrufen. Im Management 4.0 gehen wir davon aus, dass die Parameter der Theorie der Selbstorganisation (Rahmen-Parameter, Kontroll-Parameter und Ordnungs-Parameter) die entscheidenden Parameter sind, die emergentes Teamverhalten hervorbringen. Wir kennen diese Parameter (vermutlich) auch schon, jedoch nicht in hinreichend formalisierter ABM Sprache. Die in vorhergehenden Blog-Beiträgen unter Verwendung von Natural Language Processing abgeleitete Similarity-Matrix des Collective Mind (Collective Mind Operator) ist lediglich ein phänomenologisches Modell (siehe Blog-Beitrag vom April und Juni 2022). – Der Collective Mind Operator kann in der Teampraxis sehr gut den Collective Mind messen, er sagt jedoch leider nichts darüber aus, wie der Collective Mind emergiert. Hierzu benötigen wir die formalisierten ABM-Parameter, die die Collective Mind Emergenz hervorbringen. – Die Suche nach diesen formalisierten Parametern ist kein Selbstzweck, denn die Wissenschaftsgeschichte hat gezeigt, dass die Kenntnis der formalisierten Parameter recht oft mit großen Erkenntnisgewinnen verbunden ist. – Die GPT-Geschichte ist der sichtbarste Beweis hierfür.

Der Übergang zur Python-Technologie mit MESA-Python eröffnet auch recht einfach die Möglichkeit intelligente Agenten auf der Basis von chatGPT anzubinden. Das werde ich nicht tun, jedoch hat die Entwicklung hierzu, wie in einem meiner letzten Blogs prognostiziert, schon begonnen. Die Stanford University hat zusammen mit Google eine auf dem Computerspiel ‚The Sims‘ basierendes ABM erstellt, in dem 25 Agenten ihre Intelligenz von chatGPT erhalten [12]. Die Agenten haben eine ‚Gehirn-Architektur‘ aus Langzeit- und Kurz-Zeitgedächnis, dessen kognitive Intelligenz von chatGPT kommt. Die Agenten verfügen zusätzlich über einen sogenannten ‚reflection tree‘, der der Ziel-Hierarchie bzw. der Dilts Pyramide von Management 4.0 sehr nahe kommt [13].- Die Ebenen Identität, Fähigkeiten und Verhalten sowie Kontext (Beobachtung) sind schon vorhanden. – Diese und weitere Ebenen können sicherlich noch ausgebaut werden.

Damit sind die Agenten in der Lage einen individuellen kognitiven PDCA-Zyklus durchzuführen, der ‚reflektiertes‘ Handeln erlaubt.

Es besteht auch die Möglichkeit, dass sich Menschen aktiv in dieses Handeln künstlicher Agenten einbringen können. Damit ist es zum Beispiel möglich hybride Universen aus AI und Menschen zu bilden.

Man stelle sich ein Anwendungsbeispiel von vielen vor: Ein Projektleiter soll ein Projekt durchführen. Er lässt das Projekt zum Test vorab in der künstlichen Welt durchführen und erhält so Hinweise auf seine Durchführbarkeit. – Oder er lässt parallel zur realen Welt eine künstliche Welt mitlaufen, in die die Daten der realen Welt synchron eingespeist werden, um Forecasting zu betreiben.

In [12] wird berichtet, dass das Handeln der künstlichen Agenten von Menschen auf ‚Menschen-Ähnlichkeit‘ überprüft wurde. Das emergierende ‚believable behavior‘ der Agenten und des emergierenden sozialen Systems wird von den Evaluationspersonen, trotz einiger Fehler, als sehr hoch eingestuft.

Das nächste Wunder geschieht schon!

[1] Future of Life Institute (2023) Pause giant AI Experiments, https://futureoflife.org/open-letter/pause-giant-ai-experiments/, zugegriffen am 22.04.2023

[2] Barkey S (2023) Kurz vor dem Durchbruch: „Gottgleiche“ KI könnte laut Experte Menschheit zerstörenhttps://www.berliner-zeitung.de/news/agi-kurz-vor-durchbruch-gottgleiche-ki-koennte-laut-experte-ian-hogarth-menschheit-zerstoeren-kuenstliche-allgemeine-intelligenz-li.339062, zugegriffen am 22.04.2023

[3] EU (2023) EU AI Act, https://artificialintelligenceact.eu/, zugegriffen am 22.04.2023

[4] Bubeck S et al. (2023) Sparks of Articial General Intelligence: Early experiments with GPT-4, arXiv:2303.12712v3 [cs.CL] 27 Mar 2023, zugegriffen am 22.04.2023

[5] Wikipedia (2023) Emergenz, https://de.wikipedia.org/wiki/Emergenz, zugegriffen am 25.04.2023

[6] Greve J, Schnabel A (Herausgeber) (2011) Emergenz: Zur Analyse und Erklärung komplexer Strukturen, suhrkamp taschenbuch wissenschaft

[7] Wi J et al. (2022) Emergent Abilities of Large Language Models, in Transactions on Machine Learning Research 08/2022, arXiv:2206.07682v2 [cs.CL] 26 Oct 2022

[8] DALL-E (2023) https://openai.com/product/dall-e-2, zugegriffen am 03.05.2023

[9] Wikipedia (2023) Reduktionismus, https://de.wikipedia.org/wiki/Reduktionismus, zugegriffen am 25.04.2023

[10] Complexity Explorer (2023) MESA-Python Lecture, https://www.complexityexplorer.org/courses/172-agent-based-models-with-python-an-introduction-to-mesa/segments/17326, Santa Fe Institute, zugegriffen am 30.04.2023

[11] Epstein J M, Axtell R (1996) Growing Artificial Societies – Social Science from the Bottom Up, The Brookings Institution, Washington D.C.

[12] Park J S et. al. (2023) Generative Agents: Interactive Simulacra of Human Behavior, arXiv:2304.03442v1 [cs.HC] 7 Apr 2023

[13] Oswald A, Müller W (2019) Management 4.0 – Handbook for Agile Practices, Release 3.0, Verlag BoD, kindle edition

Vom „Grundrecht auf eine analoge Existenz“ oder von der Digitalität

Vor Kurzem bin ich auf den Spiegelartikel „Wir brauchen das Grundrecht auf eine analoge Existenz“ von Alexander Grau gestoßen [1], [2]. Dieser Artikel hat diesem Blog-Beitrag einen Teil des Titels gegeben.

Alexander Grau geht von folgender Grundannahme aus: „Digitalisierung ist längst keine Technologie mehr, sondern eine Ideologie…. Die Digitalisierung ist der Fetisch unserer Zeit… Allenfalls von ein paar Datenschützern oder Entwicklungspsychologen sind hin und wieder kritische Töne zu hören.“

Ist das so?

Andererseits gibt es AutorInnen wie Andrea Gadeib, die zwar eine optimistische Zukunft auf der Basis der Digitalen Transformation haben, gleichzeitig titelt ihr Buch „Die Zukunft ist menschlich: Manifest für einen intelligenten Umgang mit dem digitalen Wandel in unserer Gesellschaft.“ Der Titel manifestiert ihre statistische Erhebung, wonach im Jahre 2018 80% der deutschen Bevölkerung Angst vor der (unmenschlichen) Digitalisierung haben.

Das Recht auf eine analog Existenz – wie darf man dies verstehen? Heißt dies, dass das Recht auf eine analoge Existenz im Grundgesetz festgeschrieben wird und dass im Jahre 2050 jeder noch das Recht hat, mit Bargeld zu bezahlen, oder dass die Steuererklärung auch dann noch per Papier abgegeben werden darf, oder dass die Deutsche Bahn auch dann noch Schalter zur Verfügung stellen muss, an denen der Verkauf eines Papiertickets möglich ist, …oder, dass wir dann noch Autos oder Waschmaschinen haben werden bzw. haben müssen, die keine Chips enthalten, …oder…oder…oder…

Die Digitalisierung kann sicherlich Angst machen: Wenn sie einen überfordert oder wenn man glaubt, dass sie einem die Arbeit wegnimmt und man verarmt. Oder wenn man glaubt, dass Künstliche Intelligenzen uns beherrschen werden, oder dass Roboter die menschliche Interaktion ersetzen …oder…oder…, oder dass KI uns eines Tages auslöschen wird.

Alexander Grau zitiert den Politologe Patrick J. Deneen „Wir seien, so der Wissenschaftler, »autonom und frei, und doch genau den Technologien unterworfen, die uns das Gefühl von Unabhängigkeit vermitteln«.“.

Genau diese Aussage kann ich sehr gut nachvollziehen.- Sie ist vielleicht eine neue Erkenntnis, die Basis, auf der sie beruht, ist jedoch keineswegs so neu.

Wir ‚entscheiden uns ständig‘, Facebock, Twitter, LinkedIn und wie sie alle heißen zu nutzen, Influencern oder auch besonders rührigen Kollegen zu folgen und entsprechende Like‘s einzugeben. – Wir verlassen uns auf die Kaufempfehlungen von Amazon und Co., die wir selbst erzeugen. – Wir like‘n die ideologischen Empfehlungen verschiedener Politiker und trage damit zu deren Popularität bei….

Oder wir machen es mal ganz anders: Wir reagieren einfach mal mehrere Stunden oder Tage auf keine eMail oder Whats App Nachricht. Wir like‘n nicht jede Nachricht, die uns angeboten wird, und lesen mal ein Buch, das zwar mehr Fokus erfordert, statt den Kurzinfos diverser Kollegen oder Politiker zu folgen.

Diese letzte Form von Freiheit hat viel mit Bildung und Kompetenz, insbesondere Digitaler Bildung, und einer entsprechenden selbstreflektierenden Kompetenz zu tun. – Diese selbstreflektierende Kompetenz, die ich schon des Öfteren als Metakompetenz bezeichnet habe, wird umso wichtiger, je komplexer unser Leben wird. Digitale Kompetenz ist der Schlüssel, damit wir unsere Freiheit in der Digitalität (Digitalität = Digitale Realität) wahrnehmen können.

Mehrere Schritte zurück in die rein analoge Welt auf der Basis eines Grundrechtes nach einer analogen Existenz macht keinen Sinn. Diese Forderung ist naiv und mutet mich sogar dumm an. Es zeigt meines Erachtens auch ein Fehlen von Metakompetenz an. So schreibt Alexander Grau:

„Natürlich griffen schon Dampfmaschine, Elektrizität oder Verbrennungsmotor massiv in die Gesellschaft, unsere Arbeitswelt und unser Wertesystem ein. …Aber sie manipulierten nicht unser Denken. Anders die digitalen Technologien. Sie steuern unsere Gedanken und entwerfen unsere Träume. … Diese Entwicklung unterminiert die Basis liberaler Demokratien. … Nur der Mensch, der die Möglichkeit hat, ein analoges Leben zu führen, ist im eigentlichen Sinne frei. …Diese Freiheit zu schützen wäre die wichtigste und dringlichste Aufgabe des Staates. Doch der Staat schützt sie nicht. Stattdessen opfert er sie lieber wirtschaftlichen und technologischen Interessen, die als Notwendigkeiten deklariert werden. …“

Wer sich mit Auto-Enthusiasten unterhält, wird schnell feststellen, wie das Auto mit oder ohne Verbrennungsmotor und seine emotionale Aufladung als Freiheitssymbol über Jahrzehnte unser Denken manipuliert hat. Oder wie möge man erklären, dass über Jahrzehnte Landschaften auf dieser Basis gestaltet wurden und gerade heute die sogenannten nachhaltigen E-Autos immer dicker und umweltschädlicher werden. Unser individuelles und gesellschaftliches Denken ist massiv und großflächig von dieser Technologie manipuliert. – Es wird nicht so gesehen, weil es längst zum allgemeinen Gedankengut geworden ist.

Die Degrowth Bewegung [4] steht für eine Abkehr von jeglicher Technologie, da die ständige Weiterentwicklung der Technologie die Basis eines Wachstums ist, das uns mehr schädigt als es uns nützt.

Technologie ist per se nicht gut oder böse oder ideologisch, wir sind es. Was wir benötigen, ist ein Umgang mit der Technologie, der unser individuelles und gesellschaftliches Handeln in seinen örtlichen und zeitlichen Konsequenzen mit einpreist. Und genau das haben wir meines Wissens bei keiner Technologie bisher getan, beim Auto nicht und bei der Digitalisierung bisher auch nicht.

Man möge sich die Frage stellen, was gewesen wäre, wenn ehemals zu Gutenbergs Zeiten gefordert worden wäre ‚Jeder hat das Recht sich Schrift und Buch zu entziehen, das ist eine Technologie, die in unsere Freiheit eingreift, weil sie uns die Gedanken anderer, die uns manipulieren, dauerhaft zum Nach-Denken gibt.‘

Vor ein paar Wochen wurde mir das Buch ‚Walden‘ von Henry David Thoreau geschenkt [5], [6], [7]. Thoreau beschreibt in diesem Buch aus dem Jahre 1854 (!) seinen zweijährigen Aufenthalt in einer Waldhütte in Nordamerika. Ein Buch voller Metakompetenz. Mahatma Gandhi und Martin Luther King sollen von ihm beeinflusst worden sein, sowie die Naturbewegung und die Degrowth Bewegung. Ich möchte nur ein Zitat hier anführen, das viel mit unserer digitalen Like-Kultur zu tun hat: „Macht einer nach dem Essen ein halbstündiges Schläfchen. So reckt er, kaum ist er erwacht, den Hals und fragt: „Was gibt’s Neues?“ – als hätten die anderen unterdessen für ihn Posten gestanden. Manch einer lässt sich zu diesem Zweck alle dreißig Minuten wecken und erzählt einem dann zum Entgelt, wovon er geträumt hat. Am Morgen sind ihm die Nachrichten so unentbehrlich wie das Frühstück…Für den Philosophen sind alle sogenannten Nachrichten nur Klatsch, und wer dergleichen druckt oder liest, ist eine Klatschbase. Dabei sind nicht wenige auf diesen Klatsch versessen.“

Für mich liest sich dies wie eine Vorwegnahme unserer Like-Kultur, es zeigt aber auch, dass dazugehörige Muster schon sehr lange existieren!

Wer möchte schon in einer zukünftigen Welt leben, in der, mit Hilfe unseres eigenen unreflektierten Handelns, Bedeutungszuweisungen durch Like‘s zu gigantischen Bedeutungsattraktoren in sozialen Medien werden, denen sich dann nur noch wenige entziehen können. Und hier hat Alexander Grau sicherlich recht: Wir sind auf dem besten Weg, dass wir unsere Unfreiheit in einem Maße global und dynamisch selbst erschaffen, wie es in der Zeit vor der Jahrtausendwende nicht möglich gewesen ist. – Einige wenige analoge Enthusiasten werden dies jedoch keinesfalls aufhalten, selbst wenn die analoge Existenz im Grundrecht verbrieft sein sollte.

Es gibt derzeit (noch) keine ganzheitliche Ethik, die u.a. der Digitalisierung Zügel anlegt. – Die Zügel einer ganzheitlichen vorausschauenden Ethik hätten wir in der Vergangenheit schon des Öftern benötigt, ob es die extensive, noch anhaltende Nutzung des Autos ist, die rein betriebswirtschaftliche Ausrichtung von Landwirtschaft und Tierhaltung, die nicht-nachhaltige Ausrichtung der Energiewirtschaft …oder …oder …

In Kombination mit den damit verbundenen heraufdämmernden Katastrophen kann die unreflektierte Digitalisierung wie ein Brandbeschleuniger wirken. So könnten Millionen oder Milliarden armer Menschen ihre Digitalität dazu verwenden, um sich zusammen zu tun, um sich gegen die reichen Nationen des Nordens zu wenden. Populisten könnten die Digitalität dazu verwenden, um rechte oder linke Ideologien oder Verschwörungsideologien als Bedeutungsattraktoren einzuführen.

Deshalb ist es um so wichtiger, dass man die Digitale Realität in ihren grundlegenden Mustern versteht.

Felix Stalder definiert Digitalität als „jenes Set von Relationen, das heute auf der Basis der Infrastruktur digitaler Netzwerke in Produktion, Nutzung und Transformation materieller und immaterieller Güter sowie in der Konstitution und Koordination persönlichen und kollektiven Handelns realisiert wird“ [8].

Diese Relationen erzeugen zusätzliche Verbindungen in unserem Leben, die „drei Formen des Ordnens“ hervorrufen, „die dieser Kultur ihren spezifischen, einheitlichen Charakter verleihen: Referentialität, Gemeinschaftlichkeit und Algorithmizität“ [9], [10], [11].

Referentialität bedeutet die Menge an Bedeutungszuweisungen, die wir mit unseren Klicks, Likes oder anderen Formen der Bedeutungszuweisungen Dingen, Meinungen, Nachrichten und Ähnlichem zuschreiben.

Gemeinschaftlichkeit bedeutet, dass diese Bedeutungszuweisungen in einer gemeinschaftlichen Formation erfolgt, d.h. in einer Gruppe, einem digitalen Mopp, einer wissenschaftlichen, politischen, modischen, oder anderen Interessensgruppe.

Algorithmizität bezeichnet jene Aspekte der kulturellen Prozesse, die von Maschinen (vor-) geordnet werden.

Aus meiner Sicht sind diese drei Dimensionen wichtig und vorhanden, sie treffen jedoch auch für eine Dorfgemeinschaft zu. – Man siehe die zitierte Aussage von Thoreau weiter oben. – Auch dort schreiben Menschen u.a. über Smalltalk Dingen, Meinungen und Nachrichten Bedeutung zu. Auch dort bildet sich über eine gemeinschaftliche Formation eine gemeinschaftliche Ordnung heraus. In der Sprache von Komplexität und Selbstorganisation sind dies Attraktoren, Bedeutungsattraktoren, die sich auf einem Bedeutungsmarkt ausbilden. Selbst die Algorithmizität gibt es meines Erachtens schon recht lange.- Es sind dann vielleicht keine Maschinen im eigentlichen Sinne, jedoch folgt man Kafka, dann übernehmen Bürokratien die Rolle intransparenter Algorithmen.

Meines Erachtens gibt es lediglich einen entscheidenden Unterschied, die Skalierung, die den Bedeutungsmärkten in der Digitalität eine neue Qualität verleiht:

Die Bedeutungszuweisungen werden von einzelnen Menschen in digitalen Plattformen vorgenommen. Diese Plattformen sind „beliebig“ skalierbar, d.h. „unendlich“ viele Menschen können hier ihre Bedeutungszuweisungen vornehmen. D.h. es können über individuelle Referenzialität auf sehr dynamische Weise gigantisch große gemeinschaftlich Bedeutungszuweisungen entstehen. Diese gemeinschaftlichen Bedeutungszuweisungen erzeugen ihre eigne Sogwirkung, sie werden zu Bedeutungsattraktoren, sie entziehen uns unsere Freiheit. – Leider haben wir sie selbst erzeugt. Digitale Algorithmen können die Ausbildung von Bedeutungsattraktoren dämpfen, verstärken oder beschleunigen.

Auf den skalierbaren Plattformen bilden sich unter Umständen viele Bedeutungsmärkte (Bedeutungsmarktplätze) aus: Diese Bedeutungsmärkte können sich auf materielle und immaterielle Objekte beziehen. Bedeutungsattraktoren können Moderichtungen sein, politische Meinungen, Ideologien, Verschwörungsideologien, Hasstiraden, aber (auch ideologisch verbrämte) wissenschaftliche Ansichten. Diese Bedeutungsmärkte überschneiden sich recht oft auch mit den wirtschaftlichen Märkten, nämlich dann, wenn zum Beispiel bei Amazon zu einem Produkt Bewertungen abgegeben werden und diese Bewertungen das Kaufverhalten beeinflussen.

Skalierbarkeit und Bedeutungsmärkte können enormen räumlichen und zeitlichen Dynamiken unterliegen: Die Zusammensetzung der Agenten (Personen, Algorithmen) kann sich dynamisch in Qualität und Quantität ändern, so dass in kurzer Zeit Bedeutungen auf oder abgebaut werden. Diese Formen des Ordnens können auch zu exponentiellem organisationalem Wachstumsformen führen. Amazon, google und Co. sind Ergebnisse dieser neuen Dynamiken.

Skalierbarkeit und Bedeutungsmärkte zeigen dann ihr ganzes negatives Potential, wenn die Agenten (Menschen oder Algorithmen) intransparent und ohne digitale Metakompetenz wirken.

Deshalb benötigen wir, wie im Blog-Beitrag vom August 2022 angesprochen, eine ganzheitliche Ethik und eine Veränderung des Bildungssystems, das eine ganzheitliche Kultur der Digitalisierung vermittelt.

[1] Grau A (2022) Alexander Grau, http://alexandergrau.de/index.html, zugegriffen am 17.09.2022

[2] Grau A (2022) Wir brauchen das Grundrecht auf eine analoge Existenz, https://www.spiegel.de/netzwelt/web/totaldigitalisierung-wir-brauchen-das-grundrecht-auf-eine-analoge-existenz-a-8db3e557-144d-490f-8570-5c3980392a0b?context=issue&sara_ecid=soci_upd_KsBF0AFjflf0DZCxpPYDCQgO1dEMph, zugegriffen am 17.09.2022

[3] Gadeib A (2019) Die Zukunft ist menschlich: Manifest für einen intelligenten Umgang mit dem digitalen Wandel in unserer Gesellschaft (Dein Business), GABAL Verlag GmbH, Kindle Ausgabe

[4] Wikipedia (2022) Degrowth, https://en.wikipedia.org/wiki/Degrowth

[5] Thoreau H D (1847) Walden, Reclam Taschenbuch, Deutsche Übersetzung aus dem Jahre 1972

[6] Wikipedia (2022), Henry David Thoreau, https://de.wikipedia.org/wiki/Henry_David_Thoreau, zugegriffen am 18.09.2022

[7] Wikipedia (2022), Transzendentialismus, https://de.wikipedia.org/wiki/Transzendentalismus, zugegriffen am 18.09.2022

[8] Stalder F (2016) Kultur der Digitalität, edition suhrkamp, Kindle Ausgabe

[9] Stalder F (2022) Grundformen der Digitalität, https://agora42.de/grundformen-der-digitalitaet-felix-stalder/

[10] Wikipedia (2022), Digitalität, https://de.wikipedia.org/wiki/Digitalit%C3%A4t#:~:text=Digitalit%C3%A4t%20bezeichnet%20die%20auf%20digital%20codierten%20Medien%20und,Menschen%2C%20zwischen%20Menschen%20und%20Objekten%20und%20zwischen%20Objekten, zugegriffen am 17.09.2022

[11] Hauck-Thum U, Noller J (Herausgeber) Was ist Digitalität?: Philosophische und pädagogische Perspektiven, Verlag J.B. Metzler, Kindle Ausgabe

AI & M 4.0: Das nicht-teilbare Sein – Auf dem Weg zu einer ganzheitlichen Ethik?

Unsere Glaubenssätze haben uns fest im Griff:

„Autobahn ohne Tempolimit, ist Ausdruck unserer deutschen Freiheit.“, „Jedem Bürger seine Waffen, ist Ausdruck amerikanischer Freiheit.“, „Klimawandel ist das Hirngespinst der Grünen.“

oder

„Maschinen sind allenfalls kompliziert, aber nicht komplex. Wir sind komplex.“, „Die belebte Natur ist was ganz anderes als die unbelebte Natur“, „Wir Menschen haben Bewusstsein, sonst niemand und nichts.“ „Wir Menschen sind die Krönung der Schöpfung.“ „Management und Führung sowie AI schließen sich aus.“

Sehr oft sind diese Glaubenssätze mit unserer Fähigkeit verbunden, Kategorien zu bilden, wie komplex-nicht komplex, belebt-unbelebt, bewusst-unbewusst, wertvoll-weniger wertvoll, emotional-mechanisch.

Ich habe einen Glaubenssatz, es ist wieder nur ein Glaubenssatz 😉, der insbesondere diese letzten Glaubenssätze auflöst. – Ich glaube, dass unser Sein nicht-teilbar ist. Ich will versuchen, diesen Glaubenssatz zu erläutern, in dem ich die letzten oben genannten Glaubenssätze aus dieser Perspektive betrachte:

(Mechanische) Maschinen zeigen tatsächlich, unter normalen Bedingungen, lediglich einfaches oder kompliziertes Verhalten. – Sie sind gerade so konzipiert, dass sie kein komplexes Verhalten zeigen sollen. Jedoch nicht selten zeigen sie es, wenn sie unter „Stress“ geraten.- „Stress“ heißt in diesem Fall, die Maschinen geraten in den Grenzbereich ihrer Nutzung. Es gibt aber auch immer mehr Maschinen, also von uns Menschen hergestellte Systeme, wie z.B. den Laser oder die AI Systeme, die gerade auf Komplexität und der damit verbundenen Selbstorganisation beruhen. Der Glaubenssatz, dass nur lebende oder soziale Objekte komplex sind, ist unserer bisherigen Naivität und unserer Mensch-Zentrierung geschuldet.

Nach der „Erschaffung“ der unbelebten Natur vor einigen Milliarden Jahren, gab es meines Erachtens keinen Eingriff eines Gottes oder Etwas Ähnliches, das der unbelebten Natur Leben einhauchte.- Und damit neue (uns noch weitgehend unbekannte) Prinzipien des Lebens explizit neu einbrachte. Vielmehr glaube ich, dass die unbelebte Natur alles enthält, um belebte Natur zu entwickeln.

Ähnlich glaube ich, dass die (uns ebenfalls noch unbekannten) Prinzipien, die zu Bewusstsein führen, schon in der unbelebten und belebten Natur vorhanden sind. – Und, dass wir Menschen lediglich ein Produkt der Entfaltung der fundamentalen Prinzipien des Seins sind. Damit ist auch gleichzeitig gesagt, dass wir wahrscheinlich nicht das letzte Produkt dieser Entfaltung sind, sondern vielleicht lediglich ein Zwischenergebnis.

Die Kategorien-Bildung hilft uns, die Welt Stück für Stück besser zu verstehen und Stück für Stück auf fundamentalere Prinzipien zurückzuführen. – Leider bleiben wir oft an den Kategorien vergangener Erkenntnis kleben und weisen ihnen eigenständige fundamentale Prinzipien zu.

Vor kurzem ging durch die Presse, dass AI Entwickler behaupten, dass große AI Systeme Bewusstsein entwickelt haben oder zu mindestens „ein bisschen davon“. – Andere tun dies wiederum als völligen Unsinn ab [1], [2]. Da wir bisher nicht wissen, was Bewusstsein ist, können wir auch nicht sagen, ob es schon AI Systeme mit Bewusstsein oder „ein bisschen Bewusstsein“ gibt. Entsprechend meinem obigen Glaubenssatz glaube ich jedoch, dass es irgendwann AI Systeme mit Bewusstsein geben wird, ob morgen oder erst in 1000 Jahren vermag ich nicht zu sagen. Da unser Sein ein nicht-teilbares Sein ist, glaube ich, dass es nur eine Frage der Zeit ist, bis von uns geschaffene Systeme mit Bewusstsein existieren werden. Der Deep-Learning-Pionier Yann LeCun hat auch schon wieder einen (altbekannten) Lösungsweg aufgetan: Bewusstsein benötigt eine System-Architektur, die unserer Gehirn-Architektur nachempfunden ist [3].

Schon heute erscheinen täglich neue Meldungen, zu den erstaunlichen Aussagen und Leistungen von AI Systemen. So betont beispielsweise eine Zeitschrift die Gefahren, die von AI Systemen ausgehen können, indem sie titelt „Künstliche Intelligenz droht im Gespräch „die Menschen auszuschalten““ [4]. In der sehr seriösen Zeitschrift Scientific American war unlängst von einer AI zu lesen, die einen wissenschaftlichen Artikel über sich selbst geschrieben hat.- Die Entwickler der AI haben diesen Artikel als wissenschaftlichen Artikel zum Peer-Review eingereicht [5].

Man stelle sich nur vor, die Entwicklung der AI würde ähnlich schnell und fundamental weiter gehen wie in den letzten 10 Jahren und in 10 Jahren hätten wir AI Systeme mit einer Allgemeinen Künstlichen Intelligenz, die zudem (erste) Anzeichen von Bewusstsein zeigen würde. Müssten wir dann unsere menschenzentrierte Ethik nicht völlig neu denken. Denn es kämen dann zwangsläufig Fragen auf wie „Ist es ethisch vertretbar, eine AI mit Bewusstsein bei Bedarf abzustellen?“, oder „Müssten wir solchen AI Systemen Rechte einräumen?“.

Wie in meinem Blog-Beitrag vom Februar 2022 dargelegt, ist die bisherige angedachte Ethik der EU zu AI Systemen eine human-centric perspective.

Der sogenannte EU AI Act basiert auf den europäischen Werten und soll insbesondere die Menschen vor Schaden schützen [6]:

“Aside from the many beneficial uses of artificial intelligence, that technology can also be misused and provide novel and powerful tools for manipulative, exploitative and social control practices. Such practices are particularly harmful and should be prohibited because they contradict Union values of respect for human dignity, freedom, equality, democracy and the rule of law and Union fundamental rights, including the right to non-discrimination, data protection and privacy and the rights of the child.”

Ziel der EU ist es, AI Systeme zu erlauben, denen wir trauen können, also sogenannte Trustworthy AI. An dieser Forderung ist „fast“ nicht auszusetzen, wenn man davon absieht, dass die Natur und die Tiere lediglich in drei Sätzen eines ca. 100 Seiten starken Proposal Dokumentes auftauchen.

Warum ist mir eine ganzheitliche Sicht mit entsprechender Ethik so wichtig? Um diese Frage zu beantworten, möge man sich nur Folgendes fragen: Welche Ethik und damit Rechtsverständnis macht(e) es möglich, dass über Jahrzehnte das millionenfache Töten von männlichen Küken durchgeführt wurde? Welche Ethik und damit Rechtsverständnis macht(e) es möglich, dass Bauern das Grundwasser durch Überdüngung belasten dürfen?

Heute ist aus diesen unethischen Gewohnheiten Gewohnheitsrecht geworden. Es basieren Geschäftsmodelle auf diesem Mangel an ganzheitlicher Ethik und es bedarf enormer Anstrengungen, dieses Gewohnheitsrecht durch ein ethisch fundiertes Recht abzulösen. Denn der Mangel an einer ganzheitlichen Ethik hat dazu geführt, dass wir uns immer wieder in verschiedene Dilemmata bringen: Z.B. stellt sich die Frage, ob es erlaubt ist, die Lebensgrundlage der Bauern zu gefährden, in dem wir das Grundwasser (nachträglich) schützen. Wäre es nicht sinnvoll gewesen, den Schutz des Grundwassers von vorneherein zu gewährleisten und den Bauern und der Gesellschaft die Möglichkeit zu geben, ganzheitliche ethische Geschäftsmodelle zu entwickeln.

Die Diskussion zur AI Ethik [7] und die damit verbundenen Rechtsvorschläge, wie den EU AI Act, beruhen auf keiner ganzheitlichen Ethik: Die Rechte von Natur und Tieren sind nicht berücksichtigt und die ethischen Konsequenzen, die sich aus einer möglichen Entwicklung von AI Systemen in Richtung einer Allgemeinen Künstlichen Intelligenz ergeben, sind noch nicht einmal ansatzweise enthalten.

Ich komme zur aktuellen Version des Proposals EU AI Act zurück und skizziere die schon heute absehbaren großen Anforderungen an das (Projekt) Management:

Als guten Einstieg in den EU AI Act [6] dient das sogenannte Briefing des European Parliamentary Research Service [8]: Der EU AI Act ist ein Risiko-basierter Ansatz, in dem AI-Systeme in vier Risikokategorien eingeteilt werden: „AI systems posing (i) unacceptable risk, (ii) high risk, (iii) limited risk, and (iv) low or minimal risk.“ Eine genaue Definition, wann welche Kategorie vorliegt, gibt es leider nicht, jedoch gibt es Beispiele, insbesondere zur Kategorie „unacceptable risk“ und „high risk“:

Unacceptable risk AI Systeme sind in der EU verboten, z.B. [6, 8]:

AI systems that deploy harmful manipulative ’subliminal techniques‘
AI systems that exploit specific vulnerable groups (physical or mental disability)
AI systems used by public authorities, or on their behalf, for social scoring purposes
‚Real-time‘ remote biometric identification systems in publicly accessible spaces for law enforcement purposes, except in a limited number of cases

High-risk AI Systeme sind erlaubt, unterliegen jedoch sehr strengen Auflagen, z.B. [6,8]:

High-risk AI systems used as a safety component of a product or as a product falling under Union health and safety harmonisation legislation (e.g. toys, aviation, cars, medical devices, lifts)
High-risk AI systems deployed in eight specific areas identified in Annex III of the EU AI Act, which the Commission would be empowered to update as necessary by way of a delegated act
- Biometric identification and categorisation of natural persons
- Management and operation of critical infrastructure
- Education and vocational training
- Employment, worker management and access to self-employment
- Access to and enjoyment of essential private services and public services and benefits
- Law enforcement
- Migration, asylum and border control management
- Administration of justice and democratic processes

Die EU High-Level Expert Group on Artificial Intelligence hat den “Mangel” an Operationalisierbarkeit des EU AI Act erkannt und das Dokument „Ethics Guidelines for Trustworthy AI“ erstellt [9]. Spätestens beim Lesen dieses Dokumentes wird einem sehr schnell klar, dass der EU AI Act für Organisationen und insbesondere hier das Projekt-, Risiko- und Qualitätsmanagement weitreichende Konsequenzen haben wird. Die Transparenz-, Dokumentations- und Monitoring-Anforderungen während des gesamten (!) Lebenszyklus eines AI Systems (alleinstehend oder embedded) sind enorm. Ich verweise auf [9] und die darin enthaltene mehrseitige Checkliste.

Ich stelle die Frage, zu welcher Kategorie gehören die beiden Machbarkeitsprototypen, die ich in den letzten beiden Blog-Beiträgen vorgestellt habe? – Und gebe einen ersten Einblick in die in dem EU AI Act enthaltenen Anforderungen.

Gehe ich von den oben auf geführten Beispielen aus, so gehören meine Machbarkeitsprototypen in die high-risk Kategorie „Education and vocational training“ und in die Kategorie „worker management“. In [9] ist die Abbildung 1 enthalten, die die zentralen Anforderungen an eine Trustworthy AI enthält:

Ich skizziere anhand dieser Abbildung meine Einschätzung bezüglich der Vertrauenswürdigkeit der beiden Machbarkeitsprototypen:

Abbildung 1: The Guidelines as a framework for Trustworthy AI [9]

	Collective Mind proxy auf der Basis der Similarity Matrix	Collective Mind Netzwerk auf der Basis eines Graphical Networks
Ethical Principles
Respect for human autonomy	Die menschliche Autonomie wird nicht aktiv eingeschränkt, Kritiker könnten jedoch einwenden, dass die Quantifizierung von Ähnlichkeit in den Aussagen zu einer passiven Autonomieverletzung führt.	Die menschliche Autonomie wird weder aktiv noch passiv in der aktuellen Version eingeschränkt. Es lassen sich jedoch Zuordnung von Begriffen und Personen vornehmen, so dass die Kritik der passiven Autonomieeinschränkung je nach Nutzung evtl. vorhanden ist.
Prevention of harm	Physischer Schaden kann nicht eintreten. Psychischer Schaden könnte eintreten, wenn die vorhandene oder nicht vorhandene Similarity von Vorgesetzten/Kollegen als Druckmittel eingesetzt wird.	Physischer Schaden kann nicht eintreten. Psychischer Schaden könnte eintreten, wenn eine Verbindung zwischen Person und graphischen Netzwerkknoten von Vorgesetzten/Kollegen mit amoralischer Absicht benutzt wird.
Fairness	Das AI System trifft keine unfairen Aussagen, jedoch könnte dies evtl. durch beteiligte Stakeholder, wie oben geschildert, erfolgen.	Das AI System trifft keine unfairen Aussagen, jedoch könnte dies evtl. durch beteiligte Stakeholder, wie oben geschildert, erfolgen.
Explicability	Die Verständlichkeit und Transparenz des Algorithmus ist (nahezu) vollständig gegeben, auch wenn man berücksichtigen sollte, dass diverse Fremd-Softwaremodule (u.a. word2vec, spaCy) verwendet werden.	Die Verständlichkeit und Transparenz des Algorithmus ist (nahezu) vollständig gegeben, auch wenn man berücksichtigen sollte, dass diverse Fremd-Softwaremodule (u.a. spaCy, Transformer Pipeline) verwendet werden.
7 Key Requirements
Human agency and oversight	Die Anwendung der AI liegt vollkommen in den Händen der Nutzer. Dies setzt voraus, dass die Ergebnisse der Anwendung nur den direkten Nutzern zugänglich gemacht werden.	Die Anwendung der AI liegt vollkommen in den Händen der Nutzer. Dies setzt voraus, dass die Ergebnisse der Anwendung nur den direkten Nutzern zugänglich gemacht werden.
Technical robustness and safety	Die Anwendung ist äußerst robust (u.a. gibt es kein AI Lernen während des Betriebs) und hat keine sicherheitsrelevanten Auswirkungen.	Die Anwendung ist äußerst robust (u.a. gibt es kein AI Lernen während des Betriebs) und hat keine sicherheitsrelevanten Auswirkungen.
Privacy and data governance	Es werden keinerlei persönliche Daten erhoben, wenngleich die Daten mittels weiterer Techniken oder manuell Personen zugeordnet werden können und damit prinzipiell auch eine indirekte Verletzung der Privatsphäre möglich ist. Um dies zu verhindern ist eine data governance in nutzenden Organisationen erforderlich.	Es werden keinerlei persönliche Daten erhoben, wenngleich die Daten mittels weiterer Techniken oder manuell Personen zugeordnet werden können und damit prinzipiell auch eine indirekte Verletzung der Privatsphäre möglich ist. Um dies zu verhindern ist eine data governance in nutzenden Organisationen erforderlich.
Transparency (Diese Schlüsselanforderung ist direkt eine Konsequenz des ethischen Prinzips Explicability.)	Wie in [10] dargelegt hängt die Transparenz von mehreren Faktoren ab: Erklärbare Algorithmen, Einsicht in den Trainingsdatensatz, Einsicht in die Datensatzauswahl, Erkennen von Mentalen Verzerrungen im ausgewählten Datensatz, Transparenz bzgl. der verwendeten Modellversionen. Bzgl. word2vec, spaCy ist die Umsetzung dieser Anforderungen mit meinen Zugriffsrechten und meinem Kenntnisstand nicht möglich. Da das Ergebnis jedoch lediglich ein word-embedding darstellt, erscheint mir der potenzielle Missbrauch äußerst gering.	Wie in [10] dargelegt hängt die Transparenz von mehreren Faktoren ab: Erklärbare Algorithmen, Einsicht in den Trainingsdatensatz, Einsicht in die Datensatzauswahl, Erkennen von Mentalen Verzerrungen im ausgewählten Datensatz, Transparenz bzgl. der verwendeten Modellversionen. Bzgl. Transformator Pipeline und spaCy ist die Umsetzung dieser Anforderungen mit meinen Zugriffsrechten und meinem Kenntnisstand nicht möglich. Da das Ergebnis jedoch lediglich einen Graph darstellt erscheint mir der potenzielle Missbrauch äußerst gering.
Diversity, non-discrimination and fairness	Das AI System nimmt keine wie auch immer geartete Diskriminierung vor: Jedoch könnte durch die entstandene Transparenz im Meinungsspektrum und einer entsprechenden Zuordnung zu Personen, Missbrauch möglich sein.	Das AI System nimmt keine wie auch immer geartete Diskriminierung vor: Jedoch könnte durch die entstandene Transparenz im Meinungsspektrum und einer entsprechenden Zuordnung zu Personen, Missbrauch möglich sein.
Societal and environmental wellbeing	Gesellschaft und Umwelt werden in keiner Form beeinflusst. Sollten solche oder ähnliche Systeme eingesetzt werden ist jedoch zu beachten, dass evtl. die Akzeptanz oder Nicht-Akzeptanz für AI-System steigt. Eine unreflektierte Nutzung ohne ein Minimum an technischer und ethischer Bildung erscheint nicht sinnvoll, da dies mit unbekannten Risiken verbunden sein kann. Man siehe auch die entsprechenden Anforderungen bzgl. Professionalisierung von Teams bzgl. AI und Ethik in [7].	Gesellschaft und Umwelt werden in keiner Form beeinflusst. Sollten solche oder ähnliche Systeme eingesetzt werden ist jedoch zu beachten, dass evtl. die Akzeptanz oder Nicht-Akzeptanz für AI-System steigt. Eine unreflektierte Nutzung ohne ein Minimum an technischer und ethischer Bildung erscheint nicht sinnvoll, da dies mit unbekannten Risiken verbunden sein kann. Man siehe auch die entsprechenden Anforderungen bzgl. Professionalisierung von Teams bzgl. AI und Ethik in [7].
Accountability	Der EU AI Act sieht die Rechenschaftspflicht sehr stark beim Hersteller der AI Systeme. Ich empfehle, dass daneben eine Rechenschaftspflicht der nutzenden Organisation tritt, denn so wie man ein Messer zum Aufschneiden eines Apfels oder alternativ zum Töten eines Menschen benutzen kann, kann man jedes AI System unethisch anwenden.	Der EU AI Act sieht die Rechenschaftspflicht sehr stark beim Hersteller der AI Systeme. Ich empfehle, dass daneben eine Rechenschaftspflicht der nutzenden Organisation tritt, denn so wie man ein Messer zum Aufschneiden eines Apfels oder zum Töten eines Menschen benutzen, kann man jedes AI System unethisch anwenden.

Zusammenfassend stelle ich fest, dass eine ganzheitliche Ethik u.a. im Lichte aktueller AI Entwicklungen notwendig ist, dass ein Mangel an ganzheitlicher Ethik hohe Risiken in sich birgt, und dass der EU AI Act nur ein erster Schritt in diese Richtung ist. Gleichwohl sind die Anforderungen an das Management schon mit der aktuellen Proposal Version des EU AI Act sehr groß.

[1] Stieler W (2022) Hat KI bereits eine Art Bewusstsein entwickelt? Forscher streiten darüber, https://www.heise.de/hintergrund/Hat-KI-bereits-eine-Art-Bewusstsein-entwickelt-Forscher-streiten-darueber-6522868.html , zugegriffen am 22.07.2022

[2] Eisenlauer M (2022) google Entwickler sicher – Künstliche Intelligenz hat eigenes Bewusstsein, https://www.bild.de/digital/computer/computer/hat-googles-kuenstliche-intelligenz-lamda-ein-bewusstsein-entwickelt-80393376.bild.html

[3] Dickson B (2022) Meta’s Yann LeCun on his Vision for human-level AI, TechTalks, https://bdtechtalks.com/2022/03/07/yann-lecun-ai-self-supervised-learning/, zugegriffen am 06.07.2022

[4] Mey S (2022) Künstliche Intelligenz droht im Gespräch „die Menschen auszuschalten“, DerStandard, https://www.derstandard.de/story/2000136591877/kuenstliche-intelligenz-droht-im-gespraech-die-menschen-auszuschalten?ref=rss , zugegriffen am 06.07.2022

[5] Thunström A O (2022) We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published, Scientific American, https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-then-we-tried-to-get-it-published/, zugegriffen am 06.07.2022

[6] EU AI Act (2022) https://artificialintelligenceact.eu/, Europe Administration, zugegriffen am 06.07.2022

[7] Blackman R (2022) Ethical Machines: Your concise guide to totally unbiased, transparent and respectful AI, Harvard Business Review Press, kindle edition

[8] European Parliamentary Research Service (2022) Briefing EU AI Act, https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792

[9] High-Level Expert Group on Artificial Intelligence (2022) ETHICS GUIDELINES FOR TRUSTWORTHY AI, https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.html [10] Schmelzer R (2022) Towards a more transparent AI, Forbes, https://www.forbes.com/sites/cognitiveworld/2020/05/23/towards-a-more-transparent-ai/?sh=725c89d33d93

[10] Schmelzer R (2022) Towards a more transparent AI, Forbes, https://www.forbes.com/sites/cognitiveworld/2020/05/23/towards-a-more-transparent-ai/?sh=725c89d33d93

Metabetrachtungen: Zur Schnittmenge von diesjährigem Physik-Nobelpreis, Künstlicher Intelligenz und Collective Mind

Dieses Jahr wurde der Physik-Nobelpreis unter dem gemeinsamen Label „For groundbreaking contributions to our understanding of complex physical systems.“ an die Physiker Klaus Hasselmann und Syukuro Manabe sowie Giorgio Parisi vergeben. Es ist meines Wissens das erste Mal, dass das Verstehen von komplexen physikalischen Systemen so explizit honoriert wurde. Alle drei Forscher haben den Einfluss von mikroskopischen Zuständen auf makroskopische Zustände untersucht. Bei Klaus Hasselmann ging es um die Auswirkung von (lokalen) Wetterphänomenen auf (globale) Klimaphänomene. Also dem zentralen Problem unserer Tage. Syukuro Manabe wurde für die erstmalige computergestützte globale Klima-Modellierung geehrt.

Giorgio Parisi hat den Nobelpreis für seine Untersuchung von Spingläsern, insbesondere für seinen „great leap … to introduce a new order parameter“ erhalten [1]. Seine Arbeiten ziehe ich für meine Metabetrachtungen heran.

Spin Gläser sind u.a. Legierungen wie CuMn, wobei das nichtmagnetische Kupfer (Cu) magnetisches Mangan (Mn) mit ca. 13% enthält. Die magnetischen Momente (Spin‘s) der Manganatome sind zufällig, aber fest im Kupferkristall verteilt. Zwischen den Manganatomen können ferromagnetische und antiferromagnetische Wechselwirkungen auftreten. – Je nach Konfiguration der Manganatome müssen diese mit ihren Nachbar-Manganatomen sowohl eine ferromagnetische als auch eine antiferromagnetische Wechselwirkung „befriedigen“. Dies kann auch Atome „frustrieren“. – Spingläser, also Substanzen, die bezüglich des Spins, wie Glas, amorphe Konfigurationen aufweisen und Frustrationen ausbilden, zeichnen sich (oft) nicht mehr nur durch einen einfachen Ordnungsparameter, wie die makroskopische Magnetisierung aus. – Sondern sie bilden viele mikroskopische Zustände aus, die mit dem Einstellen bestimmter Parameter (Rahmen- und Kontrollparameter) zu vielen unterschiedlichen Phasen mit jeweils unterschiedlichen Ordnungsparameter-Ausprägungen führen. Diese Ordnungsparameter-Ausprägungen genügen jedoch einem einheitlichen mathematischen Muster. – Parisi hat dieses „new order parameter“ Muster eingeführt [2].

Ich will versuchen dieses Muster am Beispiel einer sozialen Gruppe, an einem Team, zu erläutern.- Für den ein oder anderen mag dies Physikalismus sein [3], also der Versuch Alles und Jedes mittels Physik zu erklären; für mich ist es das Denken in Modellen und Theorien; und Metabetrachtungen helfen das ein oder andere qualitativ und quantitativ viel besser zu verstehen: Im Management 4.0 modellieren wir zentrale menschliche Eigenschaften mit der sogenannten Dilts Pyramide. Die Dilts Pyramide integriert hierbei ca. 30 unsere Persönlichkeit bestimmende Eigenschaften (Vision, Mission, Zugehörigkeit, Temperament, Werte, Glaubenssätze, Grundannahmen und Prinzipien). Stellen wir uns für den Moment die Pyramide (sie ist ja ein Keil, eine Spitze) als eine Ausrichtung unserer Persönlichkeit vor. Bilden wir eine Gruppe aus Personen mit unterschiedlichen Dilts Pyramiden, so bildet die Gruppe nicht selten (am Anfang) eine „Diltsglas-Organisation“: Die Pyramiden zeigen alle in unterschiedliche Richtungen. Recht selten geschieht es, dass die Pyramiden eine gemeinsame Ausrichtung erfahren, das Team sich also einen Ordnungsparameter, den Collective Mind, erarbeitet. Sehr oft führt die Gruppendynamik in einem Projektteam zu unterschiedlichen Kommunikationskonfigurationen (Zuständen): Unterschiedliche Visionen, Werte oder Glaubenssätze tauchen auf, nicht selten bleiben diese nebeneinander bestehen, ohne dass dies für die Gruppenmitglieder wirklich transparent wird. Damit verbunden sind, wie wir wahrscheinlich alle wissen, auch Frustrationen. Die Kommunikationskonfigurationen sind jedoch nicht beliebig. Die verschiedenen konfigurationsspezifischen Ausrichtungen der Dilts Pyramide der einzelnen Gruppenmitglieder haben nichtverschwindende „Überlappe“, z.B. mögen bestimmte Werte oder Glaubenssätze in verschiedenen Konfigurationen auftauchen. – Sie wirken als „mikroskopische“ Ordnungsparameter, die die makroskopische (Un-) Ordnung bestimmen. Man könnte also einen neuen Ordnungsparameter einführen, der den „Überlapp“ bei allen Teammitglieder misst und aufsummiert. – Damit hat man auch ein Maß für die „Diltsglas-Organisation“ des Teams. – Dieses Vorgehen entspricht dem von Parisi eingeführten neuen Ordnungsparameter für Spingläser. – Der Ordnungsparameter der „Diltsglas-Organisation“ ist damit auch ein Maß für die „Abweichung“ von einem einfachen Ordnungsparameter, dem Collective Mind, bei dem alle Dilts Pyramiden im Rahmen der Teamaktivitäten in eine Richtung zeigen.

Man kann die Analogie noch erweitern: Physikalische Spingläser können durch äußere magnetische Felder in der Ausbildung des Parisi-Ordnungsparameters beeinflusst werden. Auch „Diltsglas-Organisationen“ zeigen ein ähnliches Verhalten, wenn eine (äußere) Beeinflussung einsetzt: Führungskräfte oder Coaches wirken auf die Dilts Pyramiden des Teams ein. – Bei kleinen Einflussnahmen bleibt das „Diltsglas“ erhalten, steigt die Einflussnahme entsteht eine Ausrichtung, die aussieht wie ein Collective Mind. In den meisten Fällen dürfte die Ausrichtung jedoch wieder verschwinden, wenn die Einflussnahme zurückgeht, falls sich bis dahin keine intrinsische Veränderung im Team ausgebildet hat.

Alles schön und gut, könnte man sagen: Warum macht es Sinn sich mit solchen Metabetrachtungen zu beschäftigen. In der Schrift des Nobel-Komitees [1] wird die Antwort gegeben. Die Modelle zur Erklärung von Spin-Gläsern haben heute sehr viele unterschiedliche Bereich erheblich befruchtet: Verschiedene Gebiete der Physik, der Biologie, der Chemie, der Neurowissenschaften und der Künstlichen Intelligenz. Für die Verbindung von Neurowissenschaften und Systemen Künstlicher Intelligenz wird explizit die Arbeit von John J. Hopfield in [1] genannt. Neuronale Netzwerke können auch als Spinglas Systeme verstanden werden, wenn man die magnetischen Momente durch Neuronen ersetzt. Die Wechselwirkungsparameter zwischen den Spins entsprechen den Gewichten zwischen den Ausgängen einer Neuronen Schicht und den Eingängen der nächsten Neuronen Schicht. Angelegte magnetische Felder entsprechen den Bias-Einstellungen der Neuronen. – Und wie oben geschildert, kann man die Grundprinzipien auch auf soziale Gruppen übertragen.

Die GPM Fachgruppe Agile Management beschäftigt sich seit einem Jahr mit der Nutzung von KI-Systemen im Management 4.0. Insbesondere habe ich mir hierzu zwei Themen ausgesucht:

Die Nutzung eines Neuronalen Netzwerkes für die Ermittlung von Persönlichkeitsmerkmalen aus beobachteten Verhaltensweisen.
Die Ermittlung des Grades der „Diltsglas-Organisation“ (wie oben geschildert) und des Collective Minds eines Teams aus auditiven Gesprächsprotokollen.

Den technologischen Durchstich für die erste Aufgabe konnte ich inzwischen erfolgreich abschließen. Ich bin also optimistisch, dass ich meine nächsten Blogbeiträge der Ausgestaltung dieser beiden Themen widmen werde.

[1] The Nobel Committee for Physics (2021) For groundbreaking contributions to our understanding of complex physical systems, Scientific background on the Nobel Prize in Physics 2021.

[2] Parisi G (2008) The physical Meaning of Replica Symmetry Breaking, arXiv

[3] Wikipedia (2021) Physikalismus, https://de.wikipedia.org/wiki/Physikalismus_(Ontologie), zugegriffen am 29.10.2021

[4] Hopfield J.J. (1982) Neural networks and physical systems with emergent collective computational abilities, Proc. Nat. Acad. Sci. USA, Vol. 79 Biophysics