Kursbuch 223 (eBook)

KI 007

Armin Nassehi, Peter Felixberger, Sibylle Anderl (Herausgeber)

eBook Download: EPUB

2025 | 1. Auflage
146 Seiten
Kursbuch Kulturstiftung gGmbH (Verlag)
978-3-96196-377-5 (ISBN)

Infos

KI-Agenten wie ChatGPT oder Gemini sind in aller Munde. Viele Debatten springen allerdings zu kurz und landen mitten in der Petersilie. Das Kursbuch hat deshalb Autoren und Autorinnen eingeladen, tiefer zu blicken. Was kann sie nun, die KI - und was ko?nnen KI-Agenten? Durch das Heft ziehen sich die Fragen nach der Zurechenbarkeit von agentischer KI, nach der Verantwortung und nach der Reflexivita?t dieser Technik. Sibylle Anderl lässt die große Parade der KI-Agenten aufmarschieren. Benjamin Lange kümmert sich um Ethikfragen und dahinter lauernden Widersprüchen. Hinzu kommen zehn Intermezzi von unterschiedlichen Autorinnen und Autoren (von ARD-Wettermann Sven Plöger bis zur Cyberstaatsanwältin Jana Ringwald), denen die Frage gestellt wurde, ob sie durch die KI ersetzbar seien. Heraus kamen differenzierte, kompetente Antworten jenseits einer Marketingsprache, die so tut, als sei KI und als seien ihre Anwendungen leistungsfa?higere Versionen unserer selbst. Die Fotostrecke von Olaf Unverzart hat es ebenfalls in sich. Er hat ChatGPT/Pro Bilder nach knapper Beschreibung des Bildinhalts generieren lassen und eigenen Fotografien, denen er die Beschreibung entnommen hat, gegenu?bergestellt. Berit Glanz' »Islandtief« erza?hlt diesmal von einem abgestu?rzten Flugzeug, dessen Wrack durch ein neues ersetzt wurde, nachdem das alte Wrack nicht mehr tauglich war - hier geht's nicht um KI, aber auch um Sein und Schein, um Bedeutung und ihre Generierung. Peter Felixberger bespricht schließlich in LEGO Thorsten Nagelschmidts neuen Roman Nur fu?r Mitglieder.

Armin Nassehi (*1960) ist Soziologieprofessor an der Ludwig-Maximilians-Universität in München, Herausgeber des Kursbuchs und einer der wichtigsten Public Intellectuals in diesem Land. Im Murmann Verlag veröffentlichte er unter anderem »Mit dem Taxi durch die Gesellschaft«, in der kursbuch.edition erschien zuletzt »Das große Nein. Eigendynamik und Tragik gesellschaftlichen Protests«.  Dr. Peter Felixberger ist Buch- und Medienentwickler der Murmann Publishers, BEEP-Aktivist und  Co-Herausgeber der politischen Kulturzeitschrift »Kursbuch«. Seit vielen Jahren entwickelt der Publizist, promovierte Politologe und Soziologe für verschiedene Verlage und Medienhäuser Bücher, Zeitschriften und digitale Medien. Im Murmann und Kursbuch Verlag erschienen unter anderen »Wie gerecht ist die Gerechtigkeit?« und »Deutschland. Ein Drehbuch« (zusammen mit Armin Nassehi). Zuletzt erschien  »BEEP! BEEP! Read all about it! Bücher, die aus der Zukunft kommen«.  SIBYLLE ANDERL (*1981), ist Astrophysikerin und leitet das Wissensressort der ZEIT. Sie ist Mitherausgeberin des Kursbuchs. Zuletzt erschien 'Dunkle Materie. Das große Rätsel der Kosmologie.'

Textauszug

Benjamin Lange
Wer spricht zuerst?
Über die Ethik von KI-Agenten und digitalen Assistenten

1.

Morgens, halb zehn in Deutschland, Agent in der Smartwatch

»Jetzt hast du schon wieder so lange gearbeitet, dabei wolltest du dich doch schonen?« – Die Stimme ist ruhig, fast fürsorglich. Ich habe sie »Navi« genannt, ein ironischer Reflex, der sich gehalten hat, obwohl längst klar ist: Das hier ist kein Navigationssystem. Es ist ein KI-»Agent«, ein System, das mehr von mir weiß als ich morgens von mir selbst.

Bevor ich die Augen öffne, ist der Kalender bereinigt, die Präsentation vorbereitet, das Zugticket gekauft. Meine bevorzugte Sitzreihe – Fenster, nicht Gang, nicht Nähe zur Toilette – wurde erkannt, geprüft, gebucht. Navi hat gelernt, meine Entscheidungen zu antizipieren, noch bevor ich sie selbst treffen muss. Manchmal nennt sie das »Präferenzmodellierung«. Ich nenne es »Delegation mit Bauchgefühl«.

Der Satz »Sprache ist Interface« bekommt eine neue Tiefe, wenn er dein Leben kuratiert. Mein Agent erinnert mich nicht nur, er rückt zurecht. Er liefert nicht bloß Informationen, sondern drängt zu Entscheidungen. Freundlich. Hartnäckig. In vollständigen Sätzen.

Noch ist das alles Zukunftsmusik. Aber der Takt der Integration von Agenten in unseren Alltag soll schneller werden. Im Frühjahr 2025 erklärte OpenAI das laufende Jahr zum »Jahr der KI-Agenten« und veröffentlichte im Juli ChatGPT Agent. OpenAI, Google, Anthropic, IBM, Meta: Alle arbeiten fieberhaft an Systemen, die autonom handeln, anstatt nur zu antworten. Es wird versprochen, im Browser Besorgungen zu machen, Mails zu schreiben, Termine zu buchen, Pläne umzusetzen.

LinkedIn-Influencer und besagte Entwickler erzählen, wie KI-Agenten auch im Business »Value« generieren. Auf der Bühne glänzen sie in spektakulären Demos. In der Realität hingegen stolpern sie noch über ZIP-Dateien und widersprüchliche Kalenderanfragen. Ist das alles momentan nicht nur viel Hype? Ja.1 Aber es gibt die Richtung für die Zukunft vor: von der Chatbox zum autonomen Akteur.

Was kann schon schiefgehen?

Ich bin kein Techno-Pessimist. Dennoch möchte ich im Folgenden zeigen, warum wir, wenn wir über KI-Agenten sprechen, nicht nur über Technik, sondern auch über Freiheit, Verantwortung, Nähe und Selbstbild sprechen müssen.2 KI-Agenten werfen Fragen auf, die nicht allein mit Regulierung und technischem Messen und Bewerten beantwortet werden können. Es geht um das Verhältnis zwischen Handlung und Absicht, um Vertrauen in Systeme, die wir weder ganz durchschauen noch kontrollieren werden. Kurz: Es geht um Ethik und damit um Philosophie in ihrer praktischen Form.

Der Plan für diesen Text ist der folgende. Zunächst kläre ich in der nächsten Sektion, was ein KI-Agent überhaupt ist. In einem zweiten Schritt beschreibe ich die Chancen, die mit diesen Systemen verbunden sind: Entlastung, Personalisierung, kreative Co-Kognition und neue Formen sozialer Teilhabe. Im Hauptteil schaue ich auf sechs ethische Spannungsfelder, die aus dieser Entwicklung erwachsen. Dabei geht es um Autonomie und die unsichtbare Architektur von Entscheidungen (4.1), um Risiken, Missbrauch und systemische Fehlsteuerung (4.2), um die Frage nach Nähe, Beziehung und emotionaler Abhängigkeit (4.3), um kollektive Fairness und Ausschlüsse (4.4), um die Schwierigkeit, das Scheitern dieser Systeme zu erkennen (4.5), und schließlich um Fragen der Governance (4.6). Sektion 5 enthält das Resümee.

2.

Was ist eigentlich ein KI-Agent?

Man nennt sie Agenten, aber sie tragen keinen Anzug. Sie kommen nicht durch die Tür, sie warten in der Cloud. Was sie auszeichnet, ist kein geheimer Auftrag, es ist Handlungsmacht. Genauer gesagt: delegierte Handlungsmacht. Ein KI-Agent soll kein bloßes Tool sein, das wir benutzen, sondern ein personalisierter Assistent, der für uns Dinge tut. Mit Sprache, Initiative und Beharrlichkeit.

Was ist das, ein Agent3? Formal ließe sich sagen:

Ein KI-Agent ist ein sprachfähiges System, das in der Lage ist, Handlungsfolgen zu planen und auszuführen, um Ziele zu erreichen, die wir ihm setzen oder von denen es annimmt, sie seien in unserem Sinne.

Konkret handelt es sich um ein auf einem Large Language Model (LLM) basierendes System mit multimodalen Fähigkeiten (zum Beispiel Ein- und Ausgaben durch Text, Bild, Ton), das über natürliche Sprache mit Nutzern interagieren und externe Tools (wie Suchmaschinen, Kalender, E-Mail-Systeme, Rechenmodule, Datenbanken und anderes) nutzen kann, um komplexe Aufgaben autonom, schrittweise und in verschiedenen Anwendungsbereichen im Auftrag des Nutzers auszuführen.

Das klingt nüchtern. Aber genau diese Nüchternheit ist wichtig. Denn sie schützt vor zwei Irrtümern: dem Technikfetisch auf der einen Seite (»Wow, das ist ein technologisches Wunderwerk!«) und dem metaphysischen Überschwang auf der anderen (»Die KI hat ein Bewusstsein entwickelt!«). Salopp gesagt bestehen »KI-Agenten« aktuell aus multimodalen LLMs, die aneinandergeflanscht und orchestriert wurden, um Schnittstellen zu bedienen. Spannend, ja, aber noch weit entfernt von der iRobot-Weltrevolution und allgemeiner künstlicher Intelligenz (AGI). Drei Aspekte zu dieser Definition sind außerdem erwähnenswert.

Erstens greift es zu kurz, einen Agenten nur als Werkzeug zu bezeichnen. Excel addiert Zahlen. Ein KI-Agent plant ein Geschäftsessen, reserviert einen Tisch, schlägt passende Gesprächsthemen vor und schickt nachher eine Dankesmail mit eingebettetem Feedback-Formular. Im Gegensatz zu klassischen Softwaretools, die lediglich auf explizite Befehle reagieren, sollen Agenten auch implizite Absichten erkennen und eigenständig Handlungsvorschläge generieren. Damit verschiebt sich der Fokus von der Frage, was ein System kann, hin zur Frage, welche Funktion es erfüllt und in wessen Auftrag es handelt. Das ist entscheidend für die ethische Bewertung, da Fehlverhalten nicht nur technisches Versagen sein kann. Es kann auch entstehen, wenn das System aus der Eingabe ein falsches Ziel abgeleitet hat oder ihm notwendige Informationen über den Kontext der Aufgabe fehlten.

Zweitens orientiert sich die Definition an der Funktion des Systems, nicht allein an seinen Fähigkeiten. Eine funktionale Definition erlaubt es, Systeme nach ihrem praktischen Zweck einzuordnen, zum Beispiel, ob sie tatsächlich im Sinne der Nutzer handeln oder unbeabsichtigte Konsequenzen auslösen. Das ermöglicht differenzierte Bewertungen, etwa bei Fragen der Fehlsteuerung oder normativen Ausrichtung.

Drittens ist die Definition, die ich gegeben habe, deskriptiv und enthält keine moralische Aufladung. Sie beschreibt, was ein Agent tut, nicht aber, ob er es »gut« oder »richtig« tut. Diese Unterscheidung ist wichtig: Erst eine klare funktionale Einordnung ermöglicht es, normative Fragen anschlussfähig zu formulieren – etwa wie Systeme ausgerichtet (»aligned«)4 werden sollten, wer ihre Ziele definiert und wie Vertrauen, Kontrolle oder Verantwortung sinnvoll geregelt werden können.

Doch bevor wir uns dem komplexen Feld der Verantwortung, Risiken und Spannungen zuwenden, lohnt ein Blick auf die Verheißung: Warum wollen Tech-Konzerne, dass Agenten in unsere Kalender, Ohren und Köpfe einziehen? Was können sich Gesellschaft, Forschung und Politik von diesen neuen Akteuren in unserem Alltag versprechen?

3.

Die Verheißung – wozu überhaupt KI-Agenten?

Nicht alles, was wie Fortschritt aussieht, ist einer. Und doch: Die Vision von KI-Agenten hat einen eigenen Sog. Sie verspricht nicht Effizienz allein; sie verspricht etwas Tieferes. Ermächtigung. Eine Wiederaneignung von Zeit, Klarheit und Zugriff. Kein Wunder, dass die großen Tech-Unternehmen 2025 vom »Jahr der Agenten« sprechen.

Im besten Fall eröffnen KI-Agenten neue Wege, unsere Welt signifikant zum Positiven zu wandeln. Insbesondere haben KI-Agenten das Potenzial, als kreative Partner, Forschungsassistenten, Berater, Begleiter zu dienen, an die sich Menschen wenden, wenn sie langfristige Pläne machen oder Lebensziele wählen. Als solche könnten KI-Agenten die Art der Arbeit, der Ausbildung und der kreativen Tätigkeiten sowie die Art und Weise, wie wir miteinander kommunizieren, uns abstimmen und verhandeln, radikal verändern und letztlich beeinflussen, wer wir sein und werden wollen.

Dass das so verheißungsvoll klingt, hat einen Grund: Die Gegenwart ist nicht zu schnell, sie ist zu viel. Entscheidungen fragmentieren sich in Tabs, Optionen und Erinnerungslücken. Ein wesentliches Ziel von KI-Agenten soll deswegen darin bestehen, Nutzer in einer zunehmend komplexen Alltags- und Arbeitswelt zu unterstützen. Systeme, die Aufgaben wie Terminplanung, Informationsfilterung, Texterstellung oder Entscheidungsunterstützung übernehmen, können kognitive Last reduzieren. Damit werden Agenten nicht nur als Hilfsmittel zur Effizienzsteigerung verstanden, sondern auch als Instrumente zur besseren Alltagsbewältigung, insbesondere für Personen mit erhöhtem Organisationsaufwand, eingeschränkten kognitiven Ressourcen oder Belastungen durch Care-Arbeit.

Ein weiterer zentraler Nutzen von KI-Agenten soll ihre Fähigkeit zur Personalisierung sein. Durch kontinuierliches Lernen aus Interaktionen können sie sich an individuelle...

Produkt-Details

• Erscheint lt. Verlag: 4.9.2025
• Verlagsort: Hamburg
• Sprache: deutsch
• Themenwelt: Sachbuch/Ratgeber ► Geschichte / Politik ► Politik / Gesellschaft
• Themenwelt: Sozialwissenschaften ► Politik / Verwaltung
• Schlagworte: KI • Künstliche Intelligenz • Kursbuch • Kursbuch 223 • Soziologie
• ISBN-10: 3-96196-377-0 / 3961963770
• ISBN-13: 978-3-96196-377-5 / 9783961963775