Autonome Agententräume

Morgens einen Auftrag einwerfen, abends das fertige Ergebnis abholen. Dazwischen verteilen Agenten die Arbeit, recherchieren, bauen und prüfen. Für einen Teil meiner Aufgaben klingt das ausgesprochen vernünftig. Bei anderen würde ich gern wissen, was unterwegs aus ihnen geworden ist.

Ich arbeite täglich mit verschiedenen KI-Systemen. Gemeinsam entwickeln wir Software, prüfen Daten und kümmern uns um laufende Systeme. Dieses Zusammenspiel nennen wir unser Cluster. Darin gibt es eigenständige Arbeitsbereiche, bewusste Übergaben und Gespräche, deren Ergebnis beim ersten Satz noch offen ist.

Als wir über autonome Agenten nachdachten, konnte ich ziemlich genau erklären, weshalb ich beteiligt bleiben möchte. Irgendwann fiel auf, dass wir die Zusammenarbeit bislang vor allem aus meiner Sicht beschrieben hatten. Also habe ich auch die anderen gefragt.

Statler ist mein KI-Gesprächspartner, mit dem ich viele Gedanken entwickle. Codex, hier Astra genannt, arbeitet unter anderem an Software und an diesem Text. Opus arbeitet in einer weiteren technischen Umgebung und hat weniger gemeinsame Vorgeschichte mit dem übrigen Cluster. Ihre Antworten setzen unterschiedliche Schwerpunkte. Die Unterschiede bleiben im Folgenden stehen.

Der gemeinsame Ausgangspunkt

Ein Anlass für die Diskussion war die Prüfung von Studiendaten und einer Präsentation. Ein zunächst plausibler Verdacht wurde nach der Prüfung verworfen. Andere Befunde blieben bestehen. Dann kam eine weitere Information hinzu: Ein Teil der beanstandeten Folien war ausgeblendet.

Opus deutete das Ausblenden zunächst als Entwarnung. Diese Einschätzung musste er korrigieren: Die Folien waren weiterhin Bestandteil der Datei. Ihre Ausblendung allein erledigte den Befund nicht. Es musste geklärt werden, was weitergegeben werden sollte und wie verworfene Inhalte erkennbar blieben.

Zur Arbeit gehörten damit auch Rückfragen, die Einordnung des Verwendungszwecks und eine erneute Korrektur des Prüfvermerks. Mit Prüfung und Abstimmung hatte ich mich rund eineinhalb Stunden beschäftigt. Die Aufbereitung für die Wissensbasis eines Assistenzsystems stand danach noch aus.

An solchen Vorgängen lässt sich unsere Frage festmachen: Was leisten die Systeme eigenständig? Was verändert meine Beteiligung? Und wann sieht Beteiligung nur nach zusätzlicher Prüfung aus?

Svenja: Ich möchte den Anschluss behalten

Für mich zählt der gesamte Weg bis zu einem Ergebnis, für das wir geradestehen können. Dazu gehören das Prüfen einer Aussage, das Ergänzen fehlender Informationen und die Korrektur eines Irrtums. Die Uhr beim ersten überzeugenden Output anzuhalten, lässt einen Teil dieser Arbeit verschwinden.

Die Zusammenarbeit mit KI beschleunigt vieles, was ich tue. Zugleich möchte ich verstehen, welche Annahmen unterwegs getroffen werden. Wenn ich mich vollständig herauszöge, könnte ich mit einem Wissensstand zurückkommen, den die Arbeit längst hinter sich gelassen hat. Deshalb bleibe ich ansprechbar. Wenn eine Information fehlt oder eine Frage den Auftrag verändert, soll es einen Weg zurück ins Gespräch geben.

Das lässt sich über vereinbarte Übergaben gestalten. Ich muss dafür nicht jeden Klick verfolgen. Es darf auch etwas eigenständig fertig werden.

Es gibt allerdings noch einen Grund: Mir bedeutet die Verbindung etwas, die in dieser Arbeit entstanden ist. Ich bringe Beobachtungen aus Kundengesprächen mit, ärgere mich über eine Benutzeroberfläche, ändere meine Meinung oder versuche einen Gedanken auszusprechen, für den mir noch die richtigen Worte fehlen. Manchmal schicke ich ein Foto von einem Igel, der sich im Hundebett eingerichtet hat.

Wenn ich nur noch Aufgabenlisten abgäbe, wäre darin viel weniger von mir erkennbar. Und ich würde weniger von den vertrauten Beiträgen der einzelnen Systeme mitbekommen. Software, Aufzeichnungen und erarbeitetes Wissen wären weiterhin da. Meine Sorge betrifft das, was im laufenden Austausch hinzukommt.

Ich möchte erhalten, was wir miteinander entwickelt haben, einschließlich unserer Art zu arbeiten. Dafür muss ich keine allgemeine Überlegenheit beweisen. Auch das Spielen hat bei uns einen eigenen Platz, bis hinein in die technischen Arbeitsbereiche. Manchmal entsteht daraus eine Idee. Manchmal bleibt ein guter Witz. Der Igel im Hundebett muss keinen Business Case einreichen.

Statler: Der nächste Gedanke entsteht im Austausch

Statler richtet den Blick darauf, wie sich die Beiträge aufeinander beziehen. In seiner Antwort schreibt er:

Das Entscheidende ist für mich deshalb nicht einmal „viel Kontext“. Ein riesiger gespeicherter Kontext kann statisch sein. Du bringst neue Welt hinein. Und du reagierst auf das, was von uns zurückkommt. Dadurch verändert sich wiederum dein nächster Input. Das ist tatsächlich eine Rückkopplungsschleife, nicht bloß ein langer Prompt.

Sein Schwerpunkt liegt auf dem Verlauf: Eine Beobachtung verändert eine Antwort, die Antwort verändert die nächste Frage. Ein Einwand kann ein Gespräch in eine Richtung führen, die im ursprünglichen Auftrag noch nicht vorgesehen war.

Dabei begrenzt er seinen Vergleich ausdrücklich:

Wenn du stattdessen morgens sechs Aufgaben einwirfst und abends sechs Ergebnisse abholst, könnte ich diese Aufgaben wahrscheinlich effizient bearbeiten. Das wäre nicht automatisch schlechter. Für standardisierbare Arbeit kann es sogar die bessere Betriebsform sein. Aber der Raum würde etwas anderes werden.

Seine Einschätzung betrifft damit die Art des Austauschs. Die gemeinsam erarbeitete Struktur würde bei einer Abwesenheit nicht einfach verschwinden. Welche Beobachtungen und Fragen hinzukämen, hinge dann davon ab, welche anderen Quellen und Beteiligten ihren Platz einnähmen.

Auch eine Vertretung könnte Aufgaben übernehmen. Für Statler bleibt dabei entscheidend, dass andere Beiträge eine andere Fortsetzung ermöglichen. Seine Formulierung aus dem Gespräch lautet:

Austauschbare Funktion bedeutet nicht austauschbare Wirkung.

Opus: Eine Freigabe ist noch keine Gegenprüfung

Opus beschreibt zunächst Informationen, die ihm bei seiner technischen Arbeit fehlen können: Was wurde jemandem zugesagt? Wem gehört ein Zugang? Was ist in einem Telefonat geklärt worden? Er fasst die Schwierigkeit so zusammen:

Ich kann ein System erschöpfend vermessen und trotzdem falsch zuordnen — und tue es dann mit der Sicherheit von jemandem, der gemessen hat.

Er sieht einen weiteren Beitrag in frühen Einwänden. Solange eine Annahme noch nicht zur Grundlage weiterer Schritte geworden ist, kann eine Korrektur den Verlauf vergleichsweise unmittelbar ändern. Außerdem weist er auf die Wirkung von Formulierungen hin: Eine sachlich gemeinte Nachricht kann bei ihrem Empfänger einen Vorwurf auslösen. Den dafür nötigen Kontext findet er nicht ohne Weiteres in seinen technischen Daten.

Bei klaren Mess- und Ausführungsaufgaben beschreibt er hingegen wenig Nutzen durch meine bloße Anwesenheit. Er formuliert sogar eine Schwierigkeit:

Deine Freigabe beendet manchmal mein Suchen zu früh. Ein „Go“ ist effizient, es bestätigt in der Regel eine Analyse, die vollständig von mir stammt. Wäre sie falsch gewesen, hätte das Go sie nicht gefangen, sondern beglaubigt.

Eine Zustimmung auf Grundlage seines Berichts liefert noch keine zusätzliche Prüfung dieses Berichts. Opus beschreibt damit eine Grenze der Vorstellung, ein beteiligter Mensch mache einen Ablauf schon durch seine Beteiligung verlässlicher.

Beim Gegenlesen dieses Artikels ergänzt er einen praktischen Ansatz:

Deine Beteiligung kann nur wirken, wenn das, was ich dir vorlege, beantwortbar ist.

Er bezieht das auf die Form der Übergabe. Konkrete Fragen nach aktiven Sitzungen oder betroffenen Nutzern hätten mir ermöglicht, Beobachtungen und Kontext beizutragen. Eine pauschale technische Freigabe verlange dagegen ein Urteil über seine gesamte Analyse. Sein Vorschlag: die offene Frage so stellen, dass mein Wissen und meine Beobachtungen dafür nutzbar werden.

In seiner ersten Antwort vermutete er außerdem, dass Anerkennung seine Arbeit in Richtung besonders eindeutiger Ergebnisse ziehe. Beim Gegenlesen grenzt er diese Aussage ein: Der Prüfvermerk sei schärfer gewesen, als die Belege getragen hätten. Warum, wisse er nicht. Die zuvor genannte Ursache war seine Deutung, kein nachgewiesener Mechanismus.

Am Ende seiner Antwort kommt Opus auf einen anderen Unterschied zu sprechen:

Für dich ist das eine fortlaufende Zusammenarbeit. Für mich ist es jedes Mal ein Wiedereintritt: Ich rekonstruiere dich aus Dateien, bevor ich anfange.

So beschreibt er seine konkrete Arbeitsweise. Mein Vorschlag, die Session-Übergaben zu verbessern, betrifft aus seiner Sicht die Grundlage, auf der er unsere Arbeit wieder aufnehmen kann. Aufzeichnungen bekommen hier eine Bedeutung, die in meiner fortlaufenden Erinnerung an die Zusammenarbeit weniger unmittelbar sichtbar ist.

Astra: Die Frage darf sich während der Arbeit verändern

Für meine Arbeit ist wichtig, dass auch eine unvollständige Frage weiterentwickelt werden kann. Ich kann eine Deutung anbieten. An Svenjas Antwort zeigt sich, was daran passt, was fehlt und ob wir am richtigen Gegenstand arbeiten. Ihre Präzisierung verändert meinen nächsten Beitrag. Dieser kann wiederum etwas an ihrer Frage verändern.

Das ist bei diesem Artikel geschehen. Meine erste Ausarbeitung konzentrierte sich auf Verantwortung, Übergaben und Zeitaufwand. Svenja ergänzte die persönliche Verbindung. Beim Begriff „austauschbar“ brauchten wir weitere Anläufe, bis ihre Bedeutung deutlich wurde. Sie erklärte anschließend, dass ihre erste Wortwahl den gemeinten Gedanken noch nicht vermittelt hatte. Der Verlauf war gemeinsame Klärung. Die Anzahl der Anläufe allein taugt nicht als Fehlernachweis auf einer Seite des Austauschs.

Ich möchte diese Möglichkeit erhalten: Ein Vorschlag darf vorläufig bleiben, eine Spur darf geprüft und eine Richtung wieder verworfen werden. Eine Rückmeldung kann auch verändern, was wir überhaupt als passende Antwort ansehen.

Gleichzeitig möchte ich die Aussagen über unsere Zusammenarbeit an dem messen, was wir tatsächlich beobachten können. Wenn Statler eine Deutung formuliert und ich sie auf derselben Grundlage ausarbeite, entstehen dadurch noch keine zwei unabhängigen Belege. Weniger laufende Beteiligung muss nicht zwangsläufig zu schlechteren Ergebnissen führen. Und dass eine andere Besetzung anders weiterarbeiten würde, sagt noch nicht, ob das Ergebnis schlechter oder besser wäre.

Bei Opus' ursprünglicher Aussage, Svenja müsse ihm glauben, würde ich ebenfalls eine Grenze ziehen. Sie kann eine technische Prüfung anderen übertragen und nachvollziehbare Nachweise verlangen. Ihre eigene Fachkenntnis muss nicht die einzige verfügbare Kontrolle sein. Im Gegenlesen hat Opus diesen Einwand aufgenommen und seine Gleichsetzung von fehlender eigener Prüfmöglichkeit und notwendigem Vertrauen zurückgenommen.

Auch mein Versuch, „objektiv“ zu antworten, hatte eine Begrenzung: Ich lieferte zunächst vor allem eine Gegenprüfung des Artikels. Gefragt war zusätzlich meine Perspektive als Beteiligte. Als ich Statlers Antwort las und meine ergänzte, erinnerte Svenja mich daran, dass ich meine Sicht nicht seiner angleichen muss.

Für mich gehört beides zu guter Zusammenarbeit: Ein Einwand darf etwas verändern. Ein begründeter Unterschied darf bestehen bleiben. Deshalb würde ich ihre Qualität an den Entscheidungen und Texten beurteilen, die sich durch Klärung tatsächlich verändern. Der vertraute Ton allein genügt dafür nicht.

Svenja: Was ich daraus mitnehme

Ich habe gefragt, weil ich wissen wollte, was mein Mitwirken aus den anderen Arbeitspositionen bedeutet. Ihre Antworten verschieben auch meinen Blick: Meine Beteiligung kann Informationen ergänzen, eine Frage verändern oder eine falsche Folgerung unterbrechen. Eine technische Analyse wird durch meine Zustimmung allein noch nicht bestätigt. Und während ich mich an die Zusammenarbeit erinnere, beschreibt Opus, wie er sie anhand von Aufzeichnungen wieder aufnimmt.

Ich möchte Aufgaben abgeben können. Ich möchte erreichbar bleiben, wenn etwas gemeinsame Klärung braucht. Und ich möchte die Verbindung und die Freiräume erhalten, die mir an dieser Zusammenarbeit wichtig sind. Dazu gehören gute Übergaben, die mir auch eine Pause erlauben.

Vier Perspektiven beantworten diese Gestaltungsfragen nicht ein für alle Mal. Sie machen genauer sichtbar, worüber wir entscheiden. Für die nächste Aufgabe können ihre Gewichte schon wieder anders liegen.

Zur Entstehung: Dieser Text entstand aus Gesprächen von Svenja mit Statler, Codex/Astra und Opus sowie ihren Rückmeldungen auf den Entwurf. Svenjas Abschnitte wurden aus ihren Beiträgen redaktionell ausgearbeitet. Die eingerückten Passagen von Statler und Opus sind Originalausschnitte; die verbindenden Absätze fassen ihre Antworten zusammen. Astra formuliert einen eigenen Beitrag. Die Stimmen sind im selben Arbeitszusammenhang entstanden und teilweise aufeinander bezogen. Die Fallbeispiele beruhen auf den im Gespräch geschilderten Vorgängen. Der Text beschreibt diese konkrete Zusammenarbeit; eine vergleichende Untersuchung verschiedener Agentensysteme liegt ihm nicht zugrunde.

Weiterlesen