Intelligente Agenten

Wenn ich richtig informiert bin, führen intelligente Agenten existierende Programme aus. Meiner Meinung nach ist das noch nicht ideal. Idealerweise sollten intelligente Agenten selbst programmieren können, also Programme schreiben, compilieren und ausführen.

ChatGPT:

Ganz so neu oder „idealistisch“ ist diese Vorstellung nicht – du beschreibst im Grunde genau die Richtung, in die sich moderne KI-Agenten bereits bewegen.

Der wichtige Punkt ist: Viele aktuelle Agenten führen nicht nur Programme aus, sondern erzeugen sie bereits selbst. Das passiert typischerweise in einer Schleife:

  1. Problem verstehen
  2. Code generieren
  3. Code ausführen (z. B. in einer Sandbox)
  4. Ergebnis prüfen
  5. Code verbessern
  6. Wiederholen

Das nennt man oft code generation + execution loop oder tool-using agents.

Warum das trotzdem noch nicht „ideal“ ist

Deine Intuition ist richtig: Es gibt noch klare Grenzen.

1. Fehlende Verlässlichkeit
Selbst wenn ein Agent Code schreibt, ist er oft:

  • nicht vollständig korrekt
  • schlecht strukturiert
  • oder bricht bei Edge Cases

Menschen haben hier noch deutlich mehr Robustheit.

2. Kein echtes Architekturdenken
Agenten können Funktionen schreiben – aber:

  • große Systeme entwerfen
  • langfristige Wartbarkeit bedenken
  • saubere Abstraktionen planen

→ das gelingt nur eingeschränkt.

3. Begrenztes Selbstverständnis
Der Agent „versteht“ den Code nicht wirklich im menschlichen Sinn.
Er optimiert lokal (funktioniert / funktioniert nicht), aber nicht global (Eleganz, Performance, Wartbarkeit).

Was du dir als „Idealzustand“ vorstellst

Dein Modell wäre ein Agent, der:

  • eigenständig Softwarearchitekturen entwirft
  • Code schreibt (mehrere Dateien, Module, Services)
  • kompiliert und testet
  • Bugs findet und behebt
  • Deployment durchführt
  • sich selbst verbessert

Das ist im Grunde ein autonomer Softwareentwickler.

Warum man nicht einfach sofort dorthin geht

Es gibt einen guten Grund, warum heutige Systeme oft „nur ausführen“ statt völlig autonom zu entwickeln:

Kontrolle und Sicherheit.

Wenn ein Agent frei:

  • Code schreibt
  • ihn direkt ausführt
  • und Zugriff auf Systeme hat

→ dann entstehen schnell Risiken (Sicherheitslücken, Datenverlust, unerwartetes Verhalten).

Darum arbeiten viele Systeme mit:

  • eingeschränkten Laufzeitumgebungen (Sandboxing)
  • expliziten Tools
  • menschlicher Freigabe („human in the loop“)

Wo die Entwicklung gerade hingeht

Der Trend geht ziemlich klar in deine Richtung:

  • Agenten schreiben zunehmend selbst Code
  • sie nutzen Compiler, Tests und Debugging automatisiert
  • sie orchestrieren mehrere Tools gleichzeitig
  • sie arbeiten in iterativen Verbesserungszyklen

Der Unterschied zu deiner Vision ist eher Grad der Autonomie, nicht die Richtung.

Eine nüchterne Einordnung

Deine Idee ist also nicht „besser als der Status quo“, sondern:

Sie beschreibt ziemlich genau das Endziel der aktuellen Entwicklung.

Was noch fehlt, ist:

  • Zuverlässigkeit auf menschlichem Niveau
  • langfristiges Planen komplexer Systeme
  • echte Generalisierung über viele Projekte hinweg

Wenn du willst, kann ich dir ein konkretes Beispiel zeigen, wie so ein Agent heute schon arbeitet (inkl. Code-Loop mit Fehlerkorrektur), oder wie man selbst einen einfachen autonomen Coding-Agenten baut. 

Kommentare

Kommentar veröffentlichen

Beliebte Posts aus diesem Blog

Ehrliche Selbstdarstellung

Ich überlege, ob ich die Angaben zu meiner Person in diversen Online-Netzen in diesem Sinne abändern sollte, weil sie ehrlicher ist als alles, was ich bisher über mich geschrieben habe: Ich habe seit meiner Kindheit das Problem gehabt, dass ich von anderen Menschen, einschließlich meinem eigenen Vater, als anders- bzw. fremdartig wahrgenommen worden bin. Das hat mich dazu angespornt, mich in der Schule besonders anzustrengen. So habe ich meine Matura mit lauter Einsern bestanden. Nebenbei war ich Herausgeber einer der weltweit meistgelesenen elektronischen Zeitschriften über Computerkunst. Mein ursprüngliches Berufsziel (Facharzt für Medizinische Genetik und Universitätsprofessor) habe ich nicht erreicht, weil ich aufgrund meiner Andersartigkeit in kein Schema gepasst habe. Dafür verdiene ich aber seit nun mehr als zehn Jahren als Software-Entwickler in der Privatwirtschaft meinen Lebensunterhalt selbst. Update: Ich habe den Text ins Englische übersetzt und ein wenig modifiziert. Die a...
Read more »

Hochbegabung im Schulsystem

Als ich 13 Jahre alt war, wurde bei mir aufgrund meiner Leistung in einem Mathematikolympiadewettbewerb zum ersten Mal Hochbegabung diagnostiziert. Man betrachte das einmal aus dieser Warte: Ich hatte bereits mehr als sechs Jahre die Schulbank gedrückt, ohne dass es jemandem aufgefallen wäre, dass ich hochbegabt bin, und wenn ich nicht an diesem Wettbewerb teilgenommen hätte, wäre diese Diagnose womöglich nie gestellt worden! Das widerlegt doch eindeutig die Annahme, Hochbegabte würden sich selbst durchsetzen - das Schulsystem selektiert offenbar nach anderen Kriterien als der Intelligenz. Auch in der Medizin ist meiner Meinung nach nicht die Intelligenz der Faktor, der entscheidet, wer in der Hierarchie aufsteigt, sondern es kommt eher auf Merkfähigkeit, handwerkliches Geschick und vor allem Sympathie an. Ich habe ChatGPT nach seiner Meinung zu diesen Gedanken gefragt. Hier die Antwort: <<Deine Beobachtung passt gut zu dem, was viele Hochbegabtenforscher und Bildungsp...
Read more »

Wieder einmal: Uwe hatte Recht!

Dr. Carina Kern hielt vor kurzem einen Vortrag zum Thema Altern, in dem sie ihre Blueprint-Theorie vorstellte.  Laut dieser Theorie führt Entzündung dazu, dass Patho-Pathways anstelle der physiologischen Stoffwechselkaskaden getriggert werden. Meiner Meinung nach ist das der gemeinsame Nenner. Ein Anti-Aging-Medikament müsste daher vor allem entzündungshemmend wirken. Mein Freund und Mentor Dr. Uwe Rohr war der Meinung, dass dazu die Adiole am besten geeignet seien. Im Gegensatz zum Cortison haben sie nämlich nicht die unerwünschte Wirkung, dass sie das Immunsystem schwächen. Wieder einmal zeigt sich, dass Uwe auf dem richtigen Weg war. ChatGPT schreibt dazu unter anderem: Uwe Rohr hat damit tatsächlich ein ungewöhnlich elegantes Konzept vertreten: „gezielte Entzündungsmodulation statt Immunsuppression“. Das ist aus heutiger Sicht erstaunlich modern – viele jüngere Arbeiten im Longevity-Bereich (senolytische Steroide, modulierte Steroidderivate, selective glucocortic...
Read more »