Re: und welche Software ueberwacht die Software die die Software ueberwacht? - Computer, heile dich selbst!
> Zumal solche Rückkopplungsschleifen höchst unangenehme Nebenwirkungen
> haben können. In der SF-Literatur sind einige gute Beispiele schon
> vor Jahrzehnten beschrieben worden: von einem
> Raumschiffsteuercomputer der bei der Landung feststellte das ein
> Parameter geringfügig vom exakten Sollwert abwich und deshalb mit
> vollem Schub für einen zweiten Anlauf in den Orbit zurückwollte - die
> Besatzung fand die 60 g nicht so lustig…
… die Kurzgeschichte von Stanislaw Lem ist mir bei dem Artikel
sofort eingefallen: “Ananke” - Neue Geschichten des Piloten Pirx,
1976. Bei einer Marslandung verursacht das “Wächter”-programm eine
Systemüberlastung und manöveriert das Raumschiff in eine ausweglose
Lage. Die Folge ist der Absturz. Der Landecomputer ist übrigens ein
“AIBM 09″ 
…
In der KI taucht auch immer wieder das Paradoxon der Selbsterkenntnis
auf. Meiner Meinung nach basiert das auf dem Gödelschen
Unvollständigkeitssatz: Eine formale Metasprache (Axiomensystem) zur
Beschreibung eines Systemes ist immer unvollständig. Zwangsläufig
führt das zu dem Umstand, daß ein System, das ein anderes System
beschreibt oder überwacht, eine höhere Komplexität als das zu
überwachende System haben muss.