Prinzipielle Grenzen der Berechenbarkeit: Unterschied zwischen den Versionen
K (→Churchsche These) |
K (→Das Halteproblem) |
||
Zeile 229: | Zeile 229: | ||
=== Das Halteproblem === | === Das Halteproblem === | ||
− | + | Kann es außer Endlosschleifen auch andere Gründe dafür geben, dass ein Programm nicht anhält? | |
=== Fleißige Biber === | === Fleißige Biber === |
Version vom 27. September 2009, 14:20 Uhr
Inhaltsverzeichnis |
Algorithmus
Definition
Ein Algorithmus ist eine Verarbeitungsvorschrift, die aus einer endlichen Folge von eindeutig ausführbaren Anweisungen besteht, die aus endlich vielen Eingabedaten endlich viele Ausgabedaten erzeugt und mit der man eine Vielzahl gleichartiger Aufgaben lösen kann.
Wie du sicher bemerkt hast, kommt in dieser Definition sehr oft der Begriff "endlich" vor. Dies wird später noch eine entscheidende Rolle spielen!
Welche Aufgaben lassen sich mit einem Algorithmus umsetzen? (Lösen einer quadratischen Gleichung) (!Auflistung aller Primzahlen) (Auflistung aller Primzahlen kleiner als 300000) (Konstruieren eines Kreises durch 3 Punkte, die nicht auf einer Gerade liegen) (Wechseln eines Autoreifens) (!Schreiben einer Eins in der Schulaufgabe)
Lösung:
- Eine quadratische Gleichung lässt sich immer in folgender Form schreiben: . Mittels der Mitternachtsformel erhält man dann die Lösungen.
- Ein Kreis durch 3 Punkte A,B,C die nicht auf einer Gerade liegen lässt sich folgendermaßen Konstruieren: 1) Verbinde die Punkt A und B, sowie B und C mit einer Strecke. 2) Konstruiere die Mittelsenkrechten der Strecken [AB] und [BC]. 3) Der Schnittpunkt M der beiden Mittelsenkrechten von [AB] und [BC] ist der Mittelpunkt des Kreises durch die Punkte A,B und C. 4) Zeichne den Kreis mit Mittelpunkt M und Radius [MA].
- Das Wechseln eines Autoreifens folgendermaßen bewerkstelligen: 1) Stelle den Wagenheber unter die Markierung für den zu wechselnden Reifen. 2) Betätige den Wagenheber, so dass der Reifen entlastet wird, aber immer noch Bodenkontakt hat. 3) Lockere die Radmuttern mit Hilfe des Radkreuzes durch Drehen gegen den Uhrzeigersinn, aber schraube die Radmuttern nicht ganz ab. 4) Betätige den Wagenheber weiter, so dass der Reifen keinen Bodenkontakt mehr hat. 5) Ziehe den Reifen vorsichtig ab, so dass das Auto nicht vom Wagenheber rutscht. 6)Führe die Schritte 1-5 in umgekehrter Reihenfolge und umgekehrter Drehrichtung mit dem neuen Reifen durch.
- Ein Auflistung aller Primzahlen ist nicht möglich, da es unendlich viele davon gibt. Dies widerspricht der Definition eines Algorithmus, dass er endlich viele Ausgabedaten erzeugt.
- Die Auflistung alles Primzahlen ist aber z.B. mit dem Sieb des Eratostenes möglich, da es eine feste Anzahl ist.
- Das Schreiben einer Eins ist leider nicht möglich, sonst könnte man in jedem Fach ohne große Probleme eine Eins haben.
Gödelisierung
Wir versuchen jetzt Hilfe von der Mathematik zu erhalten. Dazu wandelt man Probleme in eine Form um, die es erlaubt, Wissen über Abbildungen innerhalb der natürlichen Zahlen zu benutzen. Um dies zu erreichen, wandelt man die Ein- und Ausgabedaten in natürliche Zahlen um.
Die 26 Buchstaben des Alphabets werden mit den Zahlen 1 bis 26 kodiert. Damit könnte man ein geschriebenes Wort als Zahl schreiben. Dekodiere die Zahl "26235945212097"! Welche Buchstabenfolge erhält man nach dem Dekodieren?
Möglichkeiten für das dekodierte Wort sind z.B.: ZWEIDEUTIG oder BFBCEIDEBATIG oder ...
|
Nun werden die 26 Buchstaben des Alphabets mit den Zahlen 01 bis 26 kodiert. Schreibt man die kodierten Buchstaben hintereinander, so erhält man eine Zahl. Dekodiere die Zahl 26230509060512121519.
Das dekodierte Wort lautet: ZWEIFELLOS
|
Nun werden die 26 Buchstaben des Alphabets wie folgt kodiert: Den 26 Buchstaben des Alphabets wird jeweils eine eindeutige Zahl zwischen 1 und 26 zugeordnet. Ein Wort wird nun mit fortlaufenden Primzahlpotenzen kodiert, also wenn a die Zahl 1, b die Zahl 2, c die Zahl 3 zugeordnet wird, dann wird das Wort abbca wie folgt kodiert:
Multipliziert man diese Zahlen miteinander, erhält man die Zahl . Da die Primfaktorzerlegung eindeutig ist, wenn man die Primzahlpotenzen aufsteigend ordnet, kann man aus jeder Zahl das zugehörige Wort erzeugen. Welche Buchstabenfolge erhält man, wenn man die Zahl dekodiert?
Das dekodierte Wort lautet: INFORMATIK. Diese Art der Kodierung ist eher von theoretischer Bedeutung, weil man sehr schnell extrem große Zahlen erhält. Das obige Beispiel ergäbe ausmultipliziert (eine 115-stellige Zahl). Es ist auch ziemlich aufwändig diese Zahlen in Primfaktoren zu zerlegen. Aus diesem Grund sind große Primzahlen für die Verschlüsselungstechnik so wichtig.
|
Mit einer Gödelisierung lassen sich beliebige Ein- und Ausgaben in natürliche Zahlen umwandeln und umgekehrt. Dies kann mehr oder minder geschickt erfolgen. Kurt Gödel hat sich mit solchen Fragestellungen beschäftigt, weshalb man entsprechende Verfahren Gödelisierungen nennt. Diese Vorgehensweise wird häufig in der theoretischen Informatik verwendet, da sich Algorithmen dadurch als Funktionen über den natürlichen Zahlen abbilden lassen. Zur Umwandlung existieren verschiedenste Verfahren.
Definition
Eine Gödelisierung ist eine Abbildung von der Menge der Ein- und Ausgaben eines Algorithmus in die Menge der natürlichen Zahlen : . Die Abbildung muss dabei noch drei Bedingungen erfüllen:
- muss injektiv sein, d.h. jede natürliche Zahl darf höchstens das Bild von einem Programm sein; aber nicht jede natürliche Zahl muss auch ein Programm sein
- Die Bildmenge muss entscheidbar sein, es muss also einen Algorithmus geben, der Ja ausgibt, wenn die Zahl einer gültigen Ein- oder Ausgabe entspricht und Nein, wenn es keine ist.
- Die Umkehrfunktion muss berechenbar sein, d.h. man muss aus der natürlichen Zahl auch wieder das Programm bekommen können.
Welches der obigen Verfahren eignet sich für eine Gödelisierung? (!Kodierung mit Zahlen 1 bis 26) (Kodierung mit Zahlen 01 bis 26) (Kodierung mit Primzahlpotenzen)(!Keines der Verfahren)
Durch die Hilfe der Gödelisierung kann man also jeden Algorithmus als eine Abbildung von einer natürlichen Zahl auf eine andere ansehen.
Wie viele Algorithmen gibt es?
Wie bei der Definition des Begriffes Algorithmus bereits erwähnt wurde, ist der Begriff der Endlichkeit von großer Bedeutung. Da ein Algorithmus eine endliche Folge von Anweisungen ist, besteht ein Algorithmus auch nur aus endlich vielen Zeichen. Mit der oben beschriebenen Gödelisierung lässt sich also jeder Algorithmus auch als eine natürliche Zahl auffassen. Weil dann die Menge aller Algorithmen eine Teilmenge der natürlichen Zahlen ist, sind die Algorithmen abzählbar, man kann die Algorithmen also durchnummerieren.
Durch die Gödelisierung kann man die Algorithmen als Funktionen natürlicher Zahlen ansehen. Wir schreiben die Algorithmen und die möglichen Eingaben als eine unendlich große zweidimensionale Tabelle auf. An der Seite werden die Algorithmen bzw. die Funktionen der Reihe nach angetragen und als Spaltenüberschriften werden die möglichen Eingaben als Gödelnummer angetragen:
1 | 2 | 3 | 4 | 5 | ... | |
... | ||||||
... | ||||||
... | ||||||
... | ||||||
... | ||||||
... | ... | ... | ... | ... | ... | ... |
Diese Tabelle enthält alle algorithmisierbaren Funktionen. In der ersten Zeile stehen alle Funktionswerte der Funktion , in der zweiten Zeile stehen alle Funktionswerte der Funktion usw.
Wir definieren uns nun eine Funktion wie folgt:
Diese Funktion ist offensichtlich berechenbar, also müsste sie irgendwo in der Folge vorkommen. Wir nehmen an, dass es die Funktion mit der Nummer ist, also . Wir erhalten aus der Definition von , dass ist, aber aus folgt, dass gilt. Es soll also sein. Das kann aber nicht sein. Also haben wir einen Widerspruch gefunden und die Funktion kann kein Algorithmus sein!
Damit haben wir eine Funktion gefunden, für die kein Algorithmus existieren kann!
|
Beispiele für Probleme, die nicht algorithmisch lösbar sind:
- Fermatsche Vermutung: Es gibt keine natürlichen Zahlen , für die positive ganze Zahlen existieren mit . Erst 1994 konnte Andrew Wiles diese Vermutung mit einem 100seitigen Beweis bestätigen.
- Goldbachsche Vermutung: Jede gerade Zahl lässt sich als Summe von zwei Primzahlen darstellen. Diese Vermutung konnte bis heute weder bewiesen noch widerlegt werden.
- Gibt es unendliche viele Primzahlzwilligen (zwei Primzahlen, die eine Differenz von 2 haben)? Diese Frage konnte bis heute nicht entschieden werden.
Turing-Maschine
Bisher haben wir uns bei der Programmierung von Algorithmen immer auf eine Programmiersprache beschränkt (Java, C, C++, C#, VisualBasic, Pascal,...). Nun stellt sich die Frage, ob die eine Programmiersprache mehr kann als die andere.
Der englische Mathematiker Alan Turing hat dazu mit seinem Modell der Turingmaschine einen entscheidenden Teil dazu beigetragen. Er entwickelte dazu ein mathematisches Modell, das das systematische Vorgehen des Menschen z.B. bei der Addition nachbildet. Man benötigt dazu einen Bleistift, ein Rechenblatt und einen Radiergummi. Auf dem Rechenblatt werden die Rechnungen sowie alle Rechenergebnisse aufgeschrieben. Mit dem Bleistift kann man Zeichen auf das Blatt schreiben und mit dem Radiergummi auch wieder löschen. Die Aktion die man ausführt hängt nur von den endlich vielen Zeichen auf dem Rechenblatt ab. Die Berechnung selbst wird durch eine Berechnungsvorschrift gesteuert.
Die Turingmaschine besteht deswegen aus folgenden Komponenten:
- einem unendlich langen Speicherband mit unendlich vielen Feldern. In jedem dieser Felder ist genau ein Zeichen gespeichert. Dabei ist als Zeichen ein Blanksymbol (Leerzeichen) zugelassen, was so viel bedeutet wie „leeres Feld“. Das Blanksymbol gehört nicht zu der Menge der Eingabezeichen. Zur Vereinfachung der Vorstellung kann man auch ein endliches Band vorstellen. Dieses muss dann aber lang genug sein, damit die Berechnungen ausgeführt werden können.
- einem Schreib-/Lesekopf, der ein Zeichen aus dem aktuellen Feld lesen und hineinschreiben kann, sowie seine Position ein Feld nach links oder rechts bewegen kann.
- einem internen Zustand
Je nach Zustand, in dem sich die Turing-Maschine befindet, kann sie ein Zeichen auf das Band schreiben, den Schreib-/Lesekopf um ein Feld nach links oder rechts bewegen und den internen Zustand ändern.
Eine Turing-Maschine lässt sich formal folgendermaßen Beschreiben:
Definition
Eine Turingmaschine ist gegeben durch mit
- einer endliche Zustandsmenge
- einer endliche Menge an Eingabezeichen
- einer Menge an zulässigen Bandzeichen
- einem Startzustand
- dem Blank-Symbol
- einer Megne an Endzuständen
- einer Überführungsfunktion (L Schreib-/Lesekopfbewegung nach links, R Schreib-/Lesekopfbewegung nach rechts, 0 keine Schreib-/Lesekopfbewegung)
Hier findet ihr noch eine Turing-Maschinen-Simulator als Java-Anwendung (Java Runtime Environment 1.5 oder höher muss installiert sein):
(Quelle: [1]. Dort findet sich auch eine Dokumentation)
Um den Simulator zu nutzen, musst du diesen herunterladen und auf deinem Rechner entpacken und anschließend die Datei alan-1.0.jar öffnen. Durch anklicken des Ordner-Symboles kann man vorgefertigte Turingprogramme laden und ausführen. Die Anfangskonfiguration kann man im Feld "Tape Start" angeben. Mit einem Klick auf das Play-Symbol startet die Maschine mit der Ausführung des Programms. Selbstverständlich kannst du auch eigene Programme erstellen und speichern und ausführen. Nähere Informationen findest du in der beigelegten PDF-Datei.
Churchsche These
Warum befassen wir uns mit Turing-Maschinen? Das Modell der Turing-Maschinen ist die erste exakte Präzisierungen des Begriffs "Algorithmus" gewesen, d.h. jede berechenbare Funktion kann durch eine Turing-Maschine realisiert werden. Umgekehrt repräsentiert jede Turing-Maschine eine berechenbare Funktion. Das ist der Grund, warum sich die theoretische Informatik mit Turing-Maschinen beschäftigt.
These von Church Jede im intuitiven Sinne berechenbare Funktion ist auch turing-berechenbar, d.h. man kann eine Turing-Maschine entwerfen, die diese Funktion berechnet. |
Diese These kann man natürlich nicht beweisen, da der Begriff "intuitiv berechenbar" nicht mathematisch präzisiert werden kann.
An der Station über Turing-Maschinen hast du ja bereits eine in Java realisierte Turingmaschine kennen gelernt. Die Programmiersprache Java kann also mindestens genauso viele Programme realisieren wie eine Turing-Maschine. Es lässt sich aber auch zeigen, dass die Turing-Maschine genauso viel berechnen können wie z.B. Java.
Nicht berechenbare Probleme
Das Halteproblem
Kann es außer Endlosschleifen auch andere Gründe dafür geben, dass ein Programm nicht anhält?
Fleißige Biber
Als Abschluss wollen wir noch eine klar zu beschreibende und dennoch nicht berechenbare Aufgabe betrachten: Die Fleißigen Biber (engl. busy beaver).
Bei den Fleißigen Bibern geht es darum, eine Turing-Maschine mit Zuständen (plus einem Endzustand) zu finden, die eine maximale Anzahl an Einsen auf das Band schreibt und dann stoppt. Nun ist die Frage, wie viele Einsen das sind. Man bezeichnet diese Funktion auch als Radó-Funktion.
Überlegen wir uns einmal, wie viele verschiedene Turingmaschinen man mit Zuständen "bauen" kann.
Die Überführungsfunktion einer solchen Turingmaschine ist dann wie folgt definiert:
Dabei ist
- (Anzahl der Nicht-Endzustände)
- (Anzahl der Buchstaben des Bandalphabets)
- (Anzahl aller Zustände incl. Endzustand)
- (Anzahl der möglichen Bandbewegungen).
Die Definitionsmenge der Überführungsfunktion hat dann also
Elemente und die Zielmenge
Elemente.
Man weiß, dass die Anzahl der Abbildungen zwischen zwei Mengen mit Elementen und mit Elementen gleich ist.
Die Anzahl der möglichen Turing-Maschinen ist dann die Anzahl der Abbildungen zwischen und . Dies sind gerade
Damit erhält man in Abhängigkeit von folgende Anzahl an Turingmaschinen:
n (Anzahl der Zustände) |
N (Anzahl der Turingmaschinen) |
---|---|
... | ... |
Man kann also erkennen, dass die Anzahl der Turing-Maschinen, die man untersuchen muss extrem schnell ansteigt. Aus diesem Grund kennt man auch erst die ersten 4 Werte der Radó-Funktion . Diese sind:
Für alle größeren gibt es nur Schätzungen. Von weiß man nur, dass der Wert mindestens 4096 ist, d.h. eine Turingmaschine mit 5 Zuständen kann mindestens 4096 Einsen auf ein leeres Band schreiben, eine Turing-Maschine mit 6 Zuständen sogar mindestens 95524079 Einsen. Dies liegt daran, dass man alle möglichen Turing-Maschinen testen muss, ob sie anhalten oder nicht. Wenn eine Turing-Maschine anhält, weiß man, wie viele Einsen sie auf das Band geschrieben hat. Hält eine Turing-Maschine allerdings nicht an, muss man noch beweisen, dass sie nicht anhält.
Auch für kleinere Zustandszahlen ist es nicht möglich alle möglichen Turingmaschinen zu überprüfen. Angenommen wir hätten einen Computer, der in einer Sekunde 1 Million Turing-Maschinen überprüfen kann, ob sie hält und wenn ja, wie viele Einsen sie auf das leere Band schreiben kann, würde dies für bereits über 115 Jahre dauern.
Temporär
Die Schüler der Kollegstufe besuchen verschiedene Kurse. Jeder Kurs findet einmal pro Woche statt. Belegt ein Schüler zwei Kurse, so dürfen diese nicht gleichzeitig stattfinden. Kann man mit verschiedenen Terminen auskommen? Erstelle hierzu eine Graphen, wobei ein Knoten einem Kurs entspricht. Zwei Knoten werden genau dann miteinander verbunden, wenn ein Schüler die beiden entsprechenden Kurse besucht. Man kann die Aufgabe als sogenanntes k-Farbproblem auffassen. |
Kontrollfragen
Warum Gödelisierung?