Die Theorie der Iteration rationaler Funktionen untersucht das Verhalten einer rekursiv definierten Folge \begin{eqnarray}{z}_{n+1}=f({z}_{n})\end{eqnarray} für n → ∞ in Abhängigkeit vom Startwert z₀, wobei f eine rationale Funktion ist. Die Theorie wurde um 1920 von den französischen Mathematikern Pierre Fatou und Gaston Julia unabhängig voneinander begründet. Dabei wird die Riemannsche Zahlenkugel \(\hat{{\mathbb{C}}}\) (siehe Kompaktifizierung von ℂ) in zwei Mengen zerlegt, die heute ihre Namen tragen. Die Fatou-Menge ist, grob gesagt, diejenige Menge von Startwerten z₀ derart, daß geringe Änderungen von z₀ keinen Einfluß auf das Verhalten von (z_n) haben. Für die übrigen Startwerte, die die Julia-Menge bilden, verhält sich (z_n) chaotisch.

Mehr als 60 Jahre nach diesen fundamentalen Arbeiten bekam die Thematik durch die Ankündigung der Lösung eines zentralen Problems durch Sullivan wieder neuen Auftrieb. Dieser wurde durch die Möglichkeiten der modernen Computergrafik, eindrucksvolle Bilder von Julia-Mengen zu produzieren, noch verstärkt.

Grundlegende Definitionen

Es sei f eine rationale Funktion vom Grad d. Es wird f immer als stetige Funktion von \(\hat{{\mathbb{C}}}\) auf \(\hat{{\mathbb{C}}}\) betrachtet, genauer als eigentliche meromorphe Abbildung von \(\hat{{\mathbb{C}}}\) auf \(\hat{{\mathbb{C}}}\) vom Abbildungsgrad d. Dabei ist die Stetigkeit bezüglich der Topologie von \(\hat{{\mathbb{C}}}\) zu verstehen. Auch sämtliche topologische Aussagen beziehen sich im folgenden immer auf diese Topologie. Für n ∈ ℕ wird die n-te iterierte Abbildung von f mit fⁿ bezeichnet, wobei noch f⁰(z) = z gesetzt wird. Dann ist fⁿ wieder eine rationale Funktion vom Grad dⁿ.

Die Fatou-Menge ℱ = ℱ(f) von f ist definiert als die Menge aller z e \(\hat{{\mathbb{C}}}\) derart, daß die Folge (fⁿ) in einer Umgebung von z eine normale Familie bildet. Das Komplement \(\hat{{\mathbb{C}}}\)\ℱ von ℱ heißt Julia-Menge von f und wird mit \({\mathcal{J}}={\mathcal{J}}(f)\) bezeichnet. Offensichtlich ist ℱ eine offene und \({\mathcal{J}}\) eine kompakte Menge. Es gilt \( {\mathcal F} \mathop{\cap }\limits^{}{\mathcal{J}}=\varnothing \) und \( {\mathcal F} \mathop{\cap }\limits^{}{\mathcal{J}}=\hat{{\mathbb{C}}}\). Die Fatou-Menge besitzt also höchstens abzählbar viele Zusammenhangskomponenten, und diese heißen stabile Gebiete von f. In der älteren Literatur heißt die Fatou-Menge oft auch Normalitätsmenge und wird mit \({\mathcal{N}}\) bezeichnet, während die Julia-Menge mit ℱ bezeichnet wird und Nichtnormalitätsmenge heißt. Fatou hat die Menge ℱ zum Ausgangspunkt seiner Untersuchungen gewählt.

Zwei rationale Funktionen f und g heißen konjugiert, falls eine Möbius-Transformation M existiert mit g = M ∘ f ∘ M⁻¹. Man schreibt dann f ~ g. Dadurch wird eine Äquivalenzrelation auf der Menge aller rationalen Funktionen definiert. Ist f ~ g, so gilt gⁿ = M ∘ fⁿ ∘ M⁻¹ und daher ℱ(g) = M(ℱ(f)) und \({\mathcal{J}}(g)=M({\mathcal{J}}(f))\). Jedes quadratische Polynom kann man zu einem Polynom der Form z² + c mit c ∈ ℂ konjugieren; ebenso zu einem Polynom der Form λz + z² mit λ ∈ ℂ. Ist \(\infty \in {\mathcal{J}}(f)\) und \({\mathcal{J}}(f)\ne \hat{{\mathbb{C}}}\), so existiert stets eine zu f konjugierte Funktion g mit \(\infty \notin {\mathcal{J}}(g)\).

Ist \(E\subset \hat{{\mathbb{C}}}\) eine nicht leere Menge, so heißt \begin{eqnarray}{O}^{+}(E):=\{{f}^{n}(z):z\in E,n\in {{\mathbb{N}}}_{0}\}\end{eqnarray} der Orbit oder die Bahn von E. Für \({Z}_{0}\in \hat{{\mathbb{C}}}\) schreibt man statt \({O}^{+}(\{{Z}_{0}\})\) kurz \({O}^{+}({Z}_{0})\), und jeder Punkt \({f}^{n}({z}_{0})\in {O}^{+}({Z}_{0})\) mit n ∈ ℕ heißt ein Nachfolger von z₀. Die Menge \({O}^{+}(\{{Z}_{0}\})\) wird oft auch als Folge aufgefaßt. Weiter heißt \begin{eqnarray}{O}^{-}(E):=\mathop{\mathop{\bigcup }\limits^{\infty }}\limits_{n=1}{f}^{-n}(E)\end{eqnarray} der Rückwärtsorbit von E; dabei ist \begin{eqnarray}{f}^{-n}(E)=\{z\in \hat{{\mathbb{C}}}:{f}^{n}(z)\in E\}.\end{eqnarray} Jeder Punkt aus \({O}^{-}(\{{Z}_{0}\})\) heißt ein Vorgänger von z₀. Schließlich nennt man \({O}^{+}(E)\mathop{\cup }\limits^{}{O}^{-}(E)\) den großen Orbit von E.

Eine zentrale Rolle spielen die Fixpunkte oder allgemeiner die periodischen Punkte von f. Dabei heißt ζ ∈ \(\hat{{\mathbb{C}}}\) ein periodischer Punkt von f mit der Periode p ∈ ℕ, falls ζ ein Fixpunkt von f^p aber kein Fixpunkt von fⁿ für 1 ≤ n ≤ p ist. Dann heißt die Menge \begin{eqnarray}\alpha :=\{\zeta, f(\zeta ),\ldots, {f}^{p-1}(\zeta )\}\end{eqnarray} ein Zyklus der Länge p oder kurz p-Zyklus. Alle Elemente von α sind periodische Punkte von f mit der Periode p. Die 1-Zyklen von f sind gerade die Fixpunkte von f. Der Multiplikator λ = λ(α) ist definiert als der Multiplikator des Fixpunktes ζ von f^p. Er hängt nur von α aber nicht von der speziellen Wahl des periodischen Punktes in α ab. Sind f und g konjugiert, d. h. g = M ∘ f ∘ M⁻¹, und ist α ein p- Zyklus von f mit Multiplikator λ, so ist M(α) ein p-Zyklus von g mit Multiplikator λ. Schließlich heißt ein Punkt ζ ∈ \(\hat{{\mathbb{C}}}\) präperiodisch, falls f^m(ζ) für ein m ∈ ℕ₀ ein periodischer Punkt von f ist. Äquivalent dazu ist, daß der Orbit O⁺(ζ) eine endliche Menge ist. Ist ζ präperiodisch, aber nicht periodisch, so heißt ζ auch strikt präperiodisch.

Die Zyklen α von f werden wie folgt in Klassen eingeteilt. Man nennt ζ

1. B besitzt einen (super)attraktiven Fixpunkt \(\zeta \in {\mathbb{E}}\). Dann sind \({\mathbb{E}}\) und Δ vollständig invariant, \({\mathcal{J}}={\mathbb{T}}\) und B hyperbolisch.
2. B besitzt einen (super)attraktiven Fixpunkt \(\zeta \in {\mathbb{T}}\). Dann ist \( {\mathcal F} \) ein Gebiet und B hyperbolisch, also \({\mathcal{J}}\) eine Cantor-Menge.
3. B besitzt einen indifferenten Fixpunkt \(\zeta \in {\mathbb{T}}\). Dann ist B′ (ζ) = 1 und somit ζ Zentrum einer Leau-Blume, bestehend aus ein oder zwei Leau-Gebieten. Im ersten Fall ist \({\mathcal{J}}\) eine Cantor-Menge und im zweiten gilt \({\mathcal{J}}={\mathbb{T}}\).

Es sei U ein Fixgebiet der rationalen Funktion f.

1. Ist ∂U eine analytische Jordan-Kurve, so ist ∂U eine Kreislinie und f konjugiert zu einem Blaschke-Produkt.
2. Ist ∂U ein analytischer Jordan-Bogen, so ist \({\mathcal{J}}=\partial U\) ein Kreisbogen in \(\hat{{\mathbb{C}}}\), und es gilt \(f\circ h=h\circ B\)mit einem Blaschke-Produkt B und einer rationalen Funktion h vom Grad 2. Die Funktion h bildet \({\mathbb{E}}\)und Δ konform auf U ab. Zum Beispiel gilt für f = T_d \begin{eqnarray}\begin{array}{cc}h(z)=\frac{1}{2}(z+\frac{1}{z}), & B(z)={z}^{d}.\end{array}\end{eqnarray}

Für Polynome gilt speziell:

Es sei P ein Polynom vom Grad d ≥ 2 und \({\mathcal{J}}\)ein Jordan-Bogen. Dann ist P konjugiert zum Tschebyschew-Polynom T_d oder −T_d und daher \({\mathcal{J}}\)eine Strecke in ℂ.

Im allgemeinen müssen Julia-Mengen keine Kurven sein, denn ist zum Beispiel \(f(z)=\lambda z+{z}^{2}\) und 0 ein irrational indifferenter Fixpunkt, aber nicht Zentrum einer Siegel-Scheibe von f, so kann man zeigen, daß \({\mathcal{J}}=\partial {\mathcal{A}}(\infty )\) keine Kurve ist. Andererseits gilt:

Es sei U ein einfach zusammenhängendes Böttcher- oder Schröder-Gebiet der rationalen Funktion f und jeder kritische Punkt von f in \({\mathcal{J}}\)strikt präperiodisch. Dann ist ∂U eine Kurve. Ist U sogar vollständig invariant, so ist \({\mathcal{J}}=\partial U\)eine Kurve.

Diese Kurve kann jedoch eine sehr komplizierte Struktur haben. Falls nämlich \({\mathcal{J}}\) eine Kurve ist, so ist diese entweder eine Jordan-Kurve oder jeder Punkt ein Doppelpunkt, d. h. wird mindestens zweimal „durchlaufen“. Ein Beispiel hierfür ist das Polynom \(P(z)={z}^{2}-1\). Weiter gilt:

Die Fatou-Menge der rationalen Funktion f bestehe aus zwei vollständig invarianten stabilen Gebieten, von denen mindestens eines ein Böttcher- oder Schröder-Gebiet ist. Dann ist \({\mathcal{J}}\)eine Jordan-Kurve. Sind beide Böttcher- oder Schröder-Gebiete, so ist \({\mathcal{J}}\)sogar eine quasikonforme Kurve.

Ist speziell f = P ein Polynom, so enthält \( {\mathcal F} \) das Böttcher-Gebiet \({\mathcal{A}}(\infty )\) und \({\mathcal{J}}=\partial {\mathcal{A}}(\infty )\). Dann erhält man aus den obigen Aussagen:

1. Ist P hyperbolisch und \({\mathcal{J}}\)zusammenhängend, so ist \({\mathcal{J}}\)eine Kurve.
2. Ist jeder kritische Punkt von f in \({\mathcal{J}}\)strikt präperiodisch und \({\mathcal{J}}\)zusammenhängend, so ist \({\mathcal{J}}\)eine Kurve.
3. Besitzt f genau ein stabiles Gebiet \(U\ne {\mathcal{A}}(\infty )\), so ist \({\mathcal{J}}\)eine Jordan-Kurve. Ist U ein Böttcheroder Schröder-Gebiet, so ist \({\mathcal{J}}\)eine quasikonforme Kurve.

Das Polynom P(z) = z + z² besitzt genau ein stabiles Gebiet \(U\ne {\mathcal{A}}(\infty )\), und dieses ist ein Leau- Gebiet mit Fixpunkt 0. Also ist \({\mathcal{J}}\) eine JordanKurve. Diese besitzt am Punkt 0 eine Spitze. Der Rückwärtsorbit O⁻(0) ist eine dichte Menge in \({\mathcal{J}}\), und \({\mathcal{J}}\) besitzt an jedem dieser Punkte eine Spitze. Daher ist \({\mathcal{J}}\) keine quasikonforme Kurve.

Dynamik in der Julia-Menge

Für \(f(z)={z}^{2}\) gilt \({\mathcal{J}}={\mathbb{T}}\) und \(f({e}^{2\pi it})={e}^{2\cdot 2\pi \,it}\). Schreibt man t als Dualzahl \(t=0,{\tau }_{1}{\tau }_{2}{\tau }_{3}\ldots \). mit \({\tau }_{k}\in \{0,1\}\) und \({\sigma }_{k}={\tau }_{k}+1\), so kann man die Dynamik von f auf \({\mathcal{J}}\) symbolisch durch den Shift-Operator \begin{eqnarray}({\sigma }_{1}{\sigma }_{2}{\sigma }_{3}\ldots )\mapsto ({\sigma }_{2}{\sigma }_{3}{\sigma }_{4}\ldots )\end{eqnarray} in dem Symbolraum \(\sum _{2}={\{1,2\}}^{{\mathbb{N}}}\) aller Folgen (σ_k) mit σ_k ∈ {1, 2} beschreiben.

Nun sei allgemeiner f eine rationale Funktion vom Grad d ≥ 2 und \(\sum ^{}=\sum _{d}:={\{1,2,\mathrm{\ldots },d\}}^{{\mathbb{N}}}\). Führt man auf Σ die Metrik \begin{eqnarray}d(\sigma, \tau ):\mathop{\sum ^{\infty }}\limits_{k=1}\frac{|{\sigma }_{k}-{\tau }_{k}|}{{d}^{k}}\end{eqnarray} ein, so wird Σ zu einem kompakten, total unzusammenhängenden metrischen Raum. Ist f hyperbolisch, so existiert eine stetige Abbildung \({\Phi }_{f}:\sum ^{}\to {\mathcal{J}}\) mit \({\Phi }_{f}\circ S=f\circ {\Phi }_{f}\), wobei S : Σ → Σ mit (σ₁σ₂σ₃…) ↦ (σ₂σ₃σ₄…) der Shift-Operator ist. Im allgemeinen ist Φ_f nicht bijektiv, denn sonst wäre Φ_f wegen der Kompaktkeit von Σ und \({\mathcal{J}}\) ein Homömorphismus und somit \({\mathcal{J}}\) eine Cantor-Menge. Dies ist jedoch der Fall, wenn zusätzlich \( {\mathcal F} \) ein Gebiet ist.

Weitere Eigenschaften der Julia-Menge sind unter dem gleichnamigen Stichwort, sowie unter Ergodentheorie auf Julia-Mengen und Invariante Maße auf Julia-Mengen zu finden. Besonderes Interesse hat die Iteration quadratischer Polynome \(f(z)={z}^{2}+c\) gefunden. Hierfür ist von entscheidender Bedeutung, ob der Paramater c in der MandelbrotMenge liegt oder nicht. Daher wird das Thema unter diesem Stichwort abgehandelt.

[2] Steinmetz, N.: Rational Iteration. Walter de Gruyter Berlin, 1993.