Задача состоит в исследовании на сходимость последовательности, заданной рекуррентно ([math]x_{n+1}=\cos x_n,\ x_1=x[/math]) при произвольном [math]x[/math]. Без ограничения общности можно считать, что [math]x\in[0;1][/math]. Действительно, второй член последовательности гарантированно лежит в [math][-1;1][/math], а третий в [math][0;1][/math], то есть считаем, что последовательность начинается с третьего члена.
Рассмотрим функцию [math]f(x)=\cos x-x[/math] на [math][0;1][/math]. Она, очевидно, строго убывает на этом отрезке, причем [math]f(0)>0,\ f(1)<0[/math], значит она имеет единственный нуль, который мы обозначим [math]A\in(0;1)[/math] (как у andrei). При этом [math]\cos x>x[/math] при [math]x\in[0;A)[/math] и [math]\cos x<x[/math] при [math]x\in(A;1][/math].
Рассмотрим подпоследовательность исходной последовательности с нечетными номерами ([math]x_{2n+1}=\cos\cos x_{2n-1}[/math]) и исследуем её на сходимость. Покажем сначала, что если [math]x_{2n-1}\in[0;A)[/math], то и [math]x_{2n+1}\in[0;A)[/math] (и обратно, если [math]x_{2n-1}\in(A;1][/math], то и [math]x_{2n+1}\in(A;1][/math]). Действительно, косинус строго убывает на [math][0;A)[/math], поэтому этот полуинтервал он переводит в [math](\cos A;1][/math], а [math]\cos A=A[/math]. Аналогично дополнительное применение косинуса переводит последний интервал в [math][\cos 1;A)\subset[0;A)[/math], ч. и т. д. Рассмотрим теперь функцию [math]g(x)=\cos\cos x-x[/math]. Её производная [math]g'(x)=\sin\cos x\sin x-1\leqslant0[/math], значит она строго убывает на [math][0;1][/math], причем [math]g(0)>0,\ g(1)<0[/math], значит она имеет единственный нуль, который, очевидно, и есть [math]A[/math]. При этом [math]\cos\cos x>x[/math] при [math]x\in[0;A)[/math] и [math]\cos\cos x<x[/math] при [math]x\in(A;1][/math]. Таким образом, если [math]x\in[0;A)[/math], то и [math]x_{2n-1}\in[0;A)[/math] при всех [math]n[/math], а значит [math]x_{2n+1}-x_{2n-1}=\cos\cos x_{2n-1}-x_{2n-1}>0[/math], то есть последовательность [math]x_{2n-1}[/math] монотонно возрастает, а поскольку она ограничена сверху единицей, то по теореме Вейерштрасса она сходится. Аналогично при [math]x\in(A;1][/math] эта последовательность монотонно убывает и в силу ограниченности снизу нулем также сходится. Для нахождения самого предела необходимо перейти к пределу в рекуррентном соотношении, после чего будет получено уравнение [math]x=\cos\cos x[/math], которое, как уже было сказано ранее, имеет единственное решение, равное [math]A[/math]. Случай [math]x=A[/math] тривиален.
Абсолютно аналогично доказывается, что и подпоследовательность с четными номерами сходится к [math]A[/math].