Непрерывность и гладкость

Непрерывность

Рассмотрим функцию $f(x)$ . Обозначим также область определения функции $f(x)$ за $D$ .

Определение непрерывности функции

Пусть $D \subset \mathbb{R}$ и $f: D \to \mathbb{R}$ . Функция $f(x)$ непрерывна в точке $x_0 \in D$ (где $x_0$ — предельная точка $D$ ), если $f(x)$ имеет предел в точке $x_0$ , и этот предел совпадает со значением функции $f(x_0)$ :

\lim\limits_{x \to x_0} f(x) = f(x_0)

Но данное определение характеризует непрерывность функции лишь в конкретной точке. Непрерывность функции на компакте характеризуется следующим свойством:

Функция непрерывна на компакте, если она непрерывна в каждой точке этого компакта.

Непрерывность функции на компакте дает нам множество полезных следствий и теорем, применяемых повсеместно. Одна из ключевых теорем — теорема о промежуточном значении, применяемая в алгоритмах поиска корней уравнений.

Теорема о промежуточном значении (теорема Больцано–Коши)

Если непрерывная на отрезке $[a, b]$ функция принимает на его концах значения A и B, то она принимает и любое промежуточное значение между A и B.

Рассмотрим функцию $g(x) = f(x) - C$ . Она непрерывна на отрезке $[a, b]$ и $g(a) < 0, g(b) > 0$ . Покажем, что существует такая точка $с \in [a, b]$ , что $g(с) = 0$ . Разделим отрезок $[a, b]$ точкой $x_0$ на два равных по длине отрезка, тогда либо $g(x_0) = 0$ и нужная точка $с = x_0$ найдена, либо $g(x_0) \ne 0$ и тогда на концах одного из полученных промежутков функция $g(x)$ принимает значения разных знаков (на левом конце меньше нуля, на правом больше). Обозначив полученный отрезок $[a_1, b_1]$ , разделим его снова на два равных по длине отрезка и т.д. Тогда, либо через конечное число шагов придем к искомой точке $с$ , либо получим последовательность вложенных отрезков $[a_n, b_n]$ . По свойству системы вложенных отрезков (вложенных отрезков Коши - Кантора) получим, что $g(x_n) = 0$ , где $x_n$ — точка принадлежащая всем отрезкам.

Второй не менее важной теоремой является теорема Вейерштрасса, применяемая в алгоритмах поиска (greed search) и машинном обучении (обучение моделей с регуляризацией).

Теорема Вейерштрасса

Непрерывная на компакте функция ограничена и достигает на нем своих наибольшего и наименьшего значений.

Предположим, что функция $f(x)$ не грагичена на отрезке $[a, b]$ . Тогда для любого $n \in \mathbb{N}$ существует точка $x_n \in [a, b]$ , такая что $|f(x_n)| > n$ . Построенная последовательность ${x_n}$ ограничена, так как $x_n \in [a, b]$ для всех $n$ . По лемме Больцано-Вейерштрасса, из последовательности ${x_n}$ можно выделить подпоследовательность $x_{nk}$ , то есть $\lim\limits_{k \to \infty} x_{nk} = c$ , где $c \in [a, b]$ . Так как $f(x)$ непрерывна на отрезке $[a, b]$ , то она непрерывна в точке $c$ , следовательно $\lim\limits_{k \to \infty} f(x_{nk}) = f(c)$ . Однако по построению последовательности ${x_n}$ , $|f(x_{nk})| > n_k$ , что противоречит существованию предела $\lim\limits_{k \to \infty} f(x_{nk})$ , так как $n_k \to \infty$ . Следовательно предположение о неограниченности функции $f(x)$ на отрезке $[a, b]$ неверно, и функция $f(x)$ ограничена на этом отрезке.

Далее, зная что функция ограничена на отрезке, несложно доказать достижение функцией наибольшего и наименьшего значений.

Точки разрыва

Если условие непрерывности функции в точне не выполняется, то данную точку именуют точкой разрыва. В математическом анализе точки разрыва функции классифицируются в зависимости от поведения пределов функции слева и справа в данной точке.

Основные типы точек разрыва:

Точка разрыва первого рода

Разрыв первого рода

Функция $f(x)$ имеет разрыв первого рода в точке $x = a$ , если существуют конечные односторонние пределы

\lim\limits_{x \to a^{-}} f(x) = L_1 \quad \text{и} \quad \lim\limits_{x \to a^{+}} f(x) = L_2,

Но хотя бы один из них не равен значению функции $f(a)$ либо функция $f(a)$ не определена.

Пример: $f(x) = \sin(x)/x$ в точке $x = 0$ . Предел равен 1, но функция не определена.

Разрывы первого рода делятся на два подтипа:

Устранимый разрыв: если $L_1 = L_2$ , но $f(a)$ либо не определено, либо не равно этому общему пределу.
Неустранимый разрыв (скачок): если $L_1 \ne L_2$

Точка разрыва второго рода

Разрыв второго рода

Функция $f(x)$ имеет разрыв второго рода в точке $x = a$ , если хотя бы один из односторонних пределов не существует или бесконечен.

Пример разрыва второго рода:

Вертикальная асимптота: $f(x) = 1/x$ в точке $x = 0$

Непрерывность функций многих переменных

Рассмотрим функцию $f(x)$ , где $x = (x_1, x_2,...,x_n) \in \mathbb{R^n}$ . Обозначим также область определения функции $f(x)$ за $D \subset \mathbb{R^n}$ .

Определение непрерывности (через предел)

Пусть $D \subset \mathbb{R^n}$ и $f: D \to \mathbb{R}$ . Функция $f(x)$ непрерывна в точке $a \in D$ (где $a$ — предельная точка $D$ ), если $f(x)$ имеет предел в точке $a$ , и этот предел совпадает со значением функции $f(a)$ :

\lim\limits_{x \to a} f(x) = f(a)

Определение непрерывности функции многих переменных дается и при помощи нормы. Определять непрерывность функции многих переменных по каждой переменной отдельно нельзя!

Например рассмотрим функцию двух переменных $f(x,y): \mathbb{R^2} \to \mathbb{R}$ :

f(x,y)= \begin{cases} \dfrac{xy}{x^2 + y^2}, & \text{если } (x, y) \ne (0, 0),\\ 0, & \text{если } (x, y) = (0, 0). \end{cases}

При проверке на непрерывность в $(0, 0)$ отдельно по $x$ и $y$ получаем, что функция непрерывна, но при проверке на непрерывность по норме, получим, что в точке $(0, 0)$ функция разрывна. Значит непрерывности по отдельным координатам не достаточно!

Наиболее часто применяется евклидова норма: $\|x - a\| = \sqrt{(x_1 - a_1)^2 + (x_2 - a_2)^2 +...+ (x_n - a_n)^2}$ . Тогда определение непрерывности имеет вид:

Определение непрерывности (через норму)

\forall\, \varepsilon > 0 \exists\, \delta > 0: \forall\, x \in D, ||x-a||<\delta \Rightarrow |f(x)-f(a)|<\varepsilon

Аналогично функциям одной переменной, функция $f(x)$ называется непрерывной на множестве $D$ , если она непрерывна в каждой точке этого множества. Также для $f(x)$ справедливы аналоги теорем для одной переменной:

Теорема о промежуточном значении (теорема Больцано–Коши)

Если $f(x)$ непрерывная на связном множестве $D \subset \mathbb{R^n}$ и $f(a)=A, f(b)=B$ , то для любого $C$ между $A$ и $B$ найдется $с \in D$ , такое что $f(c)=C$

Теорема Вейерштрасса

Непрерывная на компакте функция ограничена и достигает на нем своих наибольшего и наименьшего значений.

Непрерывность функций комплексных переменных

Рассмотрим функцию $f(z)$ , где $z = x + iy \in \mathbb{C}$ . Обозначим также область определения функции $f(z)$ за $D \subset \mathbb{C}$ .

Определение непрерывности (через предел)

Пусть $D \subset \mathbb{C}$ и $f: D \to \mathbb{C}$ . Функция $f(z)$ непрерывна в точке $z_0 \in D$ (где $z_0$ — предельная точка $D$ ), если $f(z)$ имеет предел в точке $z_0$ , и этот предел совпадает со значением функции $f(z_0)$ :

\lim\limits_{z \to z_0} f(z) = f(z_0)

Вместо модуля разности действительных чисел (функции одной переменной) или евклидовой нормы (функции многих переменных), в функциях комплексных переменных используется модуль комплексного числа: $|z - z_0| = \sqrt{(x - x_0)^2 + (y - y_0)^2}$ . Тогда определение непрерывности имеет вид:

Определение непрерывности (через модуль)

\forall\, \varepsilon > 0 \exists\, \delta > 0: \forall\, x \in D, |z-z_0|<\delta \Rightarrow |f(z)-f(z_0)|<\varepsilon

Полюсы в комплексном анализе

В отличие от вещественного анализа, где разрывы классифицируются как первого и второго рода, в комплексном анализе используется понятие полюса.

Полюс функции

Точка $z_0 \in \mathbb{C}$ называется полюсом функции $f(z)$ , если:

$f(z)$ не определена в точке $z_0$

$\lim\limits_{z \to z_0} |f(z)| = \infty$

Существует целое число $n > 0$ и такая функция $g(z)$ , голоморфная (аналитичная) в некоторой окрестности точки $z_0$ , что

$f(z)=g(z)/(z-z_0)^n$
$g(z_0) \neq 0$

Число $n$ из определения называется порядком полюса. Если $n = 1$ , полюс называется простым.

Характеризация полюса через ряд Лорана

Точка $z_0$ является полюсом порядка $n$ функции $f(z)$ тогда и только тогда, когда в ряду Лорана функции $f(z)$ в окрестности точки $z_0$ главная часть (часть с отрицательными степенями) содержит конечное число членов, и старшая отрицательная степень равна $-n$ :

f(z) = \sum\limits_{k=-n}^{\infty} a_k (z-z_0)^k, \quad a_{-n} \neq 0

Рассмотрим несколько характерных примеров:

Функция $f(z) = \frac{1}{z}$ имеет простой полюс в точке $z = 0$ .
Функция $f(z) = \frac{1}{(z-1)^3}$ имеет полюс третьего порядка в точке $z = 1$ .
Функция $f(z) = \frac{z+2}{z^2-1} = \frac{z+2}{(z-1)(z+1)}$ имеет простые полюсы в точках $z = 1$ и $z = -1$ :

Дифференцируемость

Непрерывность — необходимое условие не менее важного свойства функции — дифффиренцируемости.

Пусть функция $f(x)$ определена в некоторой окрестности точки $x_0$ Тогда:

Дифференцируемость функции одной переменной

Функция $f(x)$ называется дифференцируемой в точке $x_0$ , если ее приращение в этой точке можно представить в виде:

\Delta y = f(x_0 + \Delta x)-f(x_0) = A\Delta x + o(\Delta x), {при} \Delta x \to 0

Главная, линейная часть приращения $A \Delta x$ называется дифференциалом функции и обозначается $dy$ или $df(x_0)$

Число $A$ в этом определении равно значению производной функции в точке $x_0$ , то есть $A = f'(x_0)$

Из определения дифференцируемости не сложно вывести теорему Ролля:

Теорема Ролля

Пусть функция $f(x)$ , дифференцируема на $(a,b)$ , непрерывна на $[a,b]$ и $f(a) = f(b)$ . Тогда существует хотя бы одна точка $c \in (a,b)$ , такая что производная функции в этой точке равна нулю.

Рассмотрим два случая:

Случай 1: Функция $f(x)$ постоянна на отрезке $[a, b]$ . Тогда для любой точки $c \in (a, b)$ производная $f'(c) = 0$ .
Случай 2: Функция $f(x)$ не является постоянной. По теореме Вейерштрасса, непрерывная на компакте функция достигает своих наибольшего и наименьшего значений, то есть имеет в этой точке локальный экстремум, производная которого равна нулю.

Таким образом, в обоих случаях существует точка $c \in (a, b)$ , для которой $f'(c) = 0$ . Теорема доказана.

Из теоремы Ролля, в свою очередь получаем теорему о среднем значении (Теорема Лагранжа):

Теорема о среднем значении (Теорема Лагранжа)

Если функция непрерывна на $[a, b]$ и дифференцируема на $(a, b)$ , то найдется точка $с \in (a, b)$ , такая что $f'(с) = (f(b) - f(a)) / (b - a)$

Рассмотрим вспомогательную функцию:

g(x) = f(x) - f(a) - \frac{f(b) - f(a)}{b - a}(x - a)

Эта функция удовлетворяет условиям теоремы Ролля:

Непрерывность на $[a, b]$ : Функция $g(x)$ является линейной комбинацией непрерывных функций $f(x)$ и $x$ , поэтому непрерывна на $[a, b]$ .
Дифференцируемость на $(a, b)$ : Функция $g(x)$ дифференцируема на $(a, b)$ , так как $f(x)$ дифференцируема, а остальные слагаемые — линейные.
Равенство значений на концах:
$g(a) = f(a) - f(a) - \frac{f(b) - f(a)}{b - a}(a - a) = 0$ $g(b) = f(b) - f(a) - \frac{f(b) - f(a)}{b - a}(b - a) = 0$ Следовательно, $g(a) = g(b)$ .

По теореме Ролля существует точка $c \in (a, b)$ , такая что $g'(c) = 0$ . Найдем производную:

g'(x) = f'(x) - \frac{f(b) - f(a)}{b - a}

Приравнивая к нулю в точке

c

, получаем:

f'(c) = \frac{f(b) - f(a)}{b - a}

Теорема доказана.

Гладкость

Понятие гладкости уточняет и усиливает понятие непрерывности.

Понятие гладкости

Функция называется гладкой (или гладкой класса $C^1$ на интервале), если она непрерывно дифференцируема на этом интервале. Это означает:

Она дифференцируема в каждой точке (т.е. существует производная $f'(x)$ )
Ее производная $f'(x)$ является непрерывной функцией.

Гладкая функция не только непрерывна, но и не имеет "углов" или "изломов". Ее график — плавная, изгибающаяся кривая с непрерывно меняющимся наклоном касательной.

Классы гладкости

C-классификация — инструмент для классификации функций по степени их гладкости.

Класс $C^0$ : Множество всех непрерывных функций.

Класс $C^1$ : Функции, которые имеют непрерывную первую производную. Это гладкие функции в базовом смысле.

Класс $C^n (n \in \mathbb{N})$ : Функции, которые имеют непрерывные производные до порядка n включительно.

Класс $C^{\infty}$ : Функции, имеющие непрерывные производные всех порядков. Такие функции называются бесконечно дифференцируемыми.

Иерархия гладкости

Иерархия гладкости имеет вид:

$C^{\infty} \subset . . . \subset C^2 \subset C^1 \subset C^0$

Чем выше класс, тем более гладкая функция.