Определение «o» - малого.
Пусть \(f(x), g(x)\) определены в окрестности точки \(a\).

Говорят, что
\[
f(x) = o(g(x)), \quad x \to a,
\]
если существует функция \(\alpha(x)\), бесконечно малая при \(x \to a\), такая что
\[
f(x) = \alpha(x)\, g(x).
\]

Определение «O» - большого.
Говорят, что

\[
f(x) = O(g(x)), \quad x \to a,
\]
если существует функция \(\beta(x)\), ограниченная в окрестности точки \(a\), такая что
\[
f(x) = \beta(x)\, g(x).
\]

Пример:
\[x^2 = o(x), \quad x \to 0\]
так как \[x^2 = x \cdot x\]
и \[x \to 0.\]

Получаем:
\[ x = o(x^2), \quad x \to \infty\]
так как \[x = x^2 \cdot \frac{1}{x}\]
то \[
\frac{1}{x} \to 0, x \to \infty.
\]

Теорема 1.
Если
\[
f_1(x) = o(g(x)), \quad f_2(x) = o(g(x)),
\]
то при \[x \to a:\]
\[
f_1(x) + f_2(x) = o(g(x)),
\]
\[
f_1(x)\cdot f_2(x) = o(g^2(x)).
\]

Доказательство.
Пусть
\[
f_1(x) = \alpha_1(x)\, g(x), \quad f_2(x) = \alpha_2(x)\, g(x),
\]
где \[\alpha_1(x), \alpha_2(x)\] --- бесконечно малые при \(x \to a\).

Тогда:
\[
f_1(x) + f_2(x) = (\alpha_1(x) + \alpha_2(x))\, g(x),
\]
\[
f_1(x)\cdot f_2(x) = (\alpha_1(x)\alpha_2(x))\, g^2(x).
\]

Так как сумма и произведение бесконечно малых --- бесконечно малые, получаем требуемое.

Теорема 2.
\[
o\big(o(g(x))\big) = o(g(x)),
\]
то есть, если определение «o»-малого:
\[
f(x) = o(\varphi(x)), \quad \varphi(x) = o(g(x)),
\]
то
\[
f(x) = o(g(x)), \quad x \to a.
\]

Доказательство.
Пусть
\[
f(x) = \alpha_1(x)\, \varphi(x), \quad \varphi(x) = \alpha_2(x)\, g(x),
\]
где \[\alpha_1(x), \alpha_2(x) \to 0, x \to a.\]

Тогда:
\[
f(x) = \alpha_1(x)\alpha_2(x)\, g(x) = \alpha(x)\, g(x),
\]
где \[\alpha(x) \to 0.\]

Следовательно, \[f(x) = o(g(x)).\]

Теорема 3.
\[
o\big(O(g(x))\big) = o(g(x)), \quad O\big(o(g(x))\big) = o(g(x)), \quad x \to a.
\]

Доказательство.
Эти свойства следуют из того, что произведение бесконечно малой функции на ограниченную функцию есть бесконечно малая функция.