Чтобы дать представление о методе пределов, рассмотрим задачу, которая не может быть решена методами элементарной математики. Требуется определить площадь фигуры, ограниченной осью абсцисс, дугой параболы, уравнение которой y=x², и прямой x = a (рис. 4). Разделим отрезок [0,a] на n равных частей длиной h = a/n, на каждой из этих частей построим прямоугольник, левая вершина которого лежит на параболе. Найдем сумму площадей всех таких прямоугольников, т.е. найдем площадь заштрихованной фигуры:

(здесь использована формула для суммы квадратов первых k натуральных чисел, известная еще Архимеду).

Преобразуем выражение для S_n к виду

S_n = a³/3 + a³/6 · 1/n² - a³/2 ·1/n.

Легко понять, что сумма двух последних слагаемых стремится к нулю при неограниченном увеличении n и, значит, S_n стремится к величине a³/3. Как видно из рис. 4, сумма площадей заштрихованных прямоугольников при неограниченном увеличении числа n таких прямоугольников будет стремиться к площади криволинейной фигуры. Следовательно, искомая площадь также равна a³/3, т.е. равна пределу последовательности S_n.

Рис. 4

Метод пределов не возник в математике сам собой, он оформился постепенно в результате труда многих математиков, которые начали рассматривать новые для своего времени задачи, не решаемые элементарными методами. Это были задачи определения размеров тел и центра их тяжести, нахождения длин кривых, построения касательных к кривым, нахождения мгновенной скорости при неравномерном движении. Постепенно накапливался опыт и вырабатывались приемы решения подобных задач в общей постановке, например задач, когда требовалось определить мгновенную скорость не в данном конкретном движении, а в любом, если только была известна зависимость пути от времени. Это привело к формированию на основе понятия предела новых понятий интеграла и производной, к созданию математического анализа. Очевидно, что с применением метода пределов потребовалось развить способы вычисления пределов, установить правила действий с пределами, т.е. создать теорию пределов. Основным понятием в этой теории стало понятие бесконечно малой - переменной, предел которой равен нулю. В этот период математический анализ назывался анализом бесконечно малых.

Если предел переменной величины x равен a, то пишут x → a (читается: «x стремится к a») либо lim x = a (читается: «предел x равен a»); lim - это первые три буквы латинского слова limes, которое и означает «предел». Слово limes для обозначения предела впервые употребил И. Ньютон, символ lim ввел французский ученый С. Люилье в 1786 г., а выражение

 первым записал англичанин У. Гамильтон в 1853 г. Для последовательности, как правило, под знаком предела ставят символ n → ∞, т.е. пишут , что означает «предел x_n при неограниченном возрастании n». Для функции под знаком предела указывают, к какому значению стремится аргумент, т.е. пишут . Это читается так: «предел функции x(t) при стремлении t к t₀».

В теории пределов изучаются свойства пределов, устанавливаются условия, при которых предел переменной существует, находятся правила, по которым, зная пределы нескольких простых переменных величин, можно вычислять пределы функций этих величин.

Сформулируем некоторые теоремы теории пределов.

1. Переменная в заданном процессе изменения может иметь только один предел.

2. Для того чтобы предел переменной x был равен a, необходимо и достаточно, чтобы разность x-a была бесконечно малой.

Пусть переменные x,y,z рассматриваются в одном и том же процессе изменения (это могут быть последовательности x_n,y_n,z_n или функции x(t),y(t),z(t)), тогда:

3. если lim x = lim y = a и в каждый момент изменения выполняется неравенство x ≤ z ≤ y, то lim z = a;

4. если lim x = a, lim y = b, а c - постоянная, то переменные x+y, x-y, cx, xy имеют предел и

lim(x+y) = a+b,

lim(cx) = ca,

lim(x-y) = a-b,

lim(xy) = a·b.

Кроме того, если b≠0, то lim x/y = a/b.

В примере определения площади между дугой параболы и осью абсцисс S_n было представлено в виде

S_n = a³/3 + a³/6 · 1/n² - a³/2 ·1/n = a³/3 + α_n

Используя очевидный предел

 и теорему 4, можем показать, что , действительно,

А так как разность S_n - a³/3 = α_n есть бесконечно малая, то заключаем:

.

Вернемся к рис. 1.

Если взять равнобедренный треугольник, у которого длина боковой стороны в 2 раза больше основания, то для значения длины диаметра x_n и суммы длин диаметров y_n получим выражения:

, y_n = h - h(3/5)ⁿ.

В теории пределов доказывается, что qⁿ → 0, если положительное число q меньше 1, отсюда следует, что

Важный случай представляет собой отношение двух переменных x/z, когда обе одновременно стремятся к нулю, говорят, что тогда имеет место неопределенность вида 0/0.

Рассмотрим функцию y = (sin x)/x, которая, если считать, что x измеряется в радианной мере, определена для всех отличных от нуля x, а при стремлении x к нулю имеет неопределенность вида 0/0.

Возьмем несколько значений углов, близких к нулю: 10°, 5°, 2°, 1°, 30´. По тригонометрическим таблицам найдем соответствующие значения синусов, пересчитаем эти углы в радианной мере (напомним, что градусная мера угла φ связана с его радианной мерой x следующим образом:

x = (π/180)φ = 0,0174φ)

и найдем значения отношения (sin x)/x. Полученные данные представим таблицей (значения даны с точностью до 0,0001):

Величина угла в градусной мере

Величина угла в радианной мере

sin x

(sin x)/x

10°

0,1745

0,1736

0,9948

5°

0,0873

0,0872

0.9988

2°