Pierwsze teorie ograniczenia w historii teorii prawdopodobieństwa należały do Bernoulliego, który później został nazwany "Prawem Dużych Liczb". Teoria prawdopodobieństwa omawia prawo, że średnia arytmetyczna sekwencji zmiennych losowych zbiega się ze średnią arytmetyczną każdego matematycznego oczekiwania zmiennych losowych.
W dużej liczbie powtarzających się zdarzeń losowych często istnieje prawie nieuniknione prawo, które jest prawem dużej liczby. W kategoriach laika, to teoria jest taka, że częstotliwość zdarzeń losowych jest podobna do jego prawdopodobieństwa, powtarzając test wiele razy pod warunkiem tego samego testu. Istnieje pewna konieczność w wypadku.
Prawo dużych liczb jest podzielone na prawo słabych dużych liczb i prawo silnych liczb.