Il calcolo delle probabilità è sorto con lo studio dei giochi d'azzardo all'incirca nel diciassettesimo secolo; proprio in questo periodo venne affermandosi la cosiddetta definizione classica di probabilità. Così come venne poi ripresa da C.F. Pierce nel 1910, la si può enunciare nel modo seguente:
L'estensione al caso di eventi con risultati continui si attua attraverso una rappresentazione geometrica in cui la probabilità di un evento casuale è data dal rapporto tra l'area favorevole all'evento e l'area totale degli eventi possibili. Consideriamo un esempio.
Supponiamo che un bambino lanci dei sassi contro una parete forata senza
prendere la mira. Siano i fori sulla parete distribuiti a caso e per
semplicità assumiamo che le dimensioni dei sassi siano molto piccole
rispetto a quelle dei fori. Ci si chiede qual è la probabilità
p che un sasso passi dall'altra parte.
Se A è l'area della parete e a l'area di ciascuno
dei k fori, la probabilità che un sasso passi è data
dall'area "favorevole" divisa l'area totale
Si noti bene che questa definizione oggettiva di probabilità diventa di difficile applicazione nelle numerose situazioni in cui la densità di probabilità non può più essere considerata uniforme, ovvero quando vengono meno le condizioni di simmetria. Ad esempio nel caso del bambino che lancia i sassi contro il muro può verificarsi che le dimensioni dei fori varino dal centro verso i bordi del muro e il bambino cerchi di mirare al centro.