Il calcolo delle probabilità è sorto con lo studio dei giochi d'azzardo all'incirca nel diciassettesimo secolo; proprio in questo periodo venne affermandosi la cosiddetta definizione classica di probabilità. Così come venne poi ripresa da C.F. Pierce nel 1910, la si può enunciare nel modo seguente:
Analogamente nel caso di una puntata sul colore rosso alla roulette: la probabilità di vincere è pari a 18/37, circa il 49% (infatti i numeri rossi sono 18 su un totale di 37, essendoci oltre ai 18 numeri neri, anche lo zero che è verde).
L'estensione al caso di eventi con risultati continui si attua attraverso una rappresentazione geometrica in cui la probabilità di un evento casuale è data dal rapporto tra l'area favorevole all'evento e l'area totale degli eventi possibili. Consideriamo un esempio.
Supponiamo che un bambino lanci dei sassi contro una parete forata senza
prendere la mira. Siano i fori sulla parete distribuiti a caso e per
semplicità assumiamo che le dimensioni dei sassi siano molto piccole
rispetto a quelle dei fori. Ci si chiede qual è la probabilità
p che un sasso passi dall'altra parte.
Se A è l'area della parete e a l'area di ciascuno
dei k fori, la probabilità che un sasso passi è data
dall'area "favorevole" divisa l'area totale
La quantità 1/A può essere considerata come una densità di probabilità. Essa è infatti la probabilità che ha un sasso di colpire una particolare superfice unitaria del muro: moltiplicando questa densità per l'area favorevole si ottiene direttamente la probabilità.
Si noti bene che questa definizione oggettiva di probabilità diventa di difficile applicazione nelle numerose situazioni in cui la densità di probabilità non può più essere considerata uniforme, ovvero quando vengono meno le condizioni di simmetria. Ad esempio nel caso del bambino che lancia i sassi contro il muro può verificarsi che le dimensioni dei fori varino dal centro verso i bordi del muro e il bambino cerchi di mirare al centro.