El matemático griego Eratóstenes propuso una forma —no una fórmula— para identificar los números primos hasta un entero dado $n$. Su método consiste en construir una tabla con todos los números desde 1 hasta $n$ y aplicar una ingeniosa criba: primero se tachan los múltiplos de 2, luego los de 3, después los de 5, 7, 11 y así sucesivamente. Al finalizar, los números que permanecen sin tachar son precisamente los primos. 

Si queremos conocer a todos los primos menores que 100, por ejemplo, esta es la criba de Eratóstenes resultante. En la imagen, los números en azul han sido tachados, mientras que los primos aparecen destacados en las casillas blancas.

Pero en este ejemplo basta llegar hasta los múltiplos de 7. En general, para determinar si un número $n$ es primo, solo es necesario comprobar que ningún primo menor o igual que su raíz cuadrada lo divida. En nuestro caso, la raíz cuadrada de 100 es 10, y el mayor primo menor o igual que 10 es precisamente 7. 

Este criterio se deduce de un teorema —muy sencillo de demostrar— que afirma lo siguiente: si un número $n$ no es primo, entonces posee al menos un divisor primo menor o igual que su raíz cuadrada. Por ello, para comprobar si un número es primo basta verificar que ningún primo menor o igual que su raíz cuadrada lo divida.

Por tratarse de un criterio tan importante y dada la sencillez de su prueba, incluyo a continuación la 

demostración:

Supongamos que no es primo. Entonces puede escribirse como un producto de dos enteros positivos:

$n = a \cdot b$

donde $a$ y b son mayores que 1 y menores que n.

Ahora bien, si ambos fueran mayores que $\sqrt{n}$ , entonces su producto sería mayor que $n$:

$a > \sqrt{n},\quad b > \sqrt{n} \quad \Longrightarrow \quad a \cdot b > \sqrt{n}\cdot \sqrt{n} = n,$

lo cual es imposible, porque $a \cdot b = n$.

Por lo tanto, al menos uno de los dos factores debe ser menor o igual que $\sqrt{n}$.

Llamemos $d$ a ese factor. Entonces:

  $d \le \sqrt{n}$ y $d$ divide a n,

y si $d$ no es primo, tiene un divisor primo que también divide a $n$ y que es aún menor.

De este modo, concluimos que:

si $d$ no es primo, entonces tiene un divisor primo $\le \sqrt{n}$.

Cuando el número es grande —por ejemplo, $n = 237\,532\,341$— y tenemos la suerte, como en este caso, de detectar de inmediato que es múltiplo de 3 (pues la suma de sus cifras es 30), podemos concluir al instante que no es primo. En cambio, si quisiéramos analizar un número “grande” que sí es primo, como $n = 237\,532\,343$, basta entonces comprobar que ningún número primo menor o igual que su raíz cuadrada (en este caso, menor que 15 412) lo divide, para poder afirmar que efectivamente es primo.

Hoy en día resulta sencillo programar este algoritmo para determinar si un número dado es primo o no. Sin embargo, la verdadera limitación aparece cuando se trabaja con números tan grandes que superan la capacidad de cómputo de las máquinas: no es el método lo que falla, sino los recursos necesarios para aplicarlo a magnitudes enormes, como los números primos con cientos o miles de dígitos que se usan la criptografía.

Pero verificar estos gigantes requiere algoritmos especializados y una enorme potencia de cálculo, pues aplicar directamente el criterio de la raíz cuadrada no es recomendable, ya que la raíz cuadrada de un número con 600 dígitos, por ejemplo, sigue teniendo unos 300 dígitos, y comprobar divisiones hasta ese límite no es práctico.

@MantillaIgnacio