Phase 00 - Lesson 18

Notacion Cientifica

This lesson includes a graded coding exercise that runs in your browser, unlocked with lifetime access.

Los numeros muy pequenos y muy grandes son dolorosos de escribir con ceros. La notacion cientifica los escribe como "un numero por una potencia de diez".

Tipo: Aprender Lenguajes: Python Requisitos previos: Potencias y Exponentes (00-17) Tiempo: ~30 minutos

Objetivos de Aprendizaje

• Leer y escribir numeros en la forma a x 10^b y en notacion e (4.5e-5)
• Convertir entre notacion cientifica y decimales simples
• Comparar dos magnitudes rapidamente mirando el exponente
• Explicar por que una tasa de aprendizaje de 4.5e-5 es menor que 1e-4

El Concepto

Las potencias de diez son solo la escalera de duplicaciones de la leccion 00-17, pero con base 10 en lugar de 2.

10^0 = 1
10^1 = 10
10^2 = 100
10^3 = 1000

Cada escalon agrega un cero. Un exponente positivo cuenta los ceros a la derecha.

Los exponentes negativos van al otro lado

Un exponente negativo significa "divide por 10 esa cantidad de veces", lo que mueve el punto decimal a la izquierda:

10^-1 = 0.1     (un decimo)
10^-2 = 0.01    (un centesimo)
10^-3 = 0.001   (un milesimo)

Asi que 10^-3 = 1 / 10^3 = 1/1000. Exponente negativo = numero pequeno; exponente positivo = numero grande.

La forma: un numero por una potencia de diez

La notacion cientifica escribe cualquier numero como un numero pequeno (generalmente entre 1 y 10) por una potencia de diez:

1750000000  =  1.75 x 10^9     (1.75 mil millones)
0.000045    =  4.5  x 10^-5

El exponente te dice que tan lejos y en que direccion se movio el punto decimal. Positivo 9 significa "mueve el punto 9 lugares a la derecha". Negativo 5 significa "muevelo 5 lugares a la izquierda".

Notacion e: como las computadoras la escriben

El codigo no puede teclear un exponente elevado, asi que usa la letra e (de "exponente"):

1.75e9   significa   1.75 x 10^9   =  1750000000
4.5e-5   significa   4.5  x 10^-5  =  0.000045
1e-4     significa   1    x 10^-4  =  0.0001

Lee e como "por diez elevado a". Eso es todo lo que significa.

Ejemplo resuelto: comparando dos tasas de aprendizaje

La ejecucion ganadora de entrenamiento consciente de cuantizacion de NeuroGrid uso una tasa de aprendizaje de 4.5e-5. Una ejecucion anterior uso 1e-4. Cual es mayor? Comparar ceros es propenso a errores; comparar exponentes es instantaneo.

4.5e-5 = 0.000045
1e-4   = 0.0001

1e-4 tiene exponente -4; 4.5e-5 tiene exponente -5. El exponente mas negativo es el numero menor, asi que 4.5e-5 es menor que 1e-4 (es 0.45e-4, menos de la mitad). La receta ganadora uso una tasa de aprendizaje menor y mas suave. Poder ver eso de un vistazo, solo por el exponente, es todo el objetivo de la notacion.

Recuerdo activo

Produce la respuesta. Lo mas facil primero.

1. Escribe 10^-2 como decimal simple.
2. Escribe 2.5e3 como numero simple.
3. Cual es mayor, 4.5e-5 o 1e-4?

Respuestas: 0.01; 2500; 1e-4 es mayor (exponente -4 vence a -5).

Alerta de error comun

La trampa con los exponentes negativos: un exponente mas negativo es un numero MENOR, no mayor. e-5 es menor que e-4, igual que 0.00001 es menor que 0.0001. La gente ve el digito mas grande "5" y adivina que 4.5e-5 es mayor; no lo es, porque el -5 lo arrastra hacia abajo por otro factor de diez. Siempre lee el exponente primero, los digitos iniciales despues.

Construyelo

python phases/00-setup-and-tooling/18-scientific-notation/code/scinot.py

Por que esto importa para la IA

Las tasas de aprendizaje (3e-4, 4.5e-5), los tamanos de modelo (7e9 parametros), los valores de perdida (2.3e-2) y las tolerancias (1e-8) se escriben todos en esta notacion, todo el dia, en cada articulo. Elegir una tasa de aprendizaje es en gran parte una cuestion de elegir la potencia de diez correcta. Si puedes comparar exponentes de un vistazo, puedes leer una configuracion de entrenamiento sin convertir nada en tu cabeza.