Phase 00 - Lesson 18

Notacao Cientifica

This lesson includes a graded coding exercise that runs in your browser, unlocked with lifetime access.

Numeros muito pequenos e muito grandes sao dolorosos de escrever com zeros. A notacao cientifica os escreve como "um numero vezes uma potencia de dez".

Tipo: Aprender Linguagens: Python Pre-requisitos: Potencias e Expoentes (00-17) Tempo: ~30 minutos

Objetivos de Aprendizagem

Ler e escrever numeros na forma a x 10^b e na notacao e (4.5e-5)
Converter entre notacao cientifica e decimais simples
Comparar duas magnitudes rapidamente olhando o expoente
Explicar por que uma taxa de aprendizado de 4.5e-5 e menor que 1e-4

O Conceito

Potencias de dez sao apenas a escada de dobras da licao 00-17, mas com base 10 em vez de 2.

10^0 = 1
10^1 = 10
10^2 = 100
10^3 = 1000

Cada degrau adiciona um zero. Um expoente positivo conta os zeros a direita.

Expoentes negativos vao para o outro lado

Um expoente negativo significa "divida por 10 essa quantidade de vezes", o que move o ponto decimal para a esquerda:

10^-1 = 0.1     (um decimo)
10^-2 = 0.01    (um centesimo)
10^-3 = 0.001   (um milesimo)

Entao 10^-3 = 1 / 10^3 = 1/1000. Expoente negativo = numero pequeno; expoente positivo = numero grande.

A forma: um numero vezes uma potencia de dez

A notacao cientifica escreve qualquer numero como um numero pequeno (geralmente entre 1 e 10) vezes uma potencia de dez:

1750000000  =  1.75 x 10^9     (1.75 bilhao)
0.000045    =  4.5  x 10^-5

O expoente diz a que distancia e em qual direcao o ponto decimal se moveu. Positivo 9 significa "mova o ponto 9 casas para a direita". Negativo 5 significa "mova-o 5 casas para a esquerda".

Notacao e: como os computadores escrevem

Codigo nao consegue digitar um expoente elevado, entao usa a letra e (de "expoente"):

1.75e9   significa   1.75 x 10^9   =  1750000000
4.5e-5   significa   4.5  x 10^-5  =  0.000045
1e-4     significa   1    x 10^-4  =  0.0001

Leia e como "vezes dez elevado a". E so isso que significa.

Exemplo resolvido: comparando duas taxas de aprendizado

A execucao vencedora de treinamento ciente de quantizacao do NeuroGrid usou uma taxa de aprendizado de 4.5e-5. Uma execucao anterior usou 1e-4. Qual e maior? Comparar zeros e propenso a erros; comparar expoentes e instantaneo.

4.5e-5 = 0.000045
1e-4   = 0.0001

1e-4 tem expoente -4; 4.5e-5 tem expoente -5. O expoente mais negativo e o numero menor, entao 4.5e-5 e menor que 1e-4 (e 0.45e-4, menos da metade). A receita vencedora usou uma taxa de aprendizado menor e mais suave. Conseguir ver isso de relance, apenas pelo expoente, e todo o objetivo da notacao.

Pratica de memoria

Produza a resposta. Mais facil primeiro.

Escreva 10^-2 como decimal simples.
Escreva 2.5e3 como numero simples.
Qual e maior, 4.5e-5 ou 1e-4?

Respostas: 0.01; 2500; 1e-4 e maior (expoente -4 vence -5).

Alerta de equivoco

A armadilha com expoentes negativos: um expoente mais negativo e um numero MENOR, nao maior. e-5 e menor que e-4, do mesmo jeito que 0.00001 e menor que 0.0001. As pessoas veem o digito maior "5" e adivinham que 4.5e-5 e maior; nao e, porque o -5 o puxa para baixo por mais um fator de dez. Sempre leia o expoente primeiro, os digitos iniciais depois.

Construa

python phases/00-setup-and-tooling/18-scientific-notation/code/scinot.py

Por que isso importa para IA

Taxas de aprendizado (3e-4, 4.5e-5), tamanhos de modelo (7e9 parametros), valores de perda (2.3e-2) e tolerancias (1e-8) sao todos escritos nesta notacao, o dia inteiro, em todo artigo. Escolher uma taxa de aprendizado e em grande parte uma questao de escolher a potencia de dez certa. Se voce consegue comparar expoentes de relance, consegue ler uma configuracao de treinamento sem converter nada de cabeca.