O que é Cálculo Numérico

Quanto é a raiz quadrada de 2? Onde um planeta vai estar no mês que vem? Vai chover amanhã? Para quase todas as perguntas importantes da ciência não existe uma fórmula que dê a resposta exata. O Cálculo Numérico é a arte de chegar tão perto quanto for preciso, usando só contas simples, e de saber exatamente quão perto chegamos.

O matemático Lloyd Nick Trefethen, da Universidade de Oxford, resumiu a área numa frase: Cálculo Numérico (ou análise numérica) é o estudo dos algoritmos para os problemas da matemática contínua. ^[49] “Contínua” quer dizer tudo o que envolve números reais, curvas, áreas, velocidades e mudanças; “algoritmo” é uma receita com um número finito de passos. O desafio é trocar algo infinito, como as infinitas casas decimais de √2, por uma receita que termina.

Três ideias que atravessam toda a história

• Aproximar: em vez de buscar o valor exato, buscamos um valor bom o bastante. Um engenheiro não precisa de √2 com um milhão de casas; precisa de umas poucas, certas.
• Iterar: repetir uma conta simples muitas vezes, cada vez chegando mais perto. Quase todos os métodos deste artigo são repetições inteligentes.
• Controlar o erro: saber quanto a resposta pode estar errada. Um resultado sem estimativa de erro é só um palpite com muitas casas decimais.

Neste artigo, vamos seguir essas três ideias por quatro mil anos: das tabuletas de argila da Babilônia aos supercomputadores e à inteligência artificial. Em cada época, veremos quem foram os pensadores, como era o mundo, qual problema eles queriam resolver, a teoria explicada passo a passo e exemplos de uso.

As origens em ordem cronológica

A linha do tempo abaixo mostra as dez paradas da nossa viagem. As datas não estão em escala: entre a Babilônia e Arquimedes passaram-se mais de 1.500 anos; entre o ENIAC e hoje, menos de 80.

Repare num padrão: cada época herdou as ferramentas da anterior. Newton redescobriu o método babilônico; a eliminação de Gauss já estava num livro chinês de dois mil anos antes; e os computadores eletrônicos só fizeram, muito mais depressa, o que calculistas humanos já faziam à mão.

1. Babilônia e Heron: a raiz quadrada

Quem foram

Não sabemos o nome do escriba babilônico que, por volta de 1800 a.C., gravou numa pequena tabuleta de argila a melhor aproximação de √2 do mundo antigo. A tabuleta, chamada YBC 7289, está hoje na coleção babilônica da Universidade Yale, nos Estados Unidos. Ela provavelmente era um exercício escolar: um aluno copiando o que o professor ensinava. ^[14]

Quase dois mil anos depois, Heron de Alexandria (viveu por volta do ano 60 d.C.) descreveu com clareza o mesmo método no livro Métrica. Heron era engenheiro e inventor: projetou autômatos, um órgão movido a água e a eolípila, uma espécie de máquina a vapor de brinquedo. ^[33]

O mundo naquela época

O problema

Os babilônios eram ótimos agrimensores: mediam terrenos, canais de irrigação e construções. Uma pergunta aparece o tempo todo: quanto mede a diagonal de um quadrado? Pelo que hoje chamamos de teorema de Pitágoras, a diagonal de um quadrado de lado 1 é √2. O problema é que √2 não é uma fração: nenhuma divisão de números inteiros dá exatamente esse valor. Suas casas decimais nunca terminam nem se repetem.

Os babilônios escreviam números na base 60 (é dela que vêm os 60 minutos da hora e os 360 graus do círculo). Na tabuleta aparece 1;24,51,10, que significa 1 + 24/60 + 51/3.600 + 10/216.000 = 1,41421296. O valor real é 1,41421356: o erro é menor que um milionésimo. ^[14]

A teoria, passo a passo

Ninguém sabe ao certo como os babilônios chegaram a esse número, mas o método mais aceito é o que Heron descreveu. A ideia é geométrica e muito bonita. Pense num retângulo com área 2. Se ele fosse um quadrado, o lado seria exatamente √2. Então vamos “quadradear” o retângulo aos poucos:

• Comece com um retângulo de lados 1 e 2 (área 2, mas nada quadrado).
• Um lado é pequeno demais e o outro, grande demais. Faça a média: (1 + 2) ÷ 2 = 1,5. Esse é o novo lado.
• Para manter a área 2, o outro lado tem de ser 2 ÷ 1,5 = 1,333.
• Repita: média de 1,5 e 1,333 dá 1,4167. E assim por diante.

Em forma de receita, para calcular √N:

novo chute = (chute + N ÷ chute) ÷ 2

Por que funciona?
  se chute < √N, então N ÷ chute > √N
  se chute > √N, então N ÷ chute < √N
  → a resposta está sempre ENTRE os dois, e a média fica mais perto

O mais impressionante é a velocidade: a cada passo, a quantidade de casas decimais certas quase dobra. Os matemáticos chamam isso de convergência quadrática, e vamos reencontrá-la com Newton, 3.400 anos depois.

Exemplos de uso

No exemplo de Heron, ele queria a área de um triângulo e precisou de √720. Como 27 × 27 = 729, bem perto de 720, ele começou com 27. Um único passo deu 26 5/6 = 26,8333, quando o valor real é 26,8328. ^[33] Heron ainda explicou que, se quisermos mais precisão, basta repetir com o novo valor. Essa frase é, talvez, a primeira descrição escrita de um método iterativo.

E isso não é só história: variações desse método ainda são usadas por calculadoras, bibliotecas de software e processadores para calcular raízes quadradas, porque ele é simples, rápido e só usa soma e divisão.

2. Arquimedes: cercando o número π

Quem foi

Arquimedes de Siracusa (c. 287–212 a.C.) é considerado um dos maiores matemáticos de todos os tempos. Viveu na Sicília, que então era uma colônia grega. Estudou a alavanca (“Dê-me um ponto de apoio e moverei o mundo”), o empuxo dos líquidos (a famosa história do “Eureka!”) e inventou máquinas de guerra para defender a cidade. Morreu em 212 a.C., quando os romanos invadiram Siracusa; segundo a tradição, um soldado o matou enquanto ele desenhava figuras na areia. ^[29]

O mundo naquela época

O problema

Todo círculo, pequeno ou grande, tem a mesma proporção entre a volta (a circunferência) e a largura (o diâmetro). Esse número é o π. Ele é necessário para calcular rodas, colunas, cisternas, áreas de terrenos redondos e órbitas de astros. Mas medir com uma corda dá, no máximo, duas casas certas. E π, como √2, tem infinitas casas decimais que não se repetem.

A teoria, passo a passo

A ideia genial de Arquimedes, no livro A medida do círculo, foi espremer o círculo entre duas figuras que sabemos medir: polígonos. ^[29]

• Desenhe um hexágono (6 lados) dentro do círculo. O perímetro dele é menor que a circunferência.
• Desenhe outro hexágono por fora, encostando no círculo. O perímetro dele é maior.
• Então π está entre os dois: 3,000 < π < 3,464.
• Agora dobre o número de lados: 12, 24, 48, 96. Os polígonos grudam cada vez mais no círculo, e o intervalo aperta.

O truque não era desenhar: era calcular. Arquimedes descobriu uma regra para passar do polígono de n lados para o de 2n lados usando só raízes quadradas e frações, e as raízes ele calculava com aproximações como a babilônica. Essa é a primeira vez na história em que alguém dá, ao mesmo tempo, uma aproximação e uma garantia de erro: π está com certeza entre esses dois números.

perímetro de dentro  <  circunferência  <  perímetro de fora
      (n lados)                                   (n lados)

diâmetro = 1   →   3,1410 < π < 3,1427   (n = 96)

Exemplos de uso

Com 96 lados, Arquimedes chegou a 3 10/71 < π < 3 1/7, ou seja, 3,1408 < π < 3,1429. Ele arredondou sempre “para o lado seguro”, alargando um pouquinho o intervalo, para que a garantia continuasse valendo. A aproximação 22/7 (= 3 1/7) foi usada por engenheiros e artesãos durante quase dois mil anos.

O mesmo espírito vale hoje: quando um computador calcula a área sob uma curva (a integral numérica), ele troca a curva por muitos pedacinhos retos ou retângulos, exatamente como Arquimedes trocou o círculo por polígonos.

3. China: os Nove Capítulos e os sistemas lineares

Quem foram

Os Nove Capítulos da Arte Matemática (Jiuzhang Suanshu) são um livro chinês de 246 problemas práticos, reunidos por vários autores entre os séculos X e I a.C. e fechados por volta do século I d.C. Em 263 d.C., o matemático Liu Hui, do reino de Wei, escreveu comentários que explicam e provam os métodos do livro. ^{[37] [35]} Liu Hui também calculou π com polígonos, como Arquimedes, chegando a 3,1416; dois séculos depois, Zu Chongzhi (429–500) mostrou que 3,1415926 < π < 3,1415927.

Não existe retrato autêntico de Liu Hui. A imagem abaixo é uma página de uma edição antiga dos Nove Capítulos; na coluna da direita, lê-se “魏 劉徽 注”: “comentários de Liu Hui, de Wei”.

O mundo naquela época

O problema

Um império que cobra impostos em grãos precisa resolver problemas com várias quantidades desconhecidas ao mesmo tempo. O primeiro problema do capítulo 8 é famoso: três tipos de colheita (boa, média e ruim), três combinações de feixes e o total de grãos de cada combinação. Quanto rende um feixe de cada tipo? ^[37]

Hoje escreveríamos isso como um sistema linear de três equações:

3a + 2m + 1b = 39
2a + 3m + 1b = 34
1a + 2m + 3b = 26        (a = alta, m = média, b = baixa)

A teoria, passo a passo

O método chinês, chamado fangcheng (“arranjo retangular”), é exatamente o que hoje chamamos de eliminação de Gauss, quase dois mil anos antes de Gauss. A ideia é simples: se você multiplicar uma equação inteira por um número, ou subtrair uma equação de outra, a resposta não muda. Então usamos essas operações para ir zerando números até sobrar uma equação com uma incógnita só.

• Montar a tabela: escreva só os números, uma linha por equação.
• Zerar a primeira coluna: combine as linhas para que a primeira incógnita desapareça das linhas 2 e 3.
• Zerar mais um: combine as linhas 2 e 3 para que a segunda incógnita desapareça da linha 3. A tabela vira uma “escada”.
• Voltar resolvendo: a última linha tem uma incógnita só. Resolva, suba para a linha de cima, e assim por diante.

Um detalhe notável: para fazer essas subtrações, às vezes aparecem números negativos. Os Nove Capítulos estão entre os primeiros textos do mundo a dar regras para somar e subtrair números negativos, representados por varetas pretas, enquanto os positivos eram vermelhos. ^[37]

Exemplos de uso

Sistemas lineares estão entre os problemas que os computadores mais resolvem no mundo. Quando um engenheiro calcula se uma ponte aguenta o peso, ele divide a estrutura em milhões de pedacinhos e escreve uma equação para cada um. Quando um jogo 3D calcula luz e sombra, ou quando uma inteligência artificial é treinada, bilhões de contas desse tipo acontecem por segundo. O ranking dos supercomputadores mais rápidos do mundo, o TOP500, mede justamente quão depressa cada máquina resolve um sistema linear gigante. ^[47]

4. Índia: o zero, os senos e as séries infinitas

Quem foram

A Índia deu ao Cálculo Numérico a sua ferramenta mais básica: o sistema decimal posicional com zero, em que o valor de um algarismo depende da posição (o 3 de 300 vale cem vezes o 3 de 3). Sem ele, as contas longas deste artigo seriam quase impossíveis. Um dos registros mais antigos do zero como símbolo está no manuscrito Bakhshali, um texto de matemática em casca de bétula encontrado em 1881 no atual Paquistão; algumas folhas foram datadas por carbono-14 entre os séculos III e IV, mas a data do conteúdo ainda é debatida. ^[4] O manuscrito traz até uma fórmula para raízes quadradas equivalente a dois passos do método babilônico. ^[39]

Aryabhata (476–550) escreveu em 499, aos 23 anos, o Aryabhatiya, um livro de astronomia em versos que traz uma tabela de senos e o valor π ≈ 3,1416. ^[30] Brahmagupta (598–c. 668) deu as primeiras regras completas para contas com zero e números negativos (628) e, em 665, uma fórmula de interpolação de segunda ordem. ^[31] E Madhava de Sangamagrama (c. 1340–1425), fundador da escola de Kerala, no sul da Índia, descobriu séries infinitas para o seno, o cosseno e o π cerca de 250 anos antes de Newton, Gregory e Leibniz. Os livros de Madhava se perderam; conhecemos suas ideias pelos alunos, como Nilakantha (Tantrasangraha, 1501) e Jyeshthadeva (Yuktibhasa, c. 1530, escrito em malaiala). ^{[36] [41]}

O mundo naquela época

O problema

A astronomia indiana, usada para calendários, festivais e previsão de eclipses, dependia de tabelas de senos. Aryabhata dividiu um quarto de círculo em 24 arcos de 3°45’ e precisava do “seno” de cada um, a meia-corda que os indianos chamavam de jyā, “corda de arco”. Curiosidade: jyā virou jība em árabe, foi mal lida como jaib (“dobra”) e traduzida para o latim como sinus, que deu “seno”. Além dos 24 valores, os astrônomos precisavam dos senos entre eles, e de um π preciso.

Um detalhe esperto: Aryabhata usou um círculo de raio 3438. Como a volta inteira tem 21.600 minutos de arco e 21.600 ÷ 2π ≈ 3438, nesse círculo um arco pequeno e o seu seno medem quase o mesmo número. E, ao dar π ≈ 62.832 ÷ 20.000 = 3,1416, Aryabhata escreveu que o valor era āsanna, “aproximado”: ele sabia que não era exato. ^[30]

A teoria, passo a passo

1. Construir a tabela somando diferenças. Em vez de calcular cada seno do zero, Aryabhata calculou as diferenças entre senos vizinhos. A primeira é 225. As outras vão encolhendo, e a regra diz quanto: cada diferença nova é a anterior menos um pedacinho proporcional à soma dos senos já obtidos. Quanto maior o seno, mais a curva “entorta”, e mais a diferença diminui.

diferença nova = diferença anterior − (soma dos senos até aqui) ÷ 233,5

225
225 − 225 ÷ 233,5 ≈ 224     → seno 2 = 225 + 224 = 449
224 − 449 ÷ 233,5 ≈ 222     → seno 3 = 449 + 222 = 671

No texto de Aryabhata o divisor é 225; com o divisor exato, cerca de 233,5, a regra reproduz a tabela quase perfeitamente. Em linguagem moderna, ele usou o fato de que a diferença das diferenças do seno é proporcional ao próprio seno. É a mesma ideia de diferenças finitas que Richardson aplicaria à previsão do tempo 1.400 anos depois. ^[39]

2. Interpolar com curvatura. Para achar um seno entre dois valores da tabela, o mais simples é ligar os pontos com uma reta (interpolação linear). Brahmagupta, em 665, fez melhor: usou também a diferença anterior para medir quanto a curva entorta e corrigir a reta. É uma interpolação de segunda ordem, cerca de mil anos antes das fórmulas de Newton e Stirling. ^[31]

seno(x₀ + t·h) ≈ seno(x₀) + t × (D₋ + D₊) ÷ 2 + t² × (D₊ − D₋) ÷ 2

D₋ = diferença anterior, D₊ = diferença seguinte, t = fração do passo (0 a 1)

3. Séries infinitas com correção. Madhava descobriu que π pode ser escrito como uma soma sem fim: π/4 = 1 − 1/3 + 1/5 − 1/7 + … O problema é que essa soma chega em π muito devagar: com 10 termos, ainda dá 3,04. A grande sacada de Madhava foi estimar o pedaço que falta quando se para no meio, e somá-lo como um termo de correção. Isso é, literalmente, uma estimativa do erro de truncamento, uma das ideias centrais do Cálculo Numérico. ^[41]

Exemplos de uso

Somando as diferenças, os 24 senos de Aryabhata batem com os valores modernos (3438 × seno) quase sem erro: só uma entrada difere em uma unidade. E, para achar o seno de 80°, que fica entre 78°45’ e 82°30’, a reta entre os vizinhos erra por 1,4; a fórmula de Brahmagupta erra por apenas 0,1.

Com a correção de Madhava, a série de π com só 10 termos passa de 3,04 para 3,1415902. E com uma série mais rápida, π = √12 × (1 − 1/(3·3) + 1/(5·3²) − …), Madhava obteve π com 11 casas decimais: 3,14159265359. ^[36]

Essas ideias continuam vivas. As tabelas de funções construídas por diferenças foram usadas até a era dos computadores; a máquina diferencial de Charles Babbage (1822) foi projetada exatamente para isso. A interpolação está em qualquer programa que “preenche” valores entre medições, como os gráficos de temperatura de um aplicativo de clima. E as séries com correção de erro são a base de como calculadoras e computadores calculam seno, cosseno e logaritmo. O caminho também passou pelo mundo islâmico: os algarismos indianos e a astronomia indiana chegaram a Bagdá no século VIII, onde al-Khwarizmi os estudou, como veremos a seguir.

5. Mundo islâmico: o algoritmo e a iteração

Quem foram

Muhammad ibn Musa al-Khwarizmi (c. 780–850) trabalhou na Casa da Sabedoria, em Bagdá, um centro de pesquisa e tradução criado pelos califas abássidas. Por volta de 820, escreveu o livro que deu nome à álgebra (de al-jabr, “restaurar”) e outro que ensinava a calcular com os algarismos indianos, incluindo o zero. Quando esse segundo livro foi traduzido para o latim, no século XII, começava com “Algoritmi dixit” (“assim disse al-Khwarizmi”). Do nome dele veio a palavra algoritmo. ^[28]

Jamshid al-Kashi (c. 1380–1429) foi o grande calculista do observatório de Samarcanda, no atual Uzbequistão, fundado pelo sultão e astrônomo Ulugh Beg. Em 1424, calculou π com 16 casas decimais, um recorde que durou cerca de 180 anos. Em 1427, terminou A chave da aritmética, um manual de cálculo com frações decimais. ^[27]

O mundo naquela época

O problema

A astronomia islâmica precisava de tabelas de senos muito precisas: para prever eclipses, montar calendários lunares, marcar os horários de oração e achar a direção de Meca. A tabela começa pelo seno de 1°, e aí estava o nó. Com geometria, é possível calcular exatamente o seno de 3°. Mas, para passar de 3° para 1°, seria preciso dividir um ângulo em três partes iguais, e isso é impossível com régua e compasso (os gregos já desconfiavam; a prova veio em 1837).

A teoria, passo a passo

Al-Kashi usou uma identidade da trigonometria: sen 3θ = 3 sen θ − 4 sen³ θ. Com θ = 1° e chamando x = sen 1°, ela vira uma equação de terceiro grau: sen 3° = 3x − 4x³. Em vez de procurar uma fórmula, ele fez algo muito moderno: reescreveu a equação na forma x = g(x) e repetiu a conta.

sen 3° = 3x − 4x³
     3x = sen 3° + 4x³
      x = (sen 3° + 4x³) ÷ 3      ← forma x = g(x)

chute → aplique g → novo chute → aplique g → …

Isso se chama iteração de ponto fixo. Um “ponto fixo” é um número que, colocado dentro de g, sai igual: x = g(x). No gráfico, é onde a curva de g cruza a reta y = x. Começando de um chute e aplicando g várias vezes, os valores formam uma escadinha que desce até esse ponto. Funciona quando g “encolhe as distâncias”; no caso de al-Kashi, o termo 4x³ é minúsculo (x é perto de 0,017), então cada volta muda muito pouco e o processo converge depressa.

Exemplos de uso

Começando com sen 3° ÷ 3, cada volta acrescenta de 3 a 4 casas certas. Em poucas voltas, al-Kashi tinha o seno de 1° com mais precisão do que qualquer tabela anterior. E, para o π, usou polígonos como Arquimedes, mas com 805.306.368 lados, obtendo 3,1415926535897932. ^[27]

A iteração de ponto fixo está hoje em toda parte: o algoritmo PageRank, que o Google usou para ordenar páginas, é uma iteração desse tipo; programas de engenharia a usam para resolver equações não lineares; e muitos métodos de inteligência artificial são, no fundo, “repita até parar de mudar”.

6. Newton e Raphson: raízes de equações

Quem foram

Isaac Newton (1643–1727) criou, entre outras coisas, as leis do movimento, a lei da gravitação e (ao mesmo tempo que Leibniz) o cálculo diferencial e integral. Num manuscrito de 1669, De analysi, mostrou como achar raízes de equações com uma sequência de correções, usando o exemplo x³ − 2x − 5 = 0. Joseph Raphson (c. 1648–1715), membro da Royal Society, publicou em 1690 uma versão mais simples e geral do método. Por isso ele se chama hoje método de Newton-Raphson. A forma com derivadas que usamos hoje foi escrita por Thomas Simpson em 1740. ^[54]

Não se conhece nenhum retrato de Raphson; o documento acima, com a assinatura dele, é um dos poucos registros de sua vida. Quem assina como testemunha é Edmond Halley, o do cometa.

O mundo naquela época

O problema

Kepler tinha descoberto que os planetas giram em elipses e que varrem áreas iguais em tempos iguais. Mas, para saber onde um planeta está numa data, é preciso resolver a equação de Kepler: M = E − e · sen E. O M vem do tempo, o e diz quão achatada é a órbita e o E dá a posição. Não existe fórmula que isole o E. É um problema de achar a raiz de uma equação: o valor que faz f(E) = E − e · sen E − M dar zero. Navegadores, astrônomos e construtores de calendários precisavam fazer isso o tempo todo.

A teoria, passo a passo

A ideia de Newton é trocar a curva difícil por uma reta fácil. Visto de muito perto, qualquer curva lisa parece uma reta, a reta tangente. E achar onde uma reta corta o zero é fácil: é só uma divisão.

• Escolha um chute x₀ perto da raiz.
• Calcule a altura da curva nesse ponto, f(x₀), e a inclinação dela, f’(x₀) (a derivada).
• Siga a reta tangente até ela tocar o eixo horizontal. Esse é o novo chute, x₁.
• Repita a partir de x₁.

x novo = x − f(x) ÷ f’(x)

altura ÷ inclinação = quanto andar na horizontal até o zero

Exemplos de uso

Começando em x = 2, o método acha a raiz 2,0945514815… em quatro passos. Veja a coluna de erros: 0,09, depois 0,005, depois 0,00002, depois 0,0000000002. Cada erro é mais ou menos o quadrado do anterior. É a mesma convergência quadrática do método babilônico, e não por acaso: aplicando Newton à equação x² − 2 = 0, a fórmula vira (x + 2 ÷ x) ÷ 2, exatamente a receita da tabuleta de 3.600 anos antes.

Hoje, o método de Newton roda dentro do GPS (para achar sua posição a partir dos sinais dos satélites), de programas de engenharia, de calculadoras financeiras (para achar a taxa de juros de um financiamento) e do treinamento de alguns modelos de inteligência artificial. Na mesma época, Newton também criou fórmulas de interpolação, para “ligar os pontos” de uma tabela e estimar valores intermediários, ideia aperfeiçoada por Lagrange em 1795.

7. Euler, Runge e Kutta: prevendo o futuro passo a passo

Quem foram

Leonhard Euler (1707–1783), nascido na Basileia, na Suíça, foi o matemático mais produtivo da história: seus trabalhos completos ocupam mais de 80 volumes. Trabalhou nas academias de São Petersburgo e de Berlim e continuou produzindo mesmo depois de ficar quase cego. No livro Institutionum calculi integralis (1768), descreveu o método mais simples para resolver equações diferenciais, que hoje leva seu nome. ^[12]

Mais de um século depois, os alemães Carl Runge (1856–1927), em 1895, e Martin Wilhelm Kutta (1867–1944), em 1901, criaram métodos muito mais precisos, conhecidos como Runge-Kutta. Kutta também é famoso na aerodinâmica, pelo cálculo da força que sustenta as asas de um avião. ^{[5] [34]}

O mundo naquela época

O problema

Muitas leis da natureza não dizem onde as coisas estão, mas como elas mudam. Um café quente esfria mais depressa quanto mais quente está. Uma bala de canhão muda de velocidade por causa da gravidade e da resistência do ar. Uma população cresce proporcionalmente ao número de habitantes. Essas regras são equações diferenciais. Resolvê-las é descobrir o caminho inteiro a partir da regra de mudança. O problema: quase nenhuma equação diferencial real tem fórmula pronta.

A teoria, passo a passo

A ideia de Euler é a mais natural possível: se você sabe para onde está indo agora, dê um passinho nessa direção e olhe de novo.

• Comece no ponto conhecido (por exemplo, a temperatura do café agora).
• Use a regra para calcular a inclinação, isto é, quão depressa a coisa está mudando neste instante.
• Ande um passo de tamanho h seguindo essa inclinação.
• No novo ponto, calcule a nova inclinação e repita.

y novo = y + h × inclinação

Exemplo: y’ = y   (a inclinação é igual ao próprio valor)
y(0) = 1, h = 0,25:
  1 → 1 + 0,25 × 1 = 1,25 → 1,25 + 0,25 × 1,25 = 1,5625 → …

O problema do método de Euler é que ele usa a inclinação do começo do passo durante o passo inteiro, e a curva vai se afastando. Passos menores ajudam, mas custam mais contas. A ideia de Runge e Kutta foi “espiar” a inclinação em vários pontos dentro do passo (no começo, duas vezes no meio e no fim) e fazer uma média ponderada. O método clássico de quarta ordem, o RK4, usa pesos 1, 2, 2 e 1. ^[5]

Exemplos de uso

A equação y’ = y, começando em y = 1, tem como resposta em x = 1 o famoso número e = 2,71828… Com 4 passos, Euler erra 10%; com 100 passos, ainda erra 0,5%. O RK4, com os mesmos 4 passos, erra só 0,003%. Por isso métodos do tipo Runge-Kutta são o “arroz com feijão” da simulação: estão nos motores de física dos videogames, nos programas que calculam órbitas de satélites e trajetórias de foguetes, em simulações de epidemias e em modelos de circuitos elétricos.

8. Gauss: mínimos quadrados e o planeta perdido

Quem foi

Carl Friedrich Gauss (1777–1855), filho de uma família pobre de Brunswick, na Alemanha, é chamado de “príncipe dos matemáticos”. Aos 24 anos, publicou um livro que reformulou a teoria dos números e, no mesmo ano, ficou famoso em toda a Europa por reencontrar um planeta anão perdido. Foi diretor do observatório de Göttingen por quase 50 anos e trabalhou também em magnetismo, geodésia (a medição da Terra) e no telégrafo. ^[32]

O mundo naquela época

O problema

Em 1º de janeiro de 1801, o astrônomo Giuseppe Piazzi, em Palermo, descobriu um pequeno astro, hoje chamado Ceres. Ele o acompanhou por cerca de seis semanas, até que Ceres sumiu no brilho do Sol. Com tão poucas observações, de um pedacinho só da órbita, e com erros de medida, ninguém sabia onde procurá-lo quando voltasse a aparecer. Gauss calculou a órbita que melhor se ajustava aos dados e, em 31 de dezembro de 1801, Ceres foi reencontrado quase exatamente no lugar previsto. ^[32]

A teoria, passo a passo

Toda medição tem erro. Quando temos mais medições do que incógnitas, nenhuma curva passa exatamente por todos os pontos. Qual é, então, a “melhor”? A resposta de Gauss (e, de forma independente, de Adrien-Marie Legendre, que a publicou primeiro, em 1805) é o método dos mínimos quadrados: escolha a curva que torna a soma dos quadrados dos erros a menor possível. ^[44]

• Para cada ponto, meça a distância vertical até a reta: esse é o erro, ou resíduo.
• Eleve cada erro ao quadrado (assim, erros para cima e para baixo não se cancelam, e erros grandes pesam mais).
• Some tudo. A melhor reta é a que deixa essa soma mínima.

Por que quadrados? Gauss mostrou que, se os erros de medida seguem a famosa curva em forma de sino (a distribuição normal, também chamada de gaussiana), a reta de mínimos quadrados é a mais provável. E, de quebra, a conta tem solução por fórmula, que cai num sistema linear resolvido por eliminação, a mesma dos Nove Capítulos.

Exemplos de uso

inclinação = Σ (x − x̄)(y − ȳ) ÷ Σ (x − x̄)²  = 9 ÷ 10 = 0,9
intercepto = ȳ − inclinação × x̄           = 4 − 0,9 × 3 = 1,3
altura ≈ 0,9 × semana + 1,3    →   semana 6: 6,7 cm

Gauss usou os mínimos quadrados para medir o Reino de Hanôver com triângulos gigantes, entre 1818 e 1832. Hoje, o método está no GPS (que combina sinais de vários satélites com erro), na estatística (a “regressão linear”), na economia, na calibração de instrumentos e no aprendizado de máquina: treinar muitas redes neurais é, no fundo, minimizar uma soma de quadrados de erros. Gauss também criou, em 1814, uma forma muito eficiente de calcular integrais, a quadratura gaussiana, e um método iterativo para sistemas lineares, depois chamado de Gauss-Seidel.

9. Richardson: a previsão do tempo feita à mão

Quem foi

Lewis Fry Richardson (1881–1953) foi um físico e meteorologista inglês, quaker e pacifista. Durante a Primeira Guerra Mundial, trabalhou como motorista de ambulância na França e, nos intervalos, fez à mão o primeiro cálculo de previsão do tempo baseado nas leis da física. Publicou tudo no livro Weather Prediction by Numerical Process (1922). Mais tarde, estudou matematicamente as causas das guerras e descobriu que o comprimento de um litoral depende da régua usada para medi-lo, ideia que inspiraria os fractais. ^{[38] [24]}

O mundo naquela época

O problema

No começo do século XX, a previsão do tempo era feita comparando mapas do dia com mapas antigos parecidos. Richardson quis fazer diferente: medir o estado do ar agora (pressão, vento, temperatura, umidade) e usar as equações da física para calcular o ar daqui a algumas horas. Ele dividiu a Europa Central numa grade de quadrados, como um tabuleiro de xadrez, e fez as contas para prever 6 horas à frente. Levou cerca de seis semanas. E o resultado foi um fracasso: previu uma variação de pressão de 145 hectopascais, quando a real foi quase nula. ^[24]

Mesmo assim, Richardson imaginou o futuro: uma “fábrica de previsões”, um grande teatro com 64 mil calculistas humanos, cada um responsável por um pedaço do mapa, coordenados por um maestro. Era a descrição de um supercomputador paralelo, décadas antes de ele existir. Anos depois, descobriu-se que o erro vinha dos dados iniciais, que tinham “ruído” demais; quando o cálculo foi refeito com dados suavizados, a previsão ficou razoável. ^[24]

A teoria, passo a passo

As leis da física falam em derivadas: quão depressa a pressão muda de um lugar para outro, quão depressa a temperatura muda com o tempo. Um computador (humano ou eletrônico) não sabe fazer derivadas; sabe fazer contas. A solução são as diferenças finitas: trocar a derivada por uma diferença entre pontos vizinhos da grade.

derivada:      f’(x) ≈ (f(x + h) − f(x)) ÷ h
curvatura:     f”(x) ≈ (f(x − h) − 2 f(x) + f(x + h)) ÷ h²

Regra do calor numa grade:
T novo = T + r × (T esquerda − 2 T + T direita)

Há uma armadilha, descoberta em 1928 por Richard Courant, Kurt Friedrichs e Hans Lewy: se o passo no tempo for grande demais em relação ao tamanho dos quadradinhos, os erros crescem a cada passo e a simulação “explode”. Essa é a condição CFL, e ela vale até hoje em qualquer simulação de clima, som, ondas ou explosões. ^[8]

Exemplos de uso

No exemplo, a ponta esquerda de uma barra fica no fogo (100°) e a direita no gelo (0°). A cada passo, cada ponto interno vira a média dos vizinhos (é a regra do calor com r = 0,5). Em 30 passos, a barra chega perto do equilíbrio: uma rampa de 100 a 0. A previsão do tempo moderna faz exatamente isso, só que em 3D, com bilhões de pontos, vento, umidade e radiação.

O sonho de Richardson virou realidade em 1950, quando Jule Charney, Ragnar Fjørtoft e John von Neumann fizeram a primeira previsão numérica bem-sucedida no computador ENIAC. A previsão de 24 horas levou cerca de 24 horas para ser calculada: empatou com o tempo real, mas funcionou. ^[24]

10. A era digital: erros de arredondamento e Monte Carlo

Quem foram

O ENIAC, terminado no fim de 1945 na Universidade da Pensilvânia, foi um dos primeiros computadores eletrônicos de uso geral. Foi construído para calcular tabelas de tiro de artilharia e era programado, com cabos e chaves, por uma equipe de seis mulheres matemáticas, entre elas Betty Snyder e Kay McNulty.

John von Neumann (1903–1957), húngaro radicado nos Estados Unidos, e Herman Goldstine publicaram em 1947 a primeira análise rigorosa de como os erros de arredondamento se acumulam num computador ao resolver sistemas lineares: muitos consideram esse artigo o nascimento da análise numérica moderna. ^{[52] [16]} Em 1948, Alan Turing (1912–1954) estudou o mesmo problema e criou a ideia de número de condição, que mede quão sensível é um problema a pequenos erros. ^[50] Stanislaw Ulam, von Neumann e Nicholas Metropolis criaram em Los Alamos o método de Monte Carlo (1946–1949). ^[25] E William Kahan (nascido em 1933) liderou a criação do padrão IEEE 754 (1985), que define como quase todos os computadores do mundo guardam números com vírgula; por isso recebeu o Prêmio Turing em 1989. ^[1]

O mundo naquela época

O problema

Um computador faz bilhões de contas por segundo, mas cada número é guardado com um número limitado de casas. Cada conta pode introduzir um erro minúsculo de arredondamento. O perigo é que esses erros se acumulem ao longo de milhões de passos. Três casos reais:

• Bolsa de Vancouver (1982–1983): o índice começou em 1.000 e, a cada atualização, era cortado (não arredondado) na terceira casa decimal. Em 22 meses, caiu para 524,811, quando o valor correto era 1.098,892. ^[53]
• Míssil Patriot (1991): o relógio do sistema contava décimos de segundo, mas 0,1 não pode ser escrito exatamente em binário. Depois de 100 horas ligado, o erro chegou a 0,34 segundo, o suficiente para o radar procurar o míssil inimigo a mais de 600 metros do lugar certo. Em 25 de fevereiro de 1991, em Dhahran, na Arábia Saudita, a falha deixou passar um míssil que matou 28 soldados. ^[51]
• Foguete Ariane 5 (1996): no voo inaugural, um número grande demais foi convertido para um formato de 16 bits, que não comportava o valor. O sistema de navegação falhou e o foguete se autodestruiu 37 segundos após o lançamento. ^[11]

A teoria, passo a passo

Ponto flutuante. O computador guarda números como a notação científica que aprendemos na escola (6,02 × 10²³), só que em binário: um sinal, uma mantissa com os algarismos e um expoente que diz onde fica a vírgula. No formato mais usado (precisão dupla do IEEE 754), a mantissa tem 53 algarismos binários, o que dá cerca de 16 casas decimais. ^[15]

• Os números que o computador consegue guardar são como marquinhas numa régua: bem apertadas perto do zero e cada vez mais espaçadas para números grandes.
• Qualquer número que caia entre duas marquinhas é arredondado para a mais próxima.
• 0,1 em binário é 0,000110011001100…, com “0011” repetindo para sempre. Por isso, ele é guardado com um erro minúsculo, e 0,1 + 0,2 dá 0,30000000000000004.

Estabilidade e condicionamento. Von Neumann, Turing e depois James Wilkinson separaram duas perguntas. A primeira: o problema é sensível? Um problema mal condicionado (com número de condição alto) amplifica qualquer erro dos dados, não importa o método. A segunda: o algoritmo é estável? Um algoritmo estável não amplifica os erros de arredondamento além do que o próprio problema já amplificaria. Wilkinson mostrou, nos anos 1960, que a boa pergunta é: “a resposta calculada é a resposta exata de um problema quase igual?” Isso se chama análise de erro regressiva. ^[19]

Monte Carlo. Em 1946, recuperando-se de uma doença e jogando paciência, Ulam se perguntou qual era a chance de ganhar uma partida. Calcular era difícil; jogar muitas vezes e contar era fácil. Assim nasceu a ideia de resolver problemas usando sorteios. O nome, sugerido por Metropolis, é uma homenagem ao cassino de Monte Carlo. ^[25]

Exemplos de uso

Sorteie pontos ao acaso num quadrado de lado 1. A fração que cai dentro do quarto de círculo é, aproximadamente, a área dele: π ÷ 4. Com 200 pontos, obtemos 3,16; com 1 milhão, 3,1414. O método é lento para π (o erro cai como 1 dividido pela raiz do número de pontos), mas tem uma vantagem enorme: continua funcionando em problemas com centenas de dimensões, onde as grades de Richardson são impossíveis. Por isso Monte Carlo é usado para calcular risco no mercado financeiro, simular reatores nucleares, desenhar luz realista em filmes de animação e prever a propagação de epidemias.

Outras conquistas dessa época: a transformada rápida de Fourier (FFT), de James Cooley e John Tukey (1965), que acelera o processamento de som, imagem e sinais e está em todo celular ^[7]; e as bibliotecas de álgebra linear, como LINPACK e LAPACK, que colocaram décadas de pesquisa ao alcance de qualquer programador.

Grandes problemas sem resposta

Depois de quatro mil anos, o Cálculo Numérico continua cheio de perguntas em aberto. Algumas valem prêmios de 1 milhão de dólares; outras estão por trás de tecnologias que usamos todos os dias sem saber exatamente por que funcionam.

1. Navier-Stokes e a turbulência

As equações de Navier-Stokes, do século XIX, descrevem o movimento de líquidos e gases: ar, água, sangue. Ninguém conseguiu provar que elas sempre têm uma solução “bem comportada” em três dimensões, ou que às vezes a solução “explode”. É um dos sete Problemas do Milênio, com prêmio de 1 milhão de dólares do Instituto Clay. ^[6]

Exemplo de uso: projetar a asa de um avião. O ar em volta da asa é turbulento: forma redemoinhos de muitos tamanhos, dos metros aos décimos de milímetro. Para simular todos eles diretamente, a grade precisaria de um número de pontos que cresce mais ou menos como a potência 9/4 do chamado número de Reynolds; para um avião comercial, isso daria quatrilhões de pontos (10¹⁵ ou mais), acompanhados por milhões de passos de tempo, muito além de qualquer computador atual. Por isso, engenheiros usam modelos de turbulência: fórmulas aproximadas para os redemoinhos pequenos, calibradas com experimentos. Elas funcionam bem na maioria dos casos, mas falham em situações extremas, como um avião perto de perder a sustentação. O mesmo vale para carros de Fórmula 1, turbinas eólicas, previsão do tempo e fluxo de sangue em artérias. Sem entender a matemática das equações, não sabemos garantir quando a simulação é confiável.

2. Quão rápido dá para multiplicar matrizes?

Multiplicar duas tabelas de números n × n (matrizes) pelo método da escola custa n³ multiplicações. Em 1969, Volker Strassen mostrou que dava para fazer menos, cerca de n^2,807. ^[45] Desde então, a corrida pelo menor expoente, chamado ω, nunca parou. O recorde em 2024 é ω < 2,371339. ^[3] A pergunta em aberto: dá para chegar a ω = 2, ou seja, multiplicar matrizes quase tão depressa quanto ler os números?

Exemplo de uso: treinar uma inteligência artificial como um grande modelo de linguagem consiste, na maior parte do tempo, em multiplicar matrizes enormes em placas gráficas. Um algoritmo melhor economizaria energia e dinheiro em escala mundial. Mas há uma pegadinha: os algoritmos com os menores expoentes são “galácticos”, só ganham do método comum para matrizes tão grandes que não cabem em computador nenhum. Na prática, os ganhos vêm de truques menores. Em 2022, o sistema de IA AlphaTensor achou uma forma de multiplicar matrizes 4 × 4 com 47 multiplicações, numa aritmética especial ^[13]; em 2025, o AlphaEvolve achou uma com 48 multiplicações para números complexos, melhorando um recorde de Strassen que durava 56 anos. ^[26]

3. Existe um algoritmo “fortemente polinomial” para programação linear?

Programação linear é o problema de escolher quantidades (quanto produzir, transportar ou comprar) para gastar o mínimo ou lucrar o máximo, respeitando limites. George Dantzig criou em 1947 o método simplex, que resolve esses problemas muito depressa na prática. Mas, em 1972, Victor Klee e George Minty mostraram exemplos em que ele leva um tempo exponencial. Depois vieram métodos com garantia de tempo polinomial (Khachiyan, 1979; Karmarkar, 1984), mas o tempo deles depende de quantos dígitos têm os dados. Existe um método cujo número de passos dependa só do número de variáveis e restrições? Esse é o 9º problema da lista de Steve Smale para o século XXI, ainda sem resposta. ^[42]

Exemplo de uso: uma companhia aérea precisa montar a escala de milhares de pilotos e comissários para milhares de voos, respeitando horas de descanso, bases e custos. Refinarias decidem quanto de cada combustível produzir; redes de supermercados, quanto enviar a cada loja. O primeiro grande exemplo foi o “problema da dieta”: em 1947, resolvê-lo com o simplex (achar a dieta mais barata que cumpre as necessidades nutricionais) levou 120 dias de trabalho de 9 pessoas com calculadoras de mesa. Hoje leva milissegundos. Em 2004, Daniel Spielman e Shang-Hua Teng explicaram em parte por que o simplex é rápido na prática, com a análise suavizada: os casos lentos são tão “frágeis” que uma pequena perturbação nos dados os desfaz. ^[43] Mas a pergunta de Smale continua aberta.

4. Por que a eliminação de Gauss funciona tão bem?

O método dos Nove Capítulos, com uma pequena melhoria chamada pivoteamento parcial (trocar linhas para dividir sempre pelo maior número disponível), é usado em praticamente todo software científico. Em teoria, porém, há matrizes em que os números intermediários crescem como 2ⁿ⁻¹, o que destruiria todas as casas decimais de um sistema com algumas dezenas de incógnitas. Na prática, isso quase nunca acontece. Por quê? Lloyd Trefethen e Robert Schreiber estudaram o comportamento médio em 1990, mas uma explicação completa ainda não existe. ^[48]

Exemplo de uso: ao projetar um prédio, um programa de engenharia estrutural resolve sistemas com centenas de milhares de incógnitas usando eliminação. Se o crescimento “teórico” acontecesse, o resultado seria lixo numérico, e ninguém perceberia sem uma verificação. Confiamos nesses programas porque décadas de experiência mostram que funcionam, e não porque exista uma prova de que sempre funcionarão.

5. A maldição da dimensionalidade e o mistério das redes neurais

As grades de Richardson funcionam bem em 1, 2 ou 3 dimensões. Mas muitos problemas têm dezenas ou centenas de dimensões. Com só 10 pontos por direção, uma grade em 100 dimensões teria 10¹⁰⁰ pontos, mais do que os átomos do universo observável. Isso se chama maldição da dimensionalidade.

Exemplo de uso: um banco quer calcular o preço justo de um contrato que depende de 100 ações diferentes. A equação de Black-Scholes para esse caso tem 100 dimensões. Em 2018, Jiequn Han, Arnulf Jentzen e Weinan E mostraram que redes neurais conseguem resolver equações desse tipo em centenas de dimensões. ^[17] O mesmo acontece na química quântica, em que cada elétron de uma molécula acrescenta três dimensões. Funciona, mas a teoria ainda não explica completamente por que as redes neurais escapam da maldição, nem quando se pode confiar no resultado. É uma das perguntas mais ativas da matemática de hoje.

Projeções de futuro

Prever o futuro de uma ciência é arriscado, mas algumas tendências já estão em curso e devem marcar as próximas décadas.

Computadores de exaescala e o limite da energia

Em 2022, o supercomputador Frontier, nos Estados Unidos, foi o primeiro a passar oficialmente de 1 exaflop, ou seja, 10¹⁸ contas por segundo. ^[46] Em 2024, o El Capitan chegou a cerca de 1,7 exaflop. ^[47] No Brasil, o supercomputador Santos Dumont, do LNCC, em Petrópolis, atende pesquisas de clima, energia e saúde. ^[22] O próximo limite não é a velocidade, mas a energia: essas máquinas consomem dezenas de megawatts. Por isso, a eficiência dos algoritmos vai valer cada vez mais do que a força bruta.

Precisão sob medida

As placas gráficas feitas para inteligência artificial são muito mais rápidas com números de baixa precisão, de 16 ou até 8 bits. Uma linha forte de pesquisa mistura precisões: faz a maior parte do trabalho com poucas casas e depois corrige o resultado com algumas contas em alta precisão, recuperando as 16 casas. ^[20] Para isso, a análise de erro de Wilkinson e Kahan fica ainda mais importante.

Inteligência artificial como calculista

Em 2023, o modelo GraphCast, treinado com décadas de dados, fez previsões de 10 dias em menos de um minuto, superando o melhor modelo tradicional na maioria das medidas. ^[21] Em 25 de fevereiro de 2025, o Centro Europeu de Previsões Meteorológicas (ECMWF) colocou em operação seu próprio modelo de IA, o AIFS, que gasta cerca de mil vezes menos energia por previsão. ^[10] Também surgiram as redes neurais informadas pela física, que aprendem respeitando as equações. ^[40] O desafio para o futuro é garantir o erro: um modelo de IA pode acertar muito e, de vez em quando, errar de forma inesperada. A tendência é combinar IA com os métodos clássicos, que dão garantias.

IA inventando algoritmos

AlphaTensor (2022) e AlphaEvolve (2025) mostraram que sistemas de IA podem descobrir algoritmos numéricos novos, que depois são verificados por matemáticos. ^{[13] [26]} É provável que muitas das próximas melhorias em algoritmos de multiplicação, integração e otimização venham dessa parceria entre humanos e máquinas.

Computação quântica, com cautela

Em 2009, Aram Harrow, Avinatan Hassidim e Seth Lloyd propuseram um algoritmo quântico para sistemas lineares que, em certas condições, seria exponencialmente mais rápido. ^[18] Mas o próprio Scott Aaronson resumiu o problema: é preciso “ler as letras miúdas”. Carregar os dados no computador quântico, ler a resposta e o condicionamento do problema podem apagar a vantagem. ^[2] A projeção mais realista é que computadores quânticos ajudem em problemas específicos, como simular moléculas, e não substituam o Cálculo Numérico clássico.

Gêmeos digitais e o limite do caos

Projetos como o Destination Earth, da União Europeia, querem construir um gêmeo digital da Terra: uma simulação em altíssima resolução, alimentada continuamente por dados, para testar cenários de clima e desastres. ^[9] A mesma ideia vale para o coração de um paciente, uma fábrica ou uma cidade. Mas há um limite que nenhum computador vence: em 1963, Edward Lorenz mostrou que a atmosfera é caótica: pequenos erros nos dados crescem até destruir a previsão. ^[23] Estudos posteriores estimam que, para o tempo do dia a dia, esse limite fica em torno de duas semanas. Por isso, o futuro não é uma única previsão perfeita, mas conjuntos de previsões com probabilidades: “70% de chance de chuva” é Cálculo Numérico sendo honesto sobre o próprio erro.

Conclusões

O escriba da Babilônia, Arquimedes, Liu Hui, Aryabhata, Madhava, al-Kashi, Newton, Euler, Gauss, Richardson, von Neumann e Kahan viveram em mundos muito diferentes, com ferramentas muito diferentes: argila, areia, varetas, papel, calculadoras mecânicas, válvulas e chips. Mas todos fizeram a mesma coisa: trocaram um problema impossível de resolver exatamente por uma sequência de contas simples e se perguntaram quão confiável era a resposta.

Algumas ideias atravessaram milênios quase intactas. O método babilônico reapareceu como caso particular do método de Newton. As diferenças da tabela de senos de Aryabhata anteciparam as de Richardson, e os termos de correção de Madhava já eram estimativas de erro. A eliminação dos Nove Capítulos virou a eliminação de Gauss e hoje mede a velocidade dos supercomputadores. As diferenças finitas de Richardson, feitas à mão durante uma guerra, viraram a previsão do tempo que você consulta no celular.

Ao mesmo tempo, o Cálculo Numérico está longe de terminado. Não sabemos se as equações dos fluidos sempre têm solução, nem quão depressa se pode multiplicar matrizes, nem por que alguns dos nossos métodos favoritos funcionam tão bem. E a inteligência artificial, que depende inteiramente de Cálculo Numérico, trouxe novas perguntas sobre confiança e erro.

Talvez a maior lição seja esta: calcular bem não é ter todas as casas decimais, mas saber quais delas são verdadeiras. Da tabuleta de argila ao supercomputador, essa continua sendo a arte do Cálculo Numérico.

Glossário essencial

Algoritmo

Receita com um número finito de passos para resolver um problema.

Arredondamento

Erro causado por guardar um número com uma quantidade limitada de casas.

Condicionamento

Sensibilidade de um problema a pequenas mudanças nos dados; problemas mal condicionados amplificam erros.

Convergência

Quando as aproximações de um método chegam cada vez mais perto da resposta. É quadrática quando as casas certas dobram a cada passo.

Derivada

A inclinação de uma curva num ponto; mede quão depressa algo está mudando.

Diferenças finitas

Troca de derivadas por diferenças entre valores em pontos vizinhos de uma grade.

Equação diferencial

Equação que descreve como uma quantidade muda, em vez de dizer seu valor diretamente.

Estabilidade

Qualidade de um algoritmo que não amplifica os erros de arredondamento além do inevitável.

Interpolação

Estimar valores entre os pontos conhecidos de uma tabela, “ligando os pontos” com uma reta ou uma curva.

Iteração

Repetir a mesma conta, usando o resultado anterior como ponto de partida.

Mínimos quadrados

Escolher a curva que torna mínima a soma dos quadrados dos erros.

Monte Carlo

Família de métodos que usam sorteios aleatórios para estimar resultados.

Ponto flutuante

Forma de guardar números no computador como notação científica em binário (padrão IEEE 754).

Raiz de uma equação

Valor que faz uma expressão f(x) dar zero.

Série infinita

Soma com infinitos termos cujo total se aproxima de um valor, como 1 − 1/3 + 1/5 − … = π/4.

Sistema linear

Conjunto de equações de primeiro grau com várias incógnitas.

Truncamento

Erro causado por interromper um processo infinito, como uma soma sem fim ou uma iteração.

Revisão rápida

Referências

1. ACM, “William Kahan – A.M. Turing Award Laureate”, amturing.acm.org.
2. Aaronson, S., “Read the fine print”, 2015, Nature Physics 11.
3. Alman, J.; Duan, R.; Vassilevska Williams, V.; Xu, Y.; Xu, Z.; Zhou, R., “More Asymmetry Yields Faster Matrix Multiplication”, 2024, arXiv:2404.16349.
4. Bodleian Libraries, “Carbon dating finds Bakhshali manuscript contains oldest recorded origins of the symbol “zero””, 2017, bodleian.ox.ac.uk.
5. Butcher, J. C., “A history of Runge-Kutta methods”, 1996, Applied Numerical Mathematics 20.
6. Clay Mathematics Institute, “Navier–Stokes Equation”, claymath.org.
7. Cooley, J. W.; Tukey, J. W., “An algorithm for the machine calculation of complex Fourier series”, 1965, Mathematics of Computation 19.
8. Courant, R.; Friedrichs, K.; Lewy, H., “Über die partiellen Differenzengleichungen der mathematischen Physik”, 1928, Mathematische Annalen 100.
9. Destination Earth, “Destination Earth – a digital twin of the Earth”, destination-earth.eu.
10. ECMWF, “ECMWF’s AI forecasts become operational”, 2025, ecmwf.int.
11. ESA, “Ariane 501 – Presentation of Inquiry Board report”, 1996, esa.int.
12. Euler, L., “Institutionum calculi integralis, vol. 1 (E342)”, 1768, Euler Archive.
13. Fawzi, A. et al., “Discovering faster matrix multiplication algorithms with reinforcement learning”, 2022, Nature 610.
14. Fowler, D.; Robson, E., “Square Root Approximations in Old Babylonian Mathematics: YBC 7289 in Context”, 1998, Historia Mathematica 25.
15. Goldberg, D., “What Every Computer Scientist Should Know About Floating-Point Arithmetic”, 1991, ACM Computing Surveys 23.
16. Grcar, J. F., “John von Neumann’s Analysis of Gaussian Elimination and the Origins of Modern Numerical Analysis”, 2011, SIAM Review 53.
17. Han, J.; Jentzen, A.; E, W., “Solving high-dimensional partial differential equations using deep learning”, 2018, PNAS 115.
18. Harrow, A. W.; Hassidim, A.; Lloyd, S., “Quantum algorithm for linear systems of equations”, 2009, arXiv:0811.3171.
19. Higham, N. J., “Accuracy and Stability of Numerical Algorithms, 2nd ed.”, 2002, SIAM.
20. Higham, N. J.; Mary, T., “Mixed precision algorithms in numerical linear algebra”, 2022, Acta Numerica 31.
21. Lam, R. et al., “Learning skillful medium-range global weather forecasting”, 2023, Science 382.
22. LNCC, “Supercomputador Santos Dumont”, sdumont.lncc.br.
23. Lorenz, E. N., “Deterministic Nonperiodic Flow”, 1963, Journal of the Atmospheric Sciences 20.
24. Lynch, P., “The origins of computer weather prediction and climate modeling”, 2008, Journal of Computational Physics 227.
25. Metropolis, N.; Ulam, S., “The Monte Carlo Method”, 1949, Journal of the American Statistical Association 44.
26. Novikov, A. et al., “AlphaEvolve: A coding agent for scientific and algorithmic discovery”, 2025, arXiv:2506.13131.
27. O’Connor, J. J.; Robertson, E. F., “Ghiyath al-Din Jamshid Mas’ud al-Kashi”, MacTutor.
28. O’Connor, J. J.; Robertson, E. F., “Abu Ja’far Muhammad ibn Musa Al-Khwarizmi”, MacTutor.
29. O’Connor, J. J.; Robertson, E. F., “Archimedes of Syracuse”, MacTutor.
30. O’Connor, J. J.; Robertson, E. F., “Aryabhata the Elder”, MacTutor.
31. O’Connor, J. J.; Robertson, E. F., “Brahmagupta”, MacTutor.
32. O’Connor, J. J.; Robertson, E. F., “Johann Carl Friedrich Gauss”, MacTutor.
33. O’Connor, J. J.; Robertson, E. F., “Heron of Alexandria”, MacTutor.
34. O’Connor, J. J.; Robertson, E. F., “Martin Wilhelm Kutta”, MacTutor.
35. O’Connor, J. J.; Robertson, E. F., “Liu Hui”, MacTutor.
36. O’Connor, J. J.; Robertson, E. F., “Madhava of Sangamagramma”, MacTutor.
37. O’Connor, J. J.; Robertson, E. F., “Nine chapters on the Mathematical art”, MacTutor.
38. O’Connor, J. J.; Robertson, E. F., “Lewis Fry Richardson”, MacTutor.
39. Plofker, K., “Mathematics in India”, 2009, Princeton University Press.
40. Raissi, M.; Perdikaris, P.; Karniadakis, G. E., “Physics-informed neural networks”, 2019, Journal of Computational Physics 378.
41. Roy, R., “The Discovery of the Series Formula for π by Leibniz, Gregory and Nilakantha”, 1990, Mathematics Magazine 63.
42. Smale, S., “Mathematical problems for the next century”, 1998, The Mathematical Intelligencer 20.
43. Spielman, D. A.; Teng, S.-H., “Smoothed analysis of algorithms: Why the simplex algorithm usually takes polynomial time”, 2004, Journal of the ACM 51.
44. Stigler, S. M., “Gauss and the Invention of Least Squares”, 1981, The Annals of Statistics 9.
45. Strassen, V., “Gaussian elimination is not optimal”, 1969, Numerische Mathematik 13.
46. TOP500, “June 2022 list”, 2022, top500.org.
47. TOP500, “November 2024 list”, 2024, top500.org.
48. Trefethen, L. N.; Schreiber, R. S., “Average-case stability of Gaussian elimination”, 1990, SIAM Journal on Matrix Analysis and Applications 11.
49. Trefethen, L. N., “The definition of numerical analysis”, 1992, SIAM News.
50. Turing, A. M., “Rounding-off errors in matrix processes”, 1948, The Quarterly Journal of Mechanics and Applied Mathematics 1.
51. U.S. General Accounting Office, “Patriot Missile Defense: Software Problem Led to System Failure at Dhahran, Saudi Arabia (IMTEC-92-26)”, 1992, gao.gov.
52. von Neumann, J.; Goldstine, H. H., “Numerical inverting of matrices of high order”, 1947, Bulletin of the AMS 53.
53. Wikipedia, “Vancouver Stock Exchange”, en.wikipedia.org.
54. Ypma, T. J., “Historical development of the Newton–Raphson method”, 1995, SIAM Review 37.

What numerical analysis is

What is the square root of 2? Where will a planet be next month? Will it rain tomorrow? For almost every important question in science there is no formula that gives the exact answer. Numerical analysis is the art of getting as close as you need using only simple arithmetic, and of knowing exactly how close you got.

The Oxford mathematician Lloyd Nick Trefethen summed the field up in one sentence: numerical analysis is the study of algorithms for the problems of continuous mathematics. ^[49] “Continuous” means everything involving real numbers, curves, areas, speeds and change; an “algorithm” is a recipe with a finite number of steps. The challenge is to replace something infinite, like the endless decimal digits of √2, with a recipe that stops.

Three ideas that run through the whole story

• Approximate: instead of the exact value, we look for a value that is good enough. An engineer does not need √2 to a million places; a few correct ones will do.
• Iterate: repeat a simple calculation many times, getting closer each time. Almost every method in this article is a clever repetition.
• Control the error: know how wrong the answer might be. A result without an error estimate is just a guess with many decimal places.

In this article we follow these three ideas for four thousand years: from the clay tablets of Babylon to supercomputers and artificial intelligence. For each era we will see who the thinkers were, what the world was like, which problem they wanted to solve, the theory explained step by step, and examples of use.

The origins in chronological order

The timeline below shows the ten stops on our journey. The dates are not to scale: more than 1,500 years separate Babylon from Archimedes; fewer than 80 separate the ENIAC from today.

Notice a pattern: each era inherited the tools of the one before. Newton rediscovered the Babylonian method; Gaussian elimination was already in a Chinese book two thousand years older; and electronic computers simply did, much faster, what human computers were already doing by hand.

1. Babylon and Heron: the square root

Who they were

We do not know the name of the Babylonian scribe who, around 1800 BC, pressed into a small clay tablet the best approximation of √2 in the ancient world. The tablet, called YBC 7289, is now in the Yale Babylonian Collection in the United States. It was probably a school exercise: a student copying what the teacher taught. ^[14]

Almost two thousand years later, Heron of Alexandria (who lived around AD 60) clearly described the same method in his book Metrica. Heron was an engineer and inventor: he designed automata, a water-powered organ and the aeolipile, a kind of toy steam engine. ^[33]

The world at the time

The problem

The Babylonians were excellent surveyors: they measured fields, irrigation canals and buildings. One question came up all the time: how long is the diagonal of a square? By what we now call Pythagoras’s theorem, the diagonal of a square of side 1 is √2. The trouble is that √2 is not a fraction: no division of whole numbers gives exactly that value. Its decimal digits never end and never repeat.

The Babylonians wrote numbers in base 60 (that is where the 60 minutes in an hour and the 360 degrees in a circle come from). The tablet shows 1;24,51,10, which means 1 + 24/60 + 51/3,600 + 10/216,000 = 1.41421296. The true value is 1.41421356: the error is less than one millionth. ^[14]

The theory, step by step

Nobody knows for sure how the Babylonians got this number, but the most widely accepted method is the one Heron described. The idea is geometric and very elegant. Think of a rectangle with area 2. If it were a square, its side would be exactly √2. So let us “square up” the rectangle bit by bit:

• Start with a rectangle with sides 1 and 2 (area 2, but not square at all).
• One side is too short and the other too long. Take the average: (1 + 2) ÷ 2 = 1.5. That is the new side.
• To keep the area at 2, the other side must be 2 ÷ 1.5 = 1.333.
• Repeat: the average of 1.5 and 1.333 is 1.4167. And so on.

As a recipe, to compute √N:

new guess = (guess + N ÷ guess) ÷ 2

Why does it work?
  if guess < √N, then N ÷ guess > √N
  if guess > √N, then N ÷ guess < √N
  → the answer is always BETWEEN the two, and the average is closer

The most impressive part is the speed: at each step, the number of correct decimal places almost doubles. Mathematicians call this quadratic convergence, and we will meet it again with Newton, 3,400 years later.

Examples of use

In Heron’s example, he wanted the area of a triangle and needed √720. Since 27 × 27 = 729, very close to 720, he started from 27. A single step gave 26 5/6 = 26.8333, while the true value is 26.8328. ^[33] Heron added that, for more accuracy, you just repeat with the new value. That sentence is perhaps the first written description of an iterative method.

And this is not just history: variations of this method are still used by calculators, software libraries and processors to compute square roots, because it is simple, fast and uses only addition and division.

2. Archimedes: closing in on π

Who he was

Archimedes of Syracuse (c. 287–212 BC) is considered one of the greatest mathematicians of all time. He lived in Sicily, then a Greek colony. He studied the lever (“Give me a place to stand and I will move the Earth”), the buoyancy of liquids (the famous “Eureka!” story) and invented war machines to defend his city. He died in 212 BC, when the Romans took Syracuse; according to tradition, a soldier killed him while he was drawing figures in the sand. ^[29]

The world at the time

The problem

Every circle, small or large, has the same ratio between the distance around it (the circumference) and its width (the diameter). That number is π. It is needed to work out wheels, columns, cisterns, the areas of round plots and the orbits of celestial bodies. But measuring with a string gives two correct digits at best. And π, like √2, has infinitely many decimal digits that never repeat.

The theory, step by step

Archimedes’ brilliant idea, in his book Measurement of a Circle, was to squeeze the circle between two shapes we know how to measure: polygons. ^[29]

• Draw a hexagon (6 sides) inside the circle. Its perimeter is smaller than the circumference.
• Draw another hexagon outside, touching the circle. Its perimeter is larger.
• So π lies between the two: 3.000 < π < 3.464.
• Now double the number of sides: 12, 24, 48, 96. The polygons hug the circle ever more tightly, and the interval shrinks.

The trick was not the drawing but the calculation. Archimedes found a rule to go from the n-sided polygon to the 2n-sided one using only square roots and fractions, and he computed those roots with approximations like the Babylonian one. This is the first time in history that someone gives both an approximation and an error guarantee: π is certainly between these two numbers.

inner perimeter  <  circumference  <  outer perimeter
   (n sides)                               (n sides)

diameter = 1   →   3.1410 < π < 3.1427   (n = 96)

Examples of use

With 96 sides, Archimedes reached 3 10/71 < π < 3 1/7, that is, 3.1408 < π < 3.1429. He always rounded “to the safe side”, widening the interval slightly so the guarantee still held. The approximation 22/7 (= 3 1/7) was used by engineers and craftsmen for almost two thousand years.

The same spirit lives on: when a computer calculates the area under a curve (numerical integration), it replaces the curve with many small straight pieces or rectangles, exactly as Archimedes replaced the circle with polygons.

3. China: the Nine Chapters and linear systems

Who they were

The Nine Chapters on the Mathematical Art (Jiuzhang Suanshu) is a Chinese book of 246 practical problems, compiled by several authors between the 10th and 1st centuries BC and completed around the 1st century AD. In AD 263, the mathematician Liu Hui, of the kingdom of Wei, wrote commentaries that explain and prove the book’s methods. ^{[37] [35]} Liu Hui also computed π with polygons, like Archimedes, reaching 3.1416; two centuries later, Zu Chongzhi (429–500) showed that 3.1415926 < π < 3.1415927.

No authentic portrait of Liu Hui exists. The image below is a page from an old edition of the Nine Chapters; the right-hand column reads “魏 劉徽 注”: “commentary by Liu Hui of Wei”.

The world at the time

The problem

An empire that collects taxes in grain has to solve problems with several unknown quantities at once. The first problem of chapter 8 is famous: three kinds of harvest (good, medium and poor), three combinations of bundles and the total grain from each combination. How much does one bundle of each kind yield? ^[37]

Today we would write this as a linear system of three equations:

3h + 2m + 1l = 39
2h + 3m + 1l = 34
1h + 2m + 3l = 26        (h = high, m = medium, l = low)

The theory, step by step

The Chinese method, called fangcheng (“rectangular array”), is exactly what we now call Gaussian elimination, almost two thousand years before Gauss. The idea is simple: if you multiply a whole equation by a number, or subtract one equation from another, the answer does not change. So we use these operations to zero out numbers until one equation with a single unknown is left.

• Set up the table: write only the numbers, one row per equation.
• Zero the first column: combine rows so that the first unknown disappears from rows 2 and 3.
• One more zero: combine rows 2 and 3 so that the second unknown disappears from row 3. The table becomes a “staircase”.
• Solve back up: the last row has a single unknown. Solve it, move to the row above, and so on.

A remarkable detail: these subtractions sometimes produce negative numbers. The Nine Chapters is among the first texts in the world to give rules for adding and subtracting negative numbers, shown with black rods, while positive ones were red. ^[37]

Examples of use

Linear systems are among the problems computers solve most often. When an engineer checks whether a bridge can bear a load, the structure is split into millions of little pieces with one equation each. When a 3D game computes light and shadow, or an artificial intelligence is trained, billions of calculations of this kind happen every second. The ranking of the world’s fastest supercomputers, the TOP500, measures precisely how fast each machine solves a giant linear system. ^[47]

4. India: zero, sines and infinite series

Who they were

India gave numerical analysis its most basic tool: the positional decimal system with zero, in which a digit’s value depends on its position (the 3 in 300 is worth a hundred times the 3 in 3). Without it, the long calculations in this article would be almost impossible. One of the oldest records of zero as a symbol is in the Bakhshali manuscript, a mathematical text on birch bark found in 1881 in present-day Pakistan; some leaves have been carbon-dated to the 3rd–4th centuries, though the date of the content is still debated. ^[4] The manuscript even contains a square-root formula equivalent to two steps of the Babylonian method. ^[39]

Aryabhata (476–550) wrote the Aryabhatiya in 499, at the age of 23: a book of astronomy in verse containing a sine table and the value π ≈ 3.1416. ^[30] Brahmagupta (598–c. 668) gave the first complete rules for arithmetic with zero and negative numbers (628) and, in 665, a second-order interpolation formula. ^[31] And Madhava of Sangamagrama (c. 1340–1425), founder of the Kerala school in southern India, discovered infinite series for sine, cosine and π some 250 years before Newton, Gregory and Leibniz. Madhava’s own books are lost; we know his ideas through his successors, such as Nilakantha (Tantrasangraha, 1501) and Jyeshthadeva (Yuktibhasa, c. 1530, written in Malayalam). ^{[36] [41]}

The world at the time

The problem

Indian astronomy, used for calendars, festivals and eclipse prediction, depended on sine tables. Aryabhata divided a quarter circle into 24 arcs of 3°45’ and needed the “sine” of each, the half-chord that Indians called jyā, “bowstring”. A curiosity: jyā became jība in Arabic, was misread as jaib (“fold”) and translated into Latin as sinus, which gave us “sine”. Besides the 24 values, astronomers needed the sines between them, and an accurate π.

A clever detail: Aryabhata used a circle of radius 3438. Since the full turn has 21,600 minutes of arc and 21,600 ÷ 2π ≈ 3438, on this circle a small arc and its sine measure almost the same number. And, when giving π ≈ 62,832 ÷ 20,000 = 3.1416, Aryabhata wrote that the value was āsanna, “approximate”: he knew it was not exact. ^[30]

The theory, step by step

1. Building the table by adding differences. Instead of computing each sine from scratch, Aryabhata computed the differences between neighbouring sines. The first is 225. The others keep shrinking, and the rule says by how much: each new difference is the previous one minus a small amount proportional to the sum of the sines obtained so far. The bigger the sine, the more the curve bends, and the more the difference shrinks.

new difference = previous difference − (sum of sines so far) ÷ 233.5

225
225 − 225 ÷ 233.5 ≈ 224     → sine 2 = 225 + 224 = 449
224 − 449 ÷ 233.5 ≈ 222     → sine 3 = 449 + 222 = 671

In Aryabhata’s text the divisor is 225; with the exact divisor, about 233.5, the rule reproduces the table almost perfectly. In modern language, he used the fact that the difference of the differences of the sine is proportional to the sine itself. It is the same idea of finite differences that Richardson would apply to weather forecasting 1,400 years later. ^[39]

2. Interpolating with curvature. To find a sine between two table values, the simplest way is to join the points with a straight line (linear interpolation). Brahmagupta, in 665, did better: he also used the previous difference to measure how much the curve bends and correct the line. It is a second-order interpolation, about a thousand years before the formulas of Newton and Stirling. ^[31]

sine(x₀ + t·h) ≈ sine(x₀) + t × (D₋ + D₊) ÷ 2 + t² × (D₊ − D₋) ÷ 2

D₋ = previous difference, D₊ = next difference, t = fraction of the step (0 to 1)

3. Infinite series with correction. Madhava discovered that π can be written as an endless sum: π/4 = 1 − 1/3 + 1/5 − 1/7 + … The trouble is that this sum approaches π very slowly: with 10 terms it still gives 3.04. Madhava’s great insight was to estimate the missing tail when you stop partway, and add it as a correction term. That is, literally, an estimate of the truncation error, one of the central ideas of numerical analysis. ^[41]

Examples of use

Adding up the differences, Aryabhata’s 24 sines match the modern values (3438 × sine) almost without error: only one entry is off by one unit. And to find the sine of 80°, which lies between 78°45’ and 82°30’, the straight line between neighbours is off by 1.4; Brahmagupta’s formula is off by only 0.1.

With Madhava’s correction, the series for π with only 10 terms goes from 3.04 to 3.1415902. And with a faster series, π = √12 × (1 − 1/(3·3) + 1/(5·3²) − …), Madhava obtained π to 11 decimal places: 3.14159265359. ^[36]

These ideas are still alive. Tables of functions built from differences were used until the computer age; Charles Babbage’s difference engine (1822) was designed precisely for this. Interpolation is in any program that “fills in” values between measurements, such as the temperature charts in a weather app. And series with error correction underlie how calculators and computers compute sine, cosine and logarithm. The path also went through the Islamic world: Indian numerals and Indian astronomy reached Baghdad in the 8th century, where al-Khwarizmi studied them, as we will see next.

5. The Islamic world: the algorithm and iteration

Who they were

Muhammad ibn Musa al-Khwarizmi (c. 780–850) worked at the House of Wisdom in Baghdad, a research and translation centre created by the Abbasid caliphs. Around 820 he wrote the book that gave algebra its name (from al-jabr, “restoring”) and another that taught arithmetic with the Indian numerals, including zero. When that second book was translated into Latin in the 12th century, it began “Algoritmi dixit” (“thus spoke al-Khwarizmi”). His name gave us the word algorithm. ^[28]

Jamshid al-Kashi (c. 1380–1429) was the great calculator of the Samarkand observatory, in today’s Uzbekistan, founded by the sultan and astronomer Ulugh Beg. In 1424 he computed π to 16 decimal places, a record that lasted about 180 years. In 1427 he finished The Key to Arithmetic, a calculation manual using decimal fractions. ^[27]

The world at the time

The problem

Islamic astronomy needed very accurate sine tables: to predict eclipses, build lunar calendars, set prayer times and find the direction of Mecca. The table starts with the sine of 1°, and that was the catch. Geometry lets you compute the sine of 3° exactly. But going from 3° to 1° would mean dividing an angle into three equal parts, which is impossible with ruler and compass (the Greeks suspected as much; the proof came in 1837).

The theory, step by step

Al-Kashi used a trigonometric identity: sin 3θ = 3 sin θ − 4 sin³ θ. With θ = 1° and calling x = sin 1°, it becomes a cubic equation: sin 3° = 3x − 4x³. Instead of looking for a formula, he did something very modern: he rewrote the equation in the form x = g(x) and repeated the calculation.

sin 3° = 3x − 4x³
    3x = sin 3° + 4x³
     x = (sin 3° + 4x³) ÷ 3      ← form x = g(x)

guess → apply g → new guess → apply g → …

This is called fixed-point iteration. A “fixed point” is a number that comes out of g unchanged: x = g(x). On a graph, it is where the curve of g meets the line y = x. Starting from a guess and applying g again and again, the values form a staircase that descends to that point. It works when g “shrinks distances”; in al-Kashi’s case, the term 4x³ is tiny (x is about 0.017), so each round changes very little and the process converges quickly.

Examples of use

Starting from sin 3° ÷ 3, each round adds 3 to 4 correct digits. In a few rounds, al-Kashi had the sine of 1° more accurately than any earlier table. For π, he used polygons like Archimedes, but with 805,306,368 sides, obtaining 3.1415926535897932. ^[27]

Fixed-point iteration is everywhere today: the PageRank algorithm, which Google used to rank web pages, is an iteration of this kind; engineering software uses it to solve nonlinear equations; and many artificial intelligence methods are, deep down, “repeat until it stops changing”.

6. Newton and Raphson: roots of equations

Who they were

Isaac Newton (1643–1727) created, among other things, the laws of motion, the law of gravitation and (at the same time as Leibniz) differential and integral calculus. In a 1669 manuscript, De analysi, he showed how to find roots of equations through a sequence of corrections, using the example x³ − 2x − 5 = 0. Joseph Raphson (c. 1648–1715), a Fellow of the Royal Society, published a simpler and more general version of the method in 1690. That is why it is now called the Newton–Raphson method. The form with derivatives we use today was written by Thomas Simpson in 1740. ^[54]

No portrait of Raphson is known; the document above, with his signature, is one of the few records of his life. The witness who signs it is Edmond Halley, of comet fame.

The world at the time

The problem

Kepler had discovered that planets move in ellipses and sweep out equal areas in equal times. But to know where a planet is on a given date, you have to solve Kepler’s equation: M = E − e · sin E. M comes from the time, e says how flattened the orbit is and E gives the position. No formula isolates E. It is a problem of finding the root of an equation: the value that makes f(E) = E − e · sin E − M equal to zero. Navigators, astronomers and calendar makers had to do this all the time.

The theory, step by step

Newton’s idea is to swap the hard curve for an easy line. Seen up close, any smooth curve looks like a straight line, the tangent line. And finding where a line crosses zero is easy: it takes one division.

• Choose a guess x₀ near the root.
• Compute the height of the curve there, f(x₀), and its slope, f’(x₀) (the derivative).
• Follow the tangent line until it hits the horizontal axis. That is the new guess, x₁.
• Repeat from x₁.

new x = x − f(x) ÷ f’(x)

height ÷ slope = how far to move horizontally to reach zero

Examples of use

Starting from x = 2, the method finds the root 2.0945514815… in four steps. Look at the error column: 0.09, then 0.005, then 0.00002, then 0.0000000002. Each error is roughly the square of the previous one. It is the same quadratic convergence as the Babylonian method, and not by chance: applying Newton to the equation x² − 2 = 0, the formula becomes (x + 2 ÷ x) ÷ 2, exactly the recipe on the tablet from 3,600 years earlier.

Today, Newton’s method runs inside GPS (to find your position from satellite signals), engineering software, financial calculators (to find the interest rate on a loan) and the training of some artificial intelligence models. In the same period, Newton also created interpolation formulas, to “join the dots” of a table and estimate values in between, an idea refined by Lagrange in 1795.

7. Euler, Runge and Kutta: predicting the future step by step

Who they were

Leonhard Euler (1707–1783), born in Basel, Switzerland, was the most prolific mathematician in history: his collected works fill more than 80 volumes. He worked at the academies of St Petersburg and Berlin and kept producing even after he became almost blind. In his book Institutionum calculi integralis (1768), he described the simplest method for solving differential equations, which now bears his name. ^[12]

More than a century later, the Germans Carl Runge (1856–1927), in 1895, and Martin Wilhelm Kutta (1867–1944), in 1901, created much more accurate methods, known as Runge–Kutta. Kutta is also famous in aerodynamics, for calculating the force that holds up an aeroplane’s wings. ^{[5] [34]}

The world at the time

The problem

Many laws of nature do not say where things are, but how they change. A hot coffee cools faster the hotter it is. A cannonball changes speed because of gravity and air resistance. A population grows in proportion to the number of inhabitants. These rules are differential equations. Solving them means working out the whole path from the rule of change. The problem: almost no real differential equation has a ready-made formula.

The theory, step by step

Euler’s idea is as natural as it gets: if you know where you are heading now, take a small step in that direction and look again.

• Start at the known point (for example, the coffee’s temperature now).
• Use the rule to compute the slope, that is, how fast the thing is changing at this instant.
• Take a step of size h along that slope.
• At the new point, compute the new slope and repeat.

new y = y + h × slope

Example: y’ = y   (the slope equals the value itself)
y(0) = 1, h = 0.25:
  1 → 1 + 0.25 × 1 = 1.25 → 1.25 + 0.25 × 1.25 = 1.5625 → …

The weakness of Euler’s method is that it uses the slope from the start of the step for the whole step, so it drifts away from the curve. Smaller steps help, but cost more arithmetic. Runge and Kutta’s idea was to “peek” at the slope at several points within the step (at the start, twice in the middle and at the end) and take a weighted average. The classic fourth-order method, RK4, uses weights 1, 2, 2 and 1. ^[5]

Examples of use

The equation y’ = y, starting at y = 1, has as its answer at x = 1 the famous number e = 2.71828… With 4 steps, Euler is 10% off; with 100 steps, still 0.5% off. RK4, with the same 4 steps, is only 0.003% off. That is why Runge–Kutta-type methods are the bread and butter of simulation: they are in video game physics engines, in the software that computes satellite orbits and rocket trajectories, in epidemic simulations and in electrical circuit models.

8. Gauss: least squares and the lost planet

Who he was

Carl Friedrich Gauss (1777–1855), from a poor family in Brunswick, Germany, is called the “prince of mathematicians”. At 24 he published a book that reshaped number theory and, in the same year, became famous across Europe for finding a lost dwarf planet. He directed the Göttingen observatory for almost 50 years and also worked on magnetism, geodesy (measuring the Earth) and the telegraph. ^[32]

The world at the time

The problem

On 1 January 1801, the astronomer Giuseppe Piazzi, in Palermo, discovered a small body now called Ceres. He followed it for about six weeks, until Ceres vanished into the Sun’s glare. With so few observations of just a sliver of the orbit, and with measurement errors, nobody knew where to look when it reappeared. Gauss calculated the orbit that best fitted the data and, on 31 December 1801, Ceres was found again almost exactly where he had predicted. ^[32]

The theory, step by step

Every measurement has errors. When we have more measurements than unknowns, no curve passes exactly through all the points. Which one, then, is the “best”? Gauss’s answer (reached independently by Adrien-Marie Legendre, who published it first, in 1805) is the method of least squares: choose the curve that makes the sum of the squared errors as small as possible. ^[44]

• For each point, measure the vertical distance to the line: that is the error, or residual.
• Square each error (so errors above and below do not cancel out, and big errors weigh more).
• Add them all up. The best line is the one that makes this sum smallest.

Why squares? Gauss showed that, if measurement errors follow the famous bell-shaped curve (the normal distribution, also called Gaussian), the least-squares line is the most probable one. As a bonus, the calculation can be solved by formula, leading to a linear system solved by elimination, the same as in the Nine Chapters.

Examples of use

slope     = Σ (x − x̄)(y − ȳ) ÷ Σ (x − x̄)²  = 9 ÷ 10 = 0.9
intercept = ȳ − slope × x̄                  = 4 − 0.9 × 3 = 1.3
height ≈ 0.9 × week + 1.3    →   week 6: 6.7 cm

Gauss used least squares to survey the Kingdom of Hanover with giant triangles between 1818 and 1832. Today the method is in GPS (which combines error-prone signals from several satellites), in statistics (“linear regression”), in economics, in instrument calibration and in machine learning: training many neural networks comes down to minimising a sum of squared errors. In 1814 Gauss also created a very efficient way of computing integrals, Gaussian quadrature, and an iterative method for linear systems later called Gauss–Seidel.

9. Richardson: weather forecasting by hand

Who he was

Lewis Fry Richardson (1881–1953) was an English physicist and meteorologist, a Quaker and a pacifist. During the First World War he served as an ambulance driver in France and, between shifts, carried out by hand the first weather forecast calculation based on the laws of physics. He published it all in the book Weather Prediction by Numerical Process (1922). Later he studied the causes of wars mathematically and discovered that the length of a coastline depends on the ruler used to measure it, an idea that would inspire fractals. ^{[38] [24]}

The world at the time

The problem

In the early 20th century, weather forecasting meant comparing today’s map with similar old maps. Richardson wanted something different: measure the state of the air now (pressure, wind, temperature, humidity) and use the equations of physics to calculate the air a few hours later. He divided Central Europe into a grid of squares, like a chessboard, and did the arithmetic to forecast 6 hours ahead. It took him about six weeks. And the result was a failure: he predicted a pressure change of 145 hectopascals, while the real one was almost zero. ^[24]

Even so, Richardson imagined the future: a “forecast factory”, a great theatre with 64,000 human computers, each responsible for a piece of the map, coordinated by a conductor. It was a description of a parallel supercomputer, decades before one existed. Years later it turned out the error came from the initial data, which were too “noisy”; when the calculation was redone with smoothed data, the forecast was reasonable. ^[24]

The theory, step by step

The laws of physics speak in derivatives: how fast pressure changes from place to place, how fast temperature changes over time. A computer (human or electronic) cannot take derivatives; it can do arithmetic. The solution is finite differences: replace the derivative with a difference between neighbouring grid points.

derivative:   f’(x) ≈ (f(x + h) − f(x)) ÷ h
curvature:    f”(x) ≈ (f(x − h) − 2 f(x) + f(x + h)) ÷ h²

Heat rule on a grid:
new T = T + r × (T left − 2 T + T right)

There is a trap, discovered in 1928 by Richard Courant, Kurt Friedrichs and Hans Lewy: if the time step is too large for the size of the squares, errors grow at every step and the simulation “blows up”. This is the CFL condition, and it still applies to every simulation of climate, sound, waves or explosions. ^[8]

Examples of use

In the example, the left end of a bar sits in a flame (100°) and the right end in ice (0°). At each step, every inner point becomes the average of its neighbours (the heat rule with r = 0.5). In 30 steps the bar gets close to equilibrium: a ramp from 100 to 0. Modern weather forecasting does exactly this, but in 3D, with billions of points, wind, humidity and radiation.

Richardson’s dream came true in 1950, when Jule Charney, Ragnar Fjørtoft and John von Neumann made the first successful numerical forecast on the ENIAC computer. The 24-hour forecast took about 24 hours to compute: it only kept pace with the real weather, but it worked. ^[24]

10. The digital age: rounding errors and Monte Carlo

Who they were

The ENIAC, completed at the end of 1945 at the University of Pennsylvania, was one of the first general-purpose electronic computers. It was built to compute artillery firing tables and was programmed, with cables and switches, by a team of six women mathematicians, among them Betty Snyder and Kay McNulty.

John von Neumann (1903–1957), a Hungarian who settled in the United States, and Herman Goldstine published in 1947 the first rigorous analysis of how rounding errors accumulate in a computer when solving linear systems: many regard that paper as the birth of modern numerical analysis. ^{[52] [16]} In 1948, Alan Turing (1912–1954) studied the same problem and introduced the idea of the condition number, which measures how sensitive a problem is to small errors. ^[50] Stanislaw Ulam, von Neumann and Nicholas Metropolis created the Monte Carlo method at Los Alamos (1946–1949). ^[25] And William Kahan (born 1933) led the creation of the IEEE 754 standard (1985), which defines how almost every computer in the world stores numbers with decimals; for this he received the Turing Award in 1989. ^[1]

The world at the time

The problem

A computer does billions of calculations per second, but each number is stored with a limited number of digits. Every calculation may introduce a tiny rounding error. The danger is that these errors accumulate over millions of steps. Three real cases:

• Vancouver Stock Exchange (1982–1983): the index started at 1,000 and, at every update, was chopped (not rounded) at the third decimal place. In 22 months it fell to 524.811, when the correct value was 1,098.892. ^[53]
• Patriot missile (1991): the system clock counted tenths of a second, but 0.1 cannot be written exactly in binary. After 100 hours of operation the error reached 0.34 seconds, enough for the radar to look for the incoming missile more than 600 metres from the right place. On 25 February 1991, in Dhahran, Saudi Arabia, the failure let through a missile that killed 28 soldiers. ^[51]
• Ariane 5 rocket (1996): on its maiden flight, a number that was too large was converted into a 16-bit format that could not hold it. The navigation system failed and the rocket destroyed itself 37 seconds after launch. ^[11]

The theory, step by step

Floating point. A computer stores numbers like the scientific notation we learn at school (6.02 × 10²³), but in binary: a sign, a mantissa with the digits and an exponent that says where the point goes. In the most common format (IEEE 754 double precision), the mantissa has 53 binary digits, which gives about 16 decimal places. ^[15]

• The numbers a computer can store are like marks on a ruler: tightly packed near zero and further apart for large numbers.
• Any number that falls between two marks is rounded to the nearest one.
• 0.1 in binary is 0.000110011001100…, with “0011” repeating forever. So it is stored with a tiny error, and 0.1 + 0.2 gives 0.30000000000000004.

Stability and conditioning. Von Neumann, Turing and later James Wilkinson separated two questions. First: is the problem sensitive? An ill-conditioned problem (with a high condition number) amplifies any error in the data, whatever the method. Second: is the algorithm stable? A stable algorithm does not amplify rounding errors beyond what the problem itself would. Wilkinson showed in the 1960s that the right question is: “is the computed answer the exact answer to a nearby problem?” This is called backward error analysis. ^[19]

Monte Carlo. In 1946, recovering from an illness and playing solitaire, Ulam wondered what the chances of winning a game were. Calculating them was hard; playing many times and counting was easy. So was born the idea of solving problems with random draws. The name, suggested by Metropolis, is a nod to the Monte Carlo casino. ^[25]

Examples of use

Draw points at random in a square of side 1. The fraction that lands inside the quarter circle is roughly its area: π ÷ 4. With 200 points we get 3.16; with 1 million, 3.1414. The method is slow for π (the error shrinks like 1 divided by the square root of the number of points), but it has a huge advantage: it keeps working on problems with hundreds of dimensions, where Richardson’s grids are impossible. That is why Monte Carlo is used to compute financial risk, simulate nuclear reactors, render realistic light in animated films and predict how epidemics spread.

Other achievements of this era: the fast Fourier transform (FFT) by James Cooley and John Tukey (1965), which speeds up the processing of sound, images and signals and is in every mobile phone ^[7]; and linear algebra libraries such as LINPACK and LAPACK, which put decades of research within reach of any programmer.

Great unsolved problems

After four thousand years, numerical analysis is still full of open questions. Some are worth a million-dollar prize; others lie behind technologies we use every day without knowing exactly why they work.

1. Navier–Stokes and turbulence

The Navier–Stokes equations, from the 19th century, describe the motion of liquids and gases: air, water, blood. Nobody has managed to prove that they always have a “well-behaved” solution in three dimensions, or that the solution sometimes “blows up”. It is one of the seven Millennium Prize Problems, with a million-dollar prize from the Clay Institute. ^[6]

Example of use: designing an aircraft wing. The air around the wing is turbulent: it forms eddies of many sizes, from metres down to tenths of a millimetre. To simulate all of them directly, the grid would need a number of points that grows roughly as the 9/4 power of the so-called Reynolds number; for an airliner that means quadrillions of points (10¹⁵ or more), tracked over millions of time steps, far beyond any current computer. So engineers use turbulence models: approximate formulas for the small eddies, calibrated with experiments. They work well in most cases but fail in extreme situations, such as an aircraft close to stalling. The same holds for Formula 1 cars, wind turbines, weather forecasting and blood flow in arteries. Without understanding the mathematics of the equations, we cannot guarantee when a simulation can be trusted.

2. How fast can matrices be multiplied?

Multiplying two n × n tables of numbers (matrices) with the schoolbook method takes n³ multiplications. In 1969, Volker Strassen showed it could be done with fewer, about n^2.807. ^[45] Since then, the race for the smallest exponent, called ω, has never stopped. The record in 2024 is ω < 2.371339. ^[3] The open question: can we reach ω = 2, that is, multiply matrices almost as fast as we can read the numbers?

Example of use: training an artificial intelligence such as a large language model consists, most of the time, of multiplying huge matrices on graphics cards. A better algorithm would save energy and money on a global scale. But there is a catch: the algorithms with the smallest exponents are “galactic”, beating the ordinary method only for matrices so large they fit in no computer. In practice, gains come from smaller tricks. In 2022 the AI system AlphaTensor found a way to multiply 4 × 4 matrices with 47 multiplications, in a special arithmetic ^[13]; in 2025 AlphaEvolve found one with 48 multiplications for complex numbers, improving on a Strassen record that had stood for 56 years. ^[26]

3. Is there a “strongly polynomial” algorithm for linear programming?

Linear programming is the problem of choosing quantities (how much to produce, transport or buy) to spend the least or earn the most while respecting limits. George Dantzig created the simplex method in 1947, which solves these problems very fast in practice. But in 1972 Victor Klee and George Minty exhibited cases where it takes exponential time. Then came methods with guaranteed polynomial time (Khachiyan, 1979; Karmarkar, 1984), but their running time depends on how many digits the data have. Is there a method whose number of steps depends only on the number of variables and constraints? That is problem 9 on Steve Smale’s list for the 21st century, still unanswered. ^[42]

Example of use: an airline must roster thousands of pilots and cabin crew for thousands of flights, respecting rest hours, home bases and costs. Refineries decide how much of each fuel to produce; supermarket chains, how much to send to each store. The first big example was the “diet problem”: in 1947, solving it with the simplex method (finding the cheapest diet that meets nutritional needs) took 9 people 120 days of work with desk calculators. Today it takes milliseconds. In 2004, Daniel Spielman and Shang-Hua Teng partly explained why simplex is fast in practice, with smoothed analysis: the slow cases are so “fragile” that a tiny perturbation of the data destroys them. ^[43] But Smale’s question remains open.

4. Why does Gaussian elimination work so well?

The Nine Chapters method, with a small improvement called partial pivoting (swapping rows so as always to divide by the largest available number), is used in virtually all scientific software. In theory, though, there are matrices for which the intermediate numbers grow like 2ⁿ⁻¹, which would wipe out every decimal digit of a system with a few dozen unknowns. In practice this almost never happens. Why? Lloyd Trefethen and Robert Schreiber studied the average behaviour in 1990, but a complete explanation still does not exist. ^[48]

Example of use: when designing a building, structural engineering software solves systems with hundreds of thousands of unknowns by elimination. If the “theoretical” growth happened, the result would be numerical garbage, and nobody would notice without a check. We trust these programs because decades of experience show they work, not because there is a proof that they always will.

5. The curse of dimensionality and the mystery of neural networks

Richardson’s grids work well in 1, 2 or 3 dimensions. But many problems have tens or hundreds of dimensions. With just 10 points per direction, a grid in 100 dimensions would have 10¹⁰⁰ points, more than the atoms in the observable universe. This is called the curse of dimensionality.

Example of use: a bank wants to compute the fair price of a contract that depends on 100 different stocks. The Black–Scholes equation for this case has 100 dimensions. In 2018, Jiequn Han, Arnulf Jentzen and Weinan E showed that neural networks can solve equations of this kind in hundreds of dimensions. ^[17] The same happens in quantum chemistry, where each electron in a molecule adds three dimensions. It works, but theory does not yet fully explain why neural networks escape the curse, nor when the result can be trusted. It is one of the most active questions in mathematics today.

Looking ahead

Predicting the future of a science is risky, but some trends are already under way and are likely to shape the coming decades.

Exascale computers and the energy limit

In 2022, the Frontier supercomputer in the United States was the first to officially pass 1 exaflop, that is, 10¹⁸ calculations per second. ^[46] In 2024, El Capitan reached about 1.7 exaflops. ^[47] In Brazil, the Santos Dumont supercomputer at LNCC, in Petrópolis, serves research in climate, energy and health. ^[22] The next limit is not speed but energy: these machines consume tens of megawatts. So the efficiency of algorithms will count more and more than brute force.

Tailored precision

Graphics cards built for artificial intelligence are much faster with low-precision numbers of 16 or even 8 bits. A strong line of research mixes precisions: it does most of the work with few digits and then corrects the result with a few high-precision calculations, recovering all 16 digits. ^[20] This makes the error analysis of Wilkinson and Kahan even more important.

Artificial intelligence as a calculator

In 2023, the GraphCast model, trained on decades of data, produced 10-day forecasts in under a minute, beating the best traditional model on most measures. ^[21] On 25 February 2025, the European Centre for Medium-Range Weather Forecasts (ECMWF) put its own AI model, AIFS, into operation, using about a thousand times less energy per forecast. ^[10] Physics-informed neural networks, which learn while respecting the equations, have also appeared. ^[40] The challenge ahead is guaranteeing the error: an AI model can be right very often and, now and then, wrong in unexpected ways. The trend is to combine AI with classical methods, which provide guarantees.

AI inventing algorithms

AlphaTensor (2022) and AlphaEvolve (2025) showed that AI systems can discover new numerical algorithms, which are then verified by mathematicians. ^{[13] [26]} Many of the next improvements in algorithms for multiplication, integration and optimisation are likely to come from this partnership between people and machines.

Quantum computing, with caution

In 2009, Aram Harrow, Avinatan Hassidim and Seth Lloyd proposed a quantum algorithm for linear systems that, under certain conditions, would be exponentially faster. ^[18] But Scott Aaronson summed up the problem: you have to “read the fine print”. Loading the data into the quantum computer, reading out the answer and the conditioning of the problem can wipe out the advantage. ^[2] The most realistic projection is that quantum computers will help with specific problems, such as simulating molecules, rather than replace classical numerical analysis.

Digital twins and the limit of chaos

Projects such as the European Union’s Destination Earth aim to build a digital twin of the Earth: a very high-resolution simulation, continuously fed with data, to test climate and disaster scenarios. ^[9] The same idea applies to a patient’s heart, a factory or a city. But there is a limit no computer can beat: in 1963, Edward Lorenz showed that the atmosphere is chaotic: small errors in the data grow until they destroy the forecast. ^[23] Later studies estimate that, for day-to-day weather, this limit lies at around two weeks. So the future is not one perfect forecast but ensembles of forecasts with probabilities: “70% chance of rain” is numerical analysis being honest about its own error.

Conclusions

The Babylonian scribe, Archimedes, Liu Hui, Aryabhata, Madhava, al-Kashi, Newton, Euler, Gauss, Richardson, von Neumann and Kahan lived in very different worlds, with very different tools: clay, sand, rods, paper, mechanical calculators, valves and chips. But they all did the same thing: they replaced a problem that could not be solved exactly with a sequence of simple calculations and asked how reliable the answer was.

Some ideas crossed millennia almost untouched. The Babylonian method reappeared as a special case of Newton’s method. The differences in Aryabhata’s sine table anticipated Richardson’s, and Madhava’s correction terms were already error estimates. The elimination of the Nine Chapters became Gaussian elimination and today measures the speed of supercomputers. Richardson’s finite differences, done by hand during a war, became the weather forecast you check on your phone.

At the same time, numerical analysis is far from finished. We do not know whether the fluid equations always have solutions, how fast matrices can be multiplied, or why some of our favourite methods work so well. And artificial intelligence, which depends entirely on numerical analysis, has brought new questions about trust and error.

Perhaps the biggest lesson is this: calculating well is not about having every decimal place, but about knowing which of them are true. From the clay tablet to the supercomputer, that is still the art of numerical analysis.

Essential glossary

Algorithm

A recipe with a finite number of steps for solving a problem.

Conditioning

How sensitive a problem is to small changes in the data; ill-conditioned problems amplify errors.

Convergence

When a method’s approximations get ever closer to the answer. It is quadratic when the correct digits double at each step.

Derivative

The slope of a curve at a point; it measures how fast something is changing.

Differential equation

An equation that describes how a quantity changes, rather than giving its value directly.

Finite differences

Replacing derivatives with differences between values at neighbouring grid points.

Floating point

The way computers store numbers, as scientific notation in binary (IEEE 754 standard).

Interpolation

Estimating values between the known points of a table, “joining the dots” with a line or a curve.

Iteration

Repeating the same calculation, using the previous result as the starting point.

Infinite series

A sum with infinitely many terms whose total approaches a value, such as 1 − 1/3 + 1/5 − … = π/4.

Least squares

Choosing the curve that minimises the sum of the squared errors.

Linear system

A set of first-degree equations with several unknowns.

Monte Carlo

A family of methods that use random draws to estimate results.

Root of an equation

A value that makes an expression f(x) equal to zero.

Rounding

Error caused by storing a number with a limited number of digits.

Stability

The quality of an algorithm that does not amplify rounding errors beyond what is unavoidable.

Truncation

Error caused by stopping an infinite process, such as an endless sum or an iteration.

Quick review

References

1. ACM, “William Kahan – A.M. Turing Award Laureate”, amturing.acm.org.
2. Aaronson, S., “Read the fine print”, 2015, Nature Physics 11.
3. Alman, J.; Duan, R.; Vassilevska Williams, V.; Xu, Y.; Xu, Z.; Zhou, R., “More Asymmetry Yields Faster Matrix Multiplication”, 2024, arXiv:2404.16349.
4. Bodleian Libraries, “Carbon dating finds Bakhshali manuscript contains oldest recorded origins of the symbol “zero””, 2017, bodleian.ox.ac.uk.
5. Butcher, J. C., “A history of Runge-Kutta methods”, 1996, Applied Numerical Mathematics 20.
6. Clay Mathematics Institute, “Navier–Stokes Equation”, claymath.org.
7. Cooley, J. W.; Tukey, J. W., “An algorithm for the machine calculation of complex Fourier series”, 1965, Mathematics of Computation 19.
8. Courant, R.; Friedrichs, K.; Lewy, H., “Über die partiellen Differenzengleichungen der mathematischen Physik”, 1928, Mathematische Annalen 100.
9. Destination Earth, “Destination Earth – a digital twin of the Earth”, destination-earth.eu.
10. ECMWF, “ECMWF’s AI forecasts become operational”, 2025, ecmwf.int.
11. ESA, “Ariane 501 – Presentation of Inquiry Board report”, 1996, esa.int.
12. Euler, L., “Institutionum calculi integralis, vol. 1 (E342)”, 1768, Euler Archive.
13. Fawzi, A. et al., “Discovering faster matrix multiplication algorithms with reinforcement learning”, 2022, Nature 610.
14. Fowler, D.; Robson, E., “Square Root Approximations in Old Babylonian Mathematics: YBC 7289 in Context”, 1998, Historia Mathematica 25.
15. Goldberg, D., “What Every Computer Scientist Should Know About Floating-Point Arithmetic”, 1991, ACM Computing Surveys 23.
16. Grcar, J. F., “John von Neumann’s Analysis of Gaussian Elimination and the Origins of Modern Numerical Analysis”, 2011, SIAM Review 53.
17. Han, J.; Jentzen, A.; E, W., “Solving high-dimensional partial differential equations using deep learning”, 2018, PNAS 115.
18. Harrow, A. W.; Hassidim, A.; Lloyd, S., “Quantum algorithm for linear systems of equations”, 2009, arXiv:0811.3171.
19. Higham, N. J., “Accuracy and Stability of Numerical Algorithms, 2nd ed.”, 2002, SIAM.
20. Higham, N. J.; Mary, T., “Mixed precision algorithms in numerical linear algebra”, 2022, Acta Numerica 31.
21. Lam, R. et al., “Learning skillful medium-range global weather forecasting”, 2023, Science 382.
22. LNCC, “Supercomputador Santos Dumont”, sdumont.lncc.br.
23. Lorenz, E. N., “Deterministic Nonperiodic Flow”, 1963, Journal of the Atmospheric Sciences 20.
24. Lynch, P., “The origins of computer weather prediction and climate modeling”, 2008, Journal of Computational Physics 227.
25. Metropolis, N.; Ulam, S., “The Monte Carlo Method”, 1949, Journal of the American Statistical Association 44.
26. Novikov, A. et al., “AlphaEvolve: A coding agent for scientific and algorithmic discovery”, 2025, arXiv:2506.13131.
27. O’Connor, J. J.; Robertson, E. F., “Ghiyath al-Din Jamshid Mas’ud al-Kashi”, MacTutor.
28. O’Connor, J. J.; Robertson, E. F., “Abu Ja’far Muhammad ibn Musa Al-Khwarizmi”, MacTutor.
29. O’Connor, J. J.; Robertson, E. F., “Archimedes of Syracuse”, MacTutor.
30. O’Connor, J. J.; Robertson, E. F., “Aryabhata the Elder”, MacTutor.
31. O’Connor, J. J.; Robertson, E. F., “Brahmagupta”, MacTutor.
32. O’Connor, J. J.; Robertson, E. F., “Johann Carl Friedrich Gauss”, MacTutor.
33. O’Connor, J. J.; Robertson, E. F., “Heron of Alexandria”, MacTutor.
34. O’Connor, J. J.; Robertson, E. F., “Martin Wilhelm Kutta”, MacTutor.
35. O’Connor, J. J.; Robertson, E. F., “Liu Hui”, MacTutor.
36. O’Connor, J. J.; Robertson, E. F., “Madhava of Sangamagramma”, MacTutor.
37. O’Connor, J. J.; Robertson, E. F., “Nine chapters on the Mathematical art”, MacTutor.
38. O’Connor, J. J.; Robertson, E. F., “Lewis Fry Richardson”, MacTutor.
39. Plofker, K., “Mathematics in India”, 2009, Princeton University Press.
40. Raissi, M.; Perdikaris, P.; Karniadakis, G. E., “Physics-informed neural networks”, 2019, Journal of Computational Physics 378.
41. Roy, R., “The Discovery of the Series Formula for π by Leibniz, Gregory and Nilakantha”, 1990, Mathematics Magazine 63.
42. Smale, S., “Mathematical problems for the next century”, 1998, The Mathematical Intelligencer 20.
43. Spielman, D. A.; Teng, S.-H., “Smoothed analysis of algorithms: Why the simplex algorithm usually takes polynomial time”, 2004, Journal of the ACM 51.
44. Stigler, S. M., “Gauss and the Invention of Least Squares”, 1981, The Annals of Statistics 9.
45. Strassen, V., “Gaussian elimination is not optimal”, 1969, Numerische Mathematik 13.
46. TOP500, “June 2022 list”, 2022, top500.org.
47. TOP500, “November 2024 list”, 2024, top500.org.
48. Trefethen, L. N.; Schreiber, R. S., “Average-case stability of Gaussian elimination”, 1990, SIAM Journal on Matrix Analysis and Applications 11.
49. Trefethen, L. N., “The definition of numerical analysis”, 1992, SIAM News.
50. Turing, A. M., “Rounding-off errors in matrix processes”, 1948, The Quarterly Journal of Mechanics and Applied Mathematics 1.
51. U.S. General Accounting Office, “Patriot Missile Defense: Software Problem Led to System Failure at Dhahran, Saudi Arabia (IMTEC-92-26)”, 1992, gao.gov.
52. von Neumann, J.; Goldstine, H. H., “Numerical inverting of matrices of high order”, 1947, Bulletin of the AMS 53.
53. Wikipedia, “Vancouver Stock Exchange”, en.wikipedia.org.
54. Ypma, T. J., “Historical development of the Newton–Raphson method”, 1995, SIAM Review 37.

Che cos’è il calcolo numerico

Quanto fa la radice quadrata di 2? Dove sarà un pianeta il mese prossimo? Domani pioverà? Per quasi tutte le domande importanti della scienza non esiste una formula che dia la risposta esatta. Il calcolo numerico è l’arte di arrivare vicino quanto serve, usando solo conti semplici, e di sapere esattamente quanto vicino siamo arrivati.

Il matematico Lloyd Nick Trefethen, dell’Università di Oxford, ha riassunto la disciplina in una frase: il calcolo numerico (o analisi numerica) è lo studio degli algoritmi per i problemi della matematica continua. ^[49] “Continua” significa tutto ciò che riguarda numeri reali, curve, aree, velocità e cambiamenti; un “algoritmo” è una ricetta con un numero finito di passi. La sfida è sostituire qualcosa di infinito, come le infinite cifre decimali di √2, con una ricetta che finisce.

Tre idee che attraversano tutta la storia

• Approssimare: invece del valore esatto, cerchiamo un valore abbastanza buono. Un ingegnere non ha bisogno di √2 con un milione di cifre; gliene bastano poche, ma giuste.
• Iterare: ripetere un conto semplice molte volte, avvicinandosi ogni volta di più. Quasi tutti i metodi di questo articolo sono ripetizioni intelligenti.
• Controllare l’errore: sapere di quanto la risposta può essere sbagliata. Un risultato senza stima dell’errore è solo un’ipotesi con molte cifre decimali.

In questo articolo seguiremo queste tre idee per quattromila anni: dalle tavolette d’argilla di Babilonia ai supercomputer e all’intelligenza artificiale. Per ogni epoca vedremo chi erano i pensatori, com’era il mondo, quale problema volevano risolvere, la teoria spiegata passo dopo passo ed esempi d’uso.

Le origini in ordine cronologico

La linea del tempo qui sotto mostra le dieci tappe del nostro viaggio. Le date non sono in scala: tra Babilonia e Archimede passarono più di 1.500 anni; tra l’ENIAC e oggi, meno di 80.

Si nota uno schema: ogni epoca ha ereditato gli strumenti di quella precedente. Newton riscoprì il metodo babilonese; l’eliminazione di Gauss si trovava già in un libro cinese di duemila anni prima; e i computer elettronici fecero soltanto, molto più in fretta, ciò che i calcolatori umani già facevano a mano.

1. Babilonia ed Erone: la radice quadrata

Chi erano

Non conosciamo il nome dello scriba babilonese che, verso il 1800 a.C., incise su una piccola tavoletta d’argilla la migliore approssimazione di √2 del mondo antico. La tavoletta, chiamata YBC 7289, fa oggi parte della collezione babilonese dell’Università di Yale, negli Stati Uniti. Probabilmente era un esercizio scolastico: uno studente che copiava ciò che il maestro insegnava. ^[14]

Quasi duemila anni dopo, Erone di Alessandria (vissuto intorno al 60 d.C.) descrisse con chiarezza lo stesso metodo nel libro Metrica. Erone era ingegnere e inventore: progettò automi, un organo ad acqua e l’eolipila, una specie di macchina a vapore giocattolo. ^[33]

Il mondo in quell’epoca

Il problema

I babilonesi erano ottimi agrimensori: misuravano campi, canali d’irrigazione ed edifici. Una domanda ricorreva di continuo: quanto misura la diagonale di un quadrato? Per quello che oggi chiamiamo teorema di Pitagora, la diagonale di un quadrato di lato 1 è √2. Il guaio è che √2 non è una frazione: nessuna divisione tra numeri interi dà esattamente quel valore. Le sue cifre decimali non finiscono mai e non si ripetono.

I babilonesi scrivevano i numeri in base 60 (da lì vengono i 60 minuti dell’ora e i 360 gradi del cerchio). Sulla tavoletta compare 1;24,51,10, cioè 1 + 24/60 + 51/3.600 + 10/216.000 = 1,41421296. Il valore vero è 1,41421356: l’errore è inferiore a un milionesimo. ^[14]

La teoria, passo dopo passo

Nessuno sa con certezza come i babilonesi arrivarono a quel numero, ma il metodo più accreditato è quello descritto da Erone. L’idea è geometrica e molto elegante. Pensa a un rettangolo di area 2. Se fosse un quadrato, il lato sarebbe esattamente √2. Allora “squadriamo” il rettangolo un po’ alla volta:

• Parti da un rettangolo di lati 1 e 2 (area 2, ma per niente quadrato).
• Un lato è troppo corto e l’altro troppo lungo. Fai la media: (1 + 2) ÷ 2 = 1,5. È il nuovo lato.
• Per mantenere l’area 2, l’altro lato deve essere 2 ÷ 1,5 = 1,333.
• Ripeti: la media di 1,5 e 1,333 è 1,4167. E così via.

Sotto forma di ricetta, per calcolare √N:

nuova stima = (stima + N ÷ stima) ÷ 2

Perché funziona?
  se stima < √N, allora N ÷ stima > √N
  se stima > √N, allora N ÷ stima < √N
  → la risposta sta sempre IN MEZZO ai due, e la media è più vicina

La cosa più impressionante è la velocità: a ogni passo il numero di cifre decimali giuste quasi raddoppia. I matematici la chiamano convergenza quadratica, e la ritroveremo con Newton, 3.400 anni dopo.

Esempi d’uso

Nell’esempio di Erone, serviva l’area di un triangolo e quindi √720. Poiché 27 × 27 = 729, vicinissimo a 720, partì da 27. Un solo passo diede 26 5/6 = 26,8333, mentre il valore vero è 26,8328. ^[33] Erone aggiunse che, per avere più precisione, basta ripetere con il nuovo valore. Questa frase è forse la prima descrizione scritta di un metodo iterativo.

E non è solo storia: varianti di questo metodo sono usate ancora oggi da calcolatrici, librerie software e processori per calcolare radici quadrate, perché è semplice, veloce e usa solo addizioni e divisioni.

2. Archimede: l’assedio al numero π

Chi era

Archimede di Siracusa (c. 287–212 a.C.) è considerato uno dei più grandi matematici di tutti i tempi. Visse in Sicilia, allora colonia greca. Studiò la leva (“Datemi un punto d’appoggio e solleverò il mondo”), la spinta dei liquidi (la famosa storia dell’“Eureka!”) e inventò macchine da guerra per difendere la città. Morì nel 212 a.C., quando i romani presero Siracusa; secondo la tradizione, un soldato lo uccise mentre disegnava figure sulla sabbia. ^[29]

Il mondo in quell’epoca

Il problema

Ogni cerchio, piccolo o grande, ha lo stesso rapporto tra il giro (la circonferenza) e la larghezza (il diametro). Quel numero è π. Serve per ruote, colonne, cisterne, aree di terreni rotondi e orbite degli astri. Ma misurare con una corda dà al massimo due cifre giuste. E π, come √2, ha infinite cifre decimali che non si ripetono.

La teoria, passo dopo passo

L’idea geniale di Archimede, nel libro La misura del cerchio, fu stringere il cerchio tra due figure che sappiamo misurare: i poligoni. ^[29]

• Disegna un esagono (6 lati) dentro il cerchio. Il suo perimetro è minore della circonferenza.
• Disegna un altro esagono fuori, che tocca il cerchio. Il suo perimetro è maggiore.
• Quindi π sta in mezzo: 3,000 < π < 3,464.
• Ora raddoppia il numero di lati: 12, 24, 48, 96. I poligoni aderiscono sempre di più al cerchio e l’intervallo si stringe.

Il trucco non era disegnare, ma calcolare. Archimede trovò una regola per passare dal poligono di n lati a quello di 2n lati usando solo radici quadrate e frazioni, e calcolava quelle radici con approssimazioni come quella babilonese. È la prima volta nella storia che qualcuno fornisce insieme un’approssimazione e una garanzia sull’errore: π sta di sicuro tra quei due numeri.

perimetro interno  <  circonferenza  <  perimetro esterno
    (n lati)                                 (n lati)

diametro = 1   →   3,1410 < π < 3,1427   (n = 96)

Esempi d’uso

Con 96 lati, Archimede arrivò a 3 10/71 < π < 3 1/7, cioè 3,1408 < π < 3,1429. Arrotondava sempre “dal lato sicuro”, allargando un pochino l’intervallo perché la garanzia restasse valida. L’approssimazione 22/7 (= 3 1/7) fu usata da ingegneri e artigiani per quasi duemila anni.

Lo stesso spirito vale oggi: quando un computer calcola l’area sotto una curva (l’integrazione numerica), sostituisce la curva con tanti pezzetti dritti o rettangoli, proprio come Archimede sostituì il cerchio con i poligoni.

3. Cina: i Nove capitoli e i sistemi lineari

Chi erano

I Nove capitoli sull’arte matematica (Jiuzhang Suanshu) sono un libro cinese di 246 problemi pratici, raccolti da vari autori tra il X e il I secolo a.C. e completati intorno al I secolo d.C. Nel 263 d.C. il matematico Liu Hui, del regno di Wei, scrisse commenti che spiegano e dimostrano i metodi del libro. ^{[37] [35]} Liu Hui calcolò anche π con i poligoni, come Archimede, arrivando a 3,1416; due secoli dopo, Zu Chongzhi (429–500) dimostrò che 3,1415926 < π < 3,1415927.

Non esiste un ritratto autentico di Liu Hui. L’immagine qui sotto è una pagina di un’antica edizione dei Nove capitoli; nella colonna di destra si legge “魏 劉徽 注”: “commento di Liu Hui, di Wei”.

Il mondo in quell’epoca

Il problema

Un impero che riscuote le tasse in grano deve risolvere problemi con più quantità sconosciute contemporaneamente. Il primo problema del capitolo 8 è famoso: tre tipi di raccolto (buono, medio e scarso), tre combinazioni di covoni e il totale di grano di ciascuna combinazione. Quanto rende un covone di ciascun tipo? ^[37]

Oggi lo scriveremmo come un sistema lineare di tre equazioni:

3a + 2m + 1b = 39
2a + 3m + 1b = 34
1a + 2m + 3b = 26        (a = alta, m = media, b = bassa)

La teoria, passo dopo passo

Il metodo cinese, chiamato fangcheng (“disposizione rettangolare”), è esattamente ciò che oggi chiamiamo eliminazione di Gauss, quasi duemila anni prima di Gauss. L’idea è semplice: se moltiplichi un’intera equazione per un numero, o sottrai un’equazione da un’altra, la risposta non cambia. Usiamo quindi queste operazioni per azzerare numeri finché resta un’equazione con una sola incognita.

• Impostare la tabella: scrivi solo i numeri, una riga per equazione.
• Azzerare la prima colonna: combina le righe in modo che la prima incognita sparisca dalle righe 2 e 3.
• Un altro zero: combina le righe 2 e 3 in modo che la seconda incognita sparisca dalla riga 3. La tabella diventa una “scala”.
• Risolvere a ritroso: l’ultima riga ha una sola incognita. Risolvila, sali alla riga sopra, e così via.

Un dettaglio notevole: in queste sottrazioni a volte compaiono numeri negativi. I Nove capitoli sono tra i primi testi al mondo a dare regole per sommare e sottrarre numeri negativi, rappresentati con bastoncini neri, mentre quelli positivi erano rossi. ^[37]

Esempi d’uso

I sistemi lineari sono tra i problemi che i computer risolvono più spesso. Quando un ingegnere verifica se un ponte regge il carico, divide la struttura in milioni di pezzetti e scrive un’equazione per ciascuno. Quando un gioco 3D calcola luci e ombre, o quando si addestra un’intelligenza artificiale, avvengono miliardi di calcoli di questo tipo al secondo. La classifica dei supercomputer più veloci del mondo, la TOP500, misura proprio quanto in fretta ogni macchina risolve un sistema lineare gigantesco. ^[47]

4. India: lo zero, i seni e le serie infinite

Chi erano

L’India ha dato al calcolo numerico il suo strumento più elementare: il sistema decimale posizionale con lo zero, in cui il valore di una cifra dipende dalla posizione (il 3 di 300 vale cento volte il 3 di 3). Senza di esso, i lunghi calcoli di questo articolo sarebbero quasi impossibili. Una delle testimonianze più antiche dello zero come simbolo si trova nel manoscritto Bakhshali, un testo di matematica su corteccia di betulla ritrovato nel 1881 nell’attuale Pakistan; alcuni fogli sono stati datati con il carbonio-14 tra il III e il IV secolo, anche se la data del contenuto è ancora discussa. ^[4] Il manoscritto contiene perfino una formula per le radici quadrate equivalente a due passi del metodo babilonese. ^[39]

Aryabhata (476–550) scrisse nel 499, a 23 anni, l’Aryabhatiya, un libro di astronomia in versi che contiene una tavola dei seni e il valore π ≈ 3,1416. ^[30] Brahmagupta (598–c. 668) diede le prime regole complete per i calcoli con lo zero e con i numeri negativi (628) e, nel 665, una formula di interpolazione di secondo ordine. ^[31] E Madhava di Sangamagrama (c. 1340–1425), fondatore della scuola del Kerala, nel sud dell’India, scoprì serie infinite per seno, coseno e π circa 250 anni prima di Newton, Gregory e Leibniz. I libri di Madhava sono andati perduti; conosciamo le sue idee grazie ai successori, come Nilakantha (Tantrasangraha, 1501) e Jyeshthadeva (Yuktibhasa, c. 1530, scritto in malayalam). ^{[36] [41]}

Il mondo in quell’epoca

Il problema

L’astronomia indiana, usata per calendari, festività e previsione delle eclissi, dipendeva dalle tavole dei seni. Aryabhata divise un quarto di cerchio in 24 archi di 3°45’ e aveva bisogno del “seno” di ciascuno, la semicorda che gli indiani chiamavano jyā, “corda d’arco”. Una curiosità: jyā diventò jība in arabo, fu letta per errore come jaib (“piega”) e tradotta in latino come sinus, da cui “seno”. Oltre ai 24 valori, gli astronomi avevano bisogno dei seni intermedi e di un π preciso.

Un dettaglio ingegnoso: Aryabhata usò un cerchio di raggio 3438. Poiché il giro completo ha 21.600 minuti d’arco e 21.600 ÷ 2π ≈ 3438, in questo cerchio un arco piccolo e il suo seno misurano quasi lo stesso numero. E, dando π ≈ 62.832 ÷ 20.000 = 3,1416, Aryabhata scrisse che il valore era āsanna, “approssimato”: sapeva che non era esatto. ^[30]

La teoria, passo dopo passo

1. Costruire la tavola sommando differenze. Invece di calcolare ogni seno da zero, Aryabhata calcolò le differenze tra seni vicini. La prima è 225. Le altre si accorciano, e la regola dice di quanto: ogni nuova differenza è la precedente meno una piccola quantità proporzionale alla somma dei seni già ottenuti. Più grande il seno, più la curva piega, e più la differenza diminuisce.

nuova differenza = differenza precedente − (somma dei seni fin qui) ÷ 233,5

225
225 − 225 ÷ 233,5 ≈ 224     → seno 2 = 225 + 224 = 449
224 − 449 ÷ 233,5 ≈ 222     → seno 3 = 449 + 222 = 671

Nel testo di Aryabhata il divisore è 225; con il divisore esatto, circa 233,5, la regola riproduce la tavola quasi alla perfezione. In linguaggio moderno, usò il fatto che la differenza delle differenze del seno è proporzionale al seno stesso. È la stessa idea delle differenze finite che Richardson applicherà alle previsioni del tempo 1.400 anni dopo. ^[39]

2. Interpolare con la curvatura. Per trovare un seno tra due valori della tavola, la cosa più semplice è unire i punti con una retta (interpolazione lineare). Brahmagupta, nel 665, fece di meglio: usò anche la differenza precedente per misurare quanto la curva piega e correggere la retta. È un’interpolazione di secondo ordine, circa mille anni prima delle formule di Newton e Stirling. ^[31]

seno(x₀ + t·h) ≈ seno(x₀) + t × (D₋ + D₊) ÷ 2 + t² × (D₊ − D₋) ÷ 2

D₋ = differenza precedente, D₊ = differenza successiva, t = frazione del passo (da 0 a 1)

3. Serie infinite con correzione. Madhava scoprì che π si può scrivere come una somma senza fine: π/4 = 1 − 1/3 + 1/5 − 1/7 + … Il problema è che questa somma si avvicina a π molto lentamente: con 10 termini dà ancora 3,04. La grande intuizione di Madhava fu stimare il pezzo mancante quando ci si ferma a metà, e aggiungerlo come termine di correzione. È, letteralmente, una stima dell’errore di troncamento, una delle idee centrali del calcolo numerico. ^[41]

Esempi d’uso

Sommando le differenze, i 24 seni di Aryabhata coincidono con i valori moderni (3438 × seno) quasi senza errore: solo un valore differisce di un’unità. E per trovare il seno di 80°, che sta tra 78°45’ e 82°30’, la retta tra i vicini sbaglia di 1,4; la formula di Brahmagupta di appena 0,1.

Con la correzione di Madhava, la serie di π con soli 10 termini passa da 3,04 a 3,1415902. E con una serie più rapida, π = √12 × (1 − 1/(3·3) + 1/(5·3²) − …), Madhava ottenne π con 11 cifre decimali: 3,14159265359. ^[36]

Queste idee sono ancora vive. Le tavole di funzioni costruite per differenze sono state usate fino all’era dei computer; la macchina differenziale di Charles Babbage (1822) fu progettata proprio per questo. L’interpolazione è in qualsiasi programma che “riempie” i valori tra una misura e l’altra, come i grafici della temperatura di un’app meteo. E le serie con correzione dell’errore sono alla base di come calcolatrici e computer calcolano seno, coseno e logaritmo. Il cammino passò anche per il mondo islamico: le cifre e l’astronomia indiane arrivarono a Baghdad nell’VIII secolo, dove al-Khwarizmi le studiò, come vedremo tra poco.

5. Il mondo islamico: l’algoritmo e l’iterazione

Chi erano

Muhammad ibn Musa al-Khwarizmi (c. 780–850) lavorò alla Casa della Sapienza di Baghdad, un centro di ricerca e traduzione creato dai califfi abbasidi. Intorno all’820 scrisse il libro che diede il nome all’algebra (da al-jabr, “ripristinare”) e un altro che insegnava a calcolare con le cifre indiane, zero compreso. Quando questo secondo libro fu tradotto in latino, nel XII secolo, iniziava con “Algoritmi dixit” (“così disse al-Khwarizmi”). Dal suo nome deriva la parola algoritmo. ^[28]

Jamshid al-Kashi (c. 1380–1429) fu il grande calcolatore dell’osservatorio di Samarcanda, nell’attuale Uzbekistan, fondato dal sultano e astronomo Ulugh Beg. Nel 1424 calcolò π con 16 cifre decimali, un record durato circa 180 anni. Nel 1427 completò La chiave dell’aritmetica, un manuale di calcolo con le frazioni decimali. ^[27]

Il mondo in quell’epoca

Il problema

L’astronomia islamica aveva bisogno di tavole dei seni molto precise: per prevedere le eclissi, costruire calendari lunari, fissare gli orari della preghiera e trovare la direzione della Mecca. La tavola comincia dal seno di 1°, ed era lì il nodo. Con la geometria si calcola esattamente il seno di 3°. Ma per passare da 3° a 1° bisognerebbe dividere un angolo in tre parti uguali, cosa impossibile con riga e compasso (i greci lo sospettavano; la dimostrazione arrivò nel 1837).

La teoria, passo dopo passo

Al-Kashi usò un’identità trigonometrica: sen 3θ = 3 sen θ − 4 sen³ θ. Con θ = 1° e chiamando x = sen 1°, diventa un’equazione di terzo grado: sen 3° = 3x − 4x³. Invece di cercare una formula, fece una cosa molto moderna: riscrisse l’equazione nella forma x = g(x) e ripeté il calcolo.

sen 3° = 3x − 4x³
    3x = sen 3° + 4x³
     x = (sen 3° + 4x³) ÷ 3      ← forma x = g(x)

stima → applica g → nuova stima → applica g → …

Si chiama iterazione di punto fisso. Un “punto fisso” è un numero che, messo dentro g, esce uguale: x = g(x). Sul grafico è dove la curva di g incontra la retta y = x. Partendo da una stima e applicando g più volte, i valori formano una scaletta che scende fino a quel punto. Funziona quando g “accorcia le distanze”; nel caso di al-Kashi il termine 4x³ è minuscolo (x vale circa 0,017), quindi ogni giro cambia pochissimo e il processo converge in fretta.

Esempi d’uso

Partendo da sen 3° ÷ 3, ogni giro aggiunge da 3 a 4 cifre giuste. In pochi giri al-Kashi ebbe il seno di 1° con più precisione di qualsiasi tavola precedente. Per π usò i poligoni come Archimede, ma con 805.306.368 lati, ottenendo 3,1415926535897932. ^[27]

L’iterazione di punto fisso oggi è ovunque: l’algoritmo PageRank, usato da Google per ordinare le pagine web, è un’iterazione di questo tipo; i programmi di ingegneria la usano per risolvere equazioni non lineari; e molti metodi di intelligenza artificiale sono, in fondo, “ripeti finché non cambia più”.

6. Newton e Raphson: le radici delle equazioni

Chi erano

Isaac Newton (1643–1727) creò, tra le altre cose, le leggi del moto, la legge di gravitazione e (insieme a Leibniz) il calcolo differenziale e integrale. In un manoscritto del 1669, De analysi, mostrò come trovare le radici delle equazioni con una sequenza di correzioni, usando l’esempio x³ − 2x − 5 = 0. Joseph Raphson (c. 1648–1715), membro della Royal Society, pubblicò nel 1690 una versione più semplice e generale del metodo. Per questo oggi si chiama metodo di Newton-Raphson. La forma con le derivate che usiamo oggi fu scritta da Thomas Simpson nel 1740. ^[54]

Non si conosce alcun ritratto di Raphson; il documento qui sopra, con la sua firma, è una delle poche tracce della sua vita. Chi firma come testimone è Edmond Halley, quello della cometa.

Il mondo in quell’epoca

Il problema

Keplero aveva scoperto che i pianeti percorrono ellissi e spazzano aree uguali in tempi uguali. Ma per sapere dove si trova un pianeta in una certa data bisogna risolvere l’equazione di Keplero: M = E − e · sen E. M viene dal tempo, e indica quanto è schiacciata l’orbita ed E dà la posizione. Non esiste una formula che isoli E. È un problema di ricerca della radice di un’equazione: il valore che rende nulla f(E) = E − e · sen E − M. Navigatori, astronomi e compilatori di calendari dovevano farlo di continuo.

La teoria, passo dopo passo

L’idea di Newton è sostituire la curva difficile con una retta facile. Vista molto da vicino, ogni curva liscia sembra una retta, la retta tangente. E trovare dove una retta taglia lo zero è facile: basta una divisione.

• Scegli una stima x₀ vicina alla radice.
• Calcola l’altezza della curva in quel punto, f(x₀), e la sua pendenza, f’(x₀) (la derivata).
• Segui la retta tangente finché tocca l’asse orizzontale. È la nuova stima, x₁.
• Ripeti a partire da x₁.

x nuovo = x − f(x) ÷ f’(x)

altezza ÷ pendenza = quanto spostarsi in orizzontale per arrivare a zero

Esempi d’uso

Partendo da x = 2, il metodo trova la radice 2,0945514815… in quattro passi. Guarda la colonna degli errori: 0,09, poi 0,005, poi 0,00002, poi 0,0000000002. Ogni errore è circa il quadrato del precedente. È la stessa convergenza quadratica del metodo babilonese, e non per caso: applicando Newton all’equazione x² − 2 = 0, la formula diventa (x + 2 ÷ x) ÷ 2, esattamente la ricetta della tavoletta di 3.600 anni prima.

Oggi il metodo di Newton gira dentro il GPS (per trovare la tua posizione dai segnali dei satelliti), nei programmi di ingegneria, nelle calcolatrici finanziarie (per trovare il tasso d’interesse di un mutuo) e nell’addestramento di alcuni modelli di intelligenza artificiale. Nello stesso periodo Newton creò anche formule di interpolazione, per “unire i punti” di una tabella e stimare i valori intermedi, un’idea perfezionata da Lagrange nel 1795.

7. Eulero, Runge e Kutta: prevedere il futuro passo dopo passo

Chi erano

Leonhard Euler (1707–1783), in italiano Eulero, nato a Basilea, in Svizzera, fu il matematico più prolifico della storia: le sue opere complete occupano più di 80 volumi. Lavorò nelle accademie di San Pietroburgo e di Berlino e continuò a produrre anche dopo essere diventato quasi cieco. Nel libro Institutionum calculi integralis (1768) descrisse il metodo più semplice per risolvere le equazioni differenziali, che oggi porta il suo nome. ^[12]

Più di un secolo dopo, i tedeschi Carl Runge (1856–1927), nel 1895, e Martin Wilhelm Kutta (1867–1944), nel 1901, crearono metodi molto più precisi, noti come Runge-Kutta. Kutta è famoso anche in aerodinamica, per il calcolo della forza che sostiene le ali di un aereo. ^{[5] [34]}

Il mondo in quell’epoca

Il problema

Molte leggi della natura non dicono dove si trovano le cose, ma come cambiano. Un caffè caldo si raffredda più in fretta quanto più è caldo. Una palla di cannone cambia velocità per la gravità e la resistenza dell’aria. Una popolazione cresce in proporzione al numero di abitanti. Queste regole sono equazioni differenziali. Risolverle significa ricostruire l’intero percorso a partire dalla regola di cambiamento. Il problema: quasi nessuna equazione differenziale reale ha una formula pronta.

La teoria, passo dopo passo

L’idea di Eulero è la più naturale possibile: se sai dove stai andando adesso, fai un passetto in quella direzione e guarda di nuovo.

• Parti dal punto noto (per esempio, la temperatura del caffè adesso).
• Usa la regola per calcolare la pendenza, cioè quanto in fretta la cosa sta cambiando in questo istante.
• Fai un passo di lunghezza h seguendo quella pendenza.
• Nel nuovo punto calcola la nuova pendenza e ripeti.

y nuovo = y + h × pendenza

Esempio: y’ = y   (la pendenza è uguale al valore stesso)
y(0) = 1, h = 0,25:
  1 → 1 + 0,25 × 1 = 1,25 → 1,25 + 0,25 × 1,25 = 1,5625 → …

Il difetto del metodo di Eulero è che usa la pendenza dell’inizio del passo per tutto il passo, e così si allontana dalla curva. Passi più piccoli aiutano, ma costano più conti. L’idea di Runge e Kutta fu “sbirciare” la pendenza in più punti dentro il passo (all’inizio, due volte a metà e alla fine) e farne una media pesata. Il metodo classico del quarto ordine, l’RK4, usa i pesi 1, 2, 2 e 1. ^[5]

Esempi d’uso

L’equazione y’ = y, partendo da y = 1, ha come risposta in x = 1 il famoso numero e = 2,71828… Con 4 passi Eulero sbaglia del 10%; con 100 passi sbaglia ancora dello 0,5%. L’RK4, con gli stessi 4 passi, sbaglia solo dello 0,003%. Per questo i metodi di tipo Runge-Kutta sono il “pane quotidiano” della simulazione: si trovano nei motori fisici dei videogiochi, nei programmi che calcolano orbite di satelliti e traiettorie di razzi, nelle simulazioni di epidemie e nei modelli di circuiti elettrici.

8. Gauss: i minimi quadrati e il pianeta perduto

Chi era

Carl Friedrich Gauss (1777–1855), figlio di una famiglia povera di Braunschweig, in Germania, è chiamato il “principe dei matematici”. A 24 anni pubblicò un libro che rifondò la teoria dei numeri e, nello stesso anno, divenne famoso in tutta Europa per aver ritrovato un pianeta nano perduto. Diresse l’osservatorio di Gottinga per quasi 50 anni e lavorò anche sul magnetismo, sulla geodesia (la misura della Terra) e sul telegrafo. ^[32]

Il mondo in quell’epoca

Il problema

Il 1º gennaio 1801, l’astronomo Giuseppe Piazzi, a Palermo, scoprì un piccolo astro oggi chiamato Cerere. Lo seguì per circa sei settimane, finché Cerere sparì nel bagliore del Sole. Con così poche osservazioni, di un solo pezzetto dell’orbita, e con errori di misura, nessuno sapeva dove cercarlo quando fosse riapparso. Gauss calcolò l’orbita che meglio si adattava ai dati e, il 31 dicembre 1801, Cerere fu ritrovato quasi esattamente nel punto previsto. ^[32]

La teoria, passo dopo passo

Ogni misura ha un errore. Quando abbiamo più misure che incognite, nessuna curva passa esattamente per tutti i punti. Qual è allora la “migliore”? La risposta di Gauss (e, in modo indipendente, di Adrien-Marie Legendre, che la pubblicò per primo, nel 1805) è il metodo dei minimi quadrati: scegli la curva che rende la somma dei quadrati degli errori la più piccola possibile. ^[44]

• Per ogni punto, misura la distanza verticale dalla retta: è l’errore, o residuo.
• Eleva ogni errore al quadrato (così gli errori verso l’alto e verso il basso non si annullano, e quelli grandi pesano di più).
• Somma tutto. La retta migliore è quella che rende minima questa somma.

Perché i quadrati? Gauss dimostrò che, se gli errori di misura seguono la famosa curva a campana (la distribuzione normale, detta anche gaussiana), la retta dei minimi quadrati è la più probabile. Per di più, il calcolo si risolve con una formula, che porta a un sistema lineare risolto per eliminazione, la stessa dei Nove capitoli.

Esempi d’uso

pendenza   = Σ (x − x̄)(y − ȳ) ÷ Σ (x − x̄)²  = 9 ÷ 10 = 0,9
intercetta = ȳ − pendenza × x̄               = 4 − 0,9 × 3 = 1,3
altezza ≈ 0,9 × settimana + 1,3    →   settimana 6: 6,7 cm

Gauss usò i minimi quadrati per misurare il Regno di Hannover con triangoli giganti, tra il 1818 e il 1832. Oggi il metodo è nel GPS (che combina i segnali, affetti da errore, di vari satelliti), nella statistica (la “regressione lineare”), nell’economia, nella taratura degli strumenti e nell’apprendimento automatico: addestrare molte reti neurali significa, in fondo, minimizzare una somma di quadrati di errori. Nel 1814 Gauss creò anche un modo molto efficiente di calcolare gli integrali, la quadratura gaussiana, e un metodo iterativo per i sistemi lineari, poi chiamato di Gauss-Seidel.

9. Richardson: le previsioni del tempo fatte a mano

Chi era

Lewis Fry Richardson (1881–1953) fu un fisico e meteorologo inglese, quacchero e pacifista. Durante la prima guerra mondiale guidò ambulanze in Francia e, nelle pause, eseguì a mano il primo calcolo di previsione del tempo basato sulle leggi della fisica. Pubblicò tutto nel libro Weather Prediction by Numerical Process (1922). In seguito studiò matematicamente le cause delle guerre e scoprì che la lunghezza di una costa dipende dal righello usato per misurarla, un’idea che avrebbe ispirato i frattali. ^{[38] [24]}

Il mondo in quell’epoca

Il problema

All’inizio del Novecento le previsioni del tempo si facevano confrontando la carta del giorno con carte vecchie simili. Richardson volle fare diversamente: misurare lo stato dell’aria adesso (pressione, vento, temperatura, umidità) e usare le equazioni della fisica per calcolare l’aria di qualche ora dopo. Divise l’Europa centrale in una griglia di quadrati, come una scacchiera, e fece i conti per prevedere 6 ore in avanti. Gli servirono circa sei settimane. E il risultato fu un fallimento: previde una variazione di pressione di 145 ettopascal, mentre quella reale fu quasi nulla. ^[24]

Eppure Richardson immaginò il futuro: una “fabbrica di previsioni”, un grande teatro con 64.000 calcolatori umani, ciascuno responsabile di un pezzo della mappa, coordinati da un direttore d’orchestra. Era la descrizione di un supercomputer parallelo, decenni prima che esistesse. Anni dopo si scoprì che l’errore veniva dai dati iniziali, troppo “rumorosi”; rifacendo il calcolo con dati smussati, la previsione risultò ragionevole. ^[24]

La teoria, passo dopo passo

Le leggi della fisica parlano di derivate: quanto in fretta la pressione cambia da un luogo all’altro, quanto in fretta la temperatura cambia nel tempo. Un calcolatore (umano o elettronico) non sa fare derivate; sa fare conti. La soluzione sono le differenze finite: sostituire la derivata con una differenza tra punti vicini della griglia.

derivata:     f’(x) ≈ (f(x + h) − f(x)) ÷ h
curvatura:    f”(x) ≈ (f(x − h) − 2 f(x) + f(x + h)) ÷ h²

Regola del calore su una griglia:
T nuovo = T + r × (T sinistra − 2 T + T destra)

C’è una trappola, scoperta nel 1928 da Richard Courant, Kurt Friedrichs e Hans Lewy: se il passo nel tempo è troppo grande rispetto alla dimensione dei quadratini, gli errori crescono a ogni passo e la simulazione “esplode”. È la condizione CFL, che vale ancora oggi per qualsiasi simulazione di clima, suono, onde o esplosioni. ^[8]

Esempi d’uso

Nell’esempio, l’estremità sinistra di una barra sta sul fuoco (100°) e quella destra nel ghiaccio (0°). A ogni passo ogni punto interno diventa la media dei vicini (la regola del calore con r = 0,5). In 30 passi la barra si avvicina all’equilibrio: una rampa da 100 a 0. Le previsioni meteo moderne fanno esattamente questo, ma in 3D, con miliardi di punti, vento, umidità e radiazione.

Il sogno di Richardson si avverò nel 1950, quando Jule Charney, Ragnar Fjørtoft e John von Neumann fecero la prima previsione numerica riuscita sul computer ENIAC. La previsione a 24 ore richiese circa 24 ore di calcolo: andava alla pari con il tempo reale, ma funzionava. ^[24]

10. L’era digitale: errori di arrotondamento e Monte Carlo

Chi erano

L’ENIAC, completato alla fine del 1945 all’Università della Pennsylvania, fu uno dei primi computer elettronici di uso generale. Fu costruito per calcolare tavole di tiro d’artiglieria ed era programmato, con cavi e interruttori, da una squadra di sei matematiche, tra cui Betty Snyder e Kay McNulty.

John von Neumann (1903–1957), ungherese trasferitosi negli Stati Uniti, e Herman Goldstine pubblicarono nel 1947 la prima analisi rigorosa di come gli errori di arrotondamento si accumulano in un computer che risolve sistemi lineari: molti considerano quell’articolo la nascita dell’analisi numerica moderna. ^{[52] [16]} Nel 1948 Alan Turing (1912–1954) studiò lo stesso problema e introdusse l’idea di numero di condizionamento, che misura quanto un problema è sensibile a piccoli errori. ^[50] Stanislaw Ulam, von Neumann e Nicholas Metropolis crearono a Los Alamos il metodo Monte Carlo (1946–1949). ^[25] E William Kahan (nato nel 1933) guidò la creazione dello standard IEEE 754 (1985), che definisce come quasi tutti i computer del mondo memorizzano i numeri con la virgola; per questo ricevette il Premio Turing nel 1989. ^[1]

Il mondo in quell’epoca

Il problema

Un computer fa miliardi di conti al secondo, ma ogni numero è memorizzato con un numero limitato di cifre. Ogni conto può introdurre un minuscolo errore di arrotondamento. Il pericolo è che questi errori si accumulino lungo milioni di passi. Tre casi reali:

• Borsa di Vancouver (1982–1983): l’indice partì da 1.000 e, a ogni aggiornamento, veniva troncato (non arrotondato) alla terza cifra decimale. In 22 mesi scese a 524,811, quando il valore corretto era 1.098,892. ^[53]
• Missile Patriot (1991): l’orologio del sistema contava decimi di secondo, ma 0,1 non si può scrivere esattamente in binario. Dopo 100 ore di funzionamento l’errore arrivò a 0,34 secondi, abbastanza perché il radar cercasse il missile nemico a più di 600 metri dal punto giusto. Il 25 febbraio 1991, a Dhahran, in Arabia Saudita, il guasto lasciò passare un missile che uccise 28 soldati. ^[51]
• Razzo Ariane 5 (1996): al volo inaugurale, un numero troppo grande fu convertito in un formato a 16 bit che non poteva contenerlo. Il sistema di navigazione si guastò e il razzo si autodistrusse 37 secondi dopo il lancio. ^[11]

La teoria, passo dopo passo

Virgola mobile. Il computer memorizza i numeri come la notazione scientifica che impariamo a scuola (6,02 × 10²³), ma in binario: un segno, una mantissa con le cifre e un esponente che dice dove sta la virgola. Nel formato più usato (doppia precisione IEEE 754) la mantissa ha 53 cifre binarie, il che dà circa 16 cifre decimali. ^[15]

• I numeri che il computer riesce a memorizzare sono come le tacche di un righello: fittissime vicino allo zero e sempre più distanziate per i numeri grandi.
• Qualsiasi numero che cade tra due tacche viene arrotondato a quella più vicina.
• 0,1 in binario è 0,000110011001100…, con “0011” che si ripete all’infinito. Viene quindi memorizzato con un errore minuscolo, e 0,1 + 0,2 dà 0,30000000000000004.

Stabilità e condizionamento. Von Neumann, Turing e poi James Wilkinson separarono due domande. Prima: il problema è sensibile? Un problema mal condizionato (con numero di condizionamento alto) amplifica qualsiasi errore nei dati, qualunque sia il metodo. Seconda: l’algoritmo è stabile? Un algoritmo stabile non amplifica gli errori di arrotondamento oltre quanto farebbe il problema stesso. Negli anni Sessanta Wilkinson mostrò che la domanda giusta è: “la risposta calcolata è la risposta esatta di un problema quasi uguale?” Si chiama analisi all’indietro dell’errore. ^[19]

Monte Carlo. Nel 1946, convalescente da una malattia e giocando a solitario, Ulam si chiese quale fosse la probabilità di vincere una partita. Calcolarla era difficile; giocare molte volte e contare era facile. Nacque così l’idea di risolvere problemi con estrazioni casuali. Il nome, suggerito da Metropolis, è un omaggio al casinò di Monte Carlo. ^[25]

Esempi d’uso

Estrai punti a caso in un quadrato di lato 1. La frazione che cade dentro il quarto di cerchio è circa la sua area: π ÷ 4. Con 200 punti otteniamo 3,16; con 1 milione, 3,1414. Il metodo è lento per π (l’errore cala come 1 diviso la radice del numero di punti), ma ha un vantaggio enorme: continua a funzionare in problemi con centinaia di dimensioni, dove le griglie di Richardson sono impossibili. Per questo Monte Carlo si usa per calcolare il rischio finanziario, simulare reattori nucleari, disegnare luci realistiche nei film d’animazione e prevedere la diffusione delle epidemie.

Altre conquiste di quest’epoca: la trasformata veloce di Fourier (FFT) di James Cooley e John Tukey (1965), che accelera l’elaborazione di suoni, immagini e segnali ed è in ogni cellulare ^[7]; e le librerie di algebra lineare come LINPACK e LAPACK, che hanno messo decenni di ricerca alla portata di qualsiasi programmatore.

Grandi problemi senza risposta

Dopo quattromila anni, il calcolo numerico è ancora pieno di domande aperte. Alcune valgono premi da un milione di dollari; altre stanno dietro a tecnologie che usiamo ogni giorno senza sapere esattamente perché funzionano.

1. Navier-Stokes e la turbolenza

Le equazioni di Navier-Stokes, dell’Ottocento, descrivono il moto di liquidi e gas: aria, acqua, sangue. Nessuno è riuscito a dimostrare che abbiano sempre una soluzione “ben educata” in tre dimensioni, o che a volte la soluzione “esploda”. È uno dei sette Problemi del Millennio, con un premio di un milione di dollari dell’Istituto Clay. ^[6]

Esempio d’uso: progettare l’ala di un aereo. L’aria attorno all’ala è turbolenta: forma vortici di tante dimensioni, dai metri ai decimi di millimetro. Per simularli tutti direttamente, la griglia richiederebbe un numero di punti che cresce all’incirca come la potenza 9/4 del cosiddetto numero di Reynolds; per un aereo di linea sono milioni di miliardi di punti (10¹⁵ o più), seguiti per milioni di passi temporali, molto oltre qualsiasi computer attuale. Per questo gli ingegneri usano modelli di turbolenza: formule approssimate per i vortici piccoli, tarate con esperimenti. Funzionano bene nella maggior parte dei casi, ma falliscono in situazioni estreme, come un aereo vicino allo stallo. Lo stesso vale per le auto di Formula 1, le turbine eoliche, le previsioni meteo e il flusso del sangue nelle arterie. Senza capire la matematica delle equazioni, non sappiamo garantire quando una simulazione è affidabile.

2. Quanto in fretta si possono moltiplicare le matrici?

Moltiplicare due tabelle di numeri n × n (matrici) con il metodo scolastico richiede n³ moltiplicazioni. Nel 1969 Volker Strassen mostrò che se ne potevano fare meno, circa n^2,807. ^[45] Da allora la corsa al più piccolo esponente, chiamato ω, non si è mai fermata. Il record nel 2024 è ω < 2,371339. ^[3] La domanda aperta: si può arrivare a ω = 2, cioè moltiplicare matrici quasi alla stessa velocità con cui si leggono i numeri?

Esempio d’uso: addestrare un’intelligenza artificiale come un grande modello linguistico consiste, per la maggior parte del tempo, nel moltiplicare matrici enormi sulle schede grafiche. Un algoritmo migliore farebbe risparmiare energia e denaro su scala mondiale. Ma c’è un tranello: gli algoritmi con gli esponenti più piccoli sono “galattici”, battono il metodo comune solo per matrici così grandi da non stare in nessun computer. In pratica i guadagni vengono da trucchi più piccoli. Nel 2022 il sistema di IA AlphaTensor trovò un modo di moltiplicare matrici 4 × 4 con 47 moltiplicazioni, in un’aritmetica speciale ^[13]; nel 2025 AlphaEvolve ne trovò uno con 48 moltiplicazioni per i numeri complessi, migliorando un record di Strassen che durava da 56 anni. ^[26]

3. Esiste un algoritmo “fortemente polinomiale” per la programmazione lineare?

La programmazione lineare è il problema di scegliere delle quantità (quanto produrre, trasportare o comprare) per spendere il meno possibile o guadagnare il più possibile, rispettando dei limiti. George Dantzig creò nel 1947 il metodo del simplesso, che risolve questi problemi molto in fretta nella pratica. Ma nel 1972 Victor Klee e George Minty mostrarono casi in cui richiede un tempo esponenziale. Poi arrivarono metodi con tempo polinomiale garantito (Khachiyan, 1979; Karmarkar, 1984), il cui tempo però dipende da quante cifre hanno i dati. Esiste un metodo il cui numero di passi dipenda solo dal numero di variabili e di vincoli? È il 9º problema della lista di Steve Smale per il XXI secolo, ancora senza risposta. ^[42]

Esempio d’uso: una compagnia aerea deve organizzare i turni di migliaia di piloti e assistenti di volo per migliaia di voli, rispettando ore di riposo, basi e costi. Le raffinerie decidono quanto produrre di ogni carburante; le catene di supermercati, quanto inviare a ciascun negozio. Il primo grande esempio fu il “problema della dieta”: nel 1947 risolverlo con il simplesso (trovare la dieta più economica che soddisfa i fabbisogni nutrizionali) richiese 120 giorni di lavoro di 9 persone con calcolatrici da tavolo. Oggi bastano millisecondi. Nel 2004 Daniel Spielman e Shang-Hua Teng spiegarono in parte perché il simplesso è veloce nella pratica, con l’analisi smussata: i casi lenti sono così “fragili” che una piccola perturbazione dei dati li fa sparire. ^[43] Ma la domanda di Smale resta aperta.

4. Perché l’eliminazione di Gauss funziona così bene?

Il metodo dei Nove capitoli, con un piccolo miglioramento chiamato pivoting parziale (scambiare le righe per dividere sempre per il numero più grande disponibile), è usato praticamente in tutto il software scientifico. In teoria, però, esistono matrici in cui i numeri intermedi crescono come 2ⁿ⁻¹, il che distruggerebbe tutte le cifre decimali di un sistema con qualche decina di incognite. In pratica non succede quasi mai. Perché? Lloyd Trefethen e Robert Schreiber studiarono il comportamento medio nel 1990, ma una spiegazione completa ancora non esiste. ^[48]

Esempio d’uso: nel progetto di un edificio, un programma di ingegneria strutturale risolve sistemi con centinaia di migliaia di incognite per eliminazione. Se la crescita “teorica” avvenisse, il risultato sarebbe spazzatura numerica, e nessuno se ne accorgerebbe senza una verifica. Ci fidiamo di questi programmi perché decenni di esperienza mostrano che funzionano, non perché esista una dimostrazione che funzioneranno sempre.

5. La maledizione della dimensionalità e il mistero delle reti neurali

Le griglie di Richardson funzionano bene in 1, 2 o 3 dimensioni. Ma molti problemi hanno decine o centinaia di dimensioni. Con soli 10 punti per direzione, una griglia in 100 dimensioni avrebbe 10¹⁰⁰ punti, più degli atomi dell’universo osservabile. È la maledizione della dimensionalità.

Esempio d’uso: una banca vuole calcolare il prezzo equo di un contratto che dipende da 100 azioni diverse. L’equazione di Black-Scholes per questo caso ha 100 dimensioni. Nel 2018 Jiequn Han, Arnulf Jentzen e Weinan E mostrarono che le reti neurali riescono a risolvere equazioni di questo tipo in centinaia di dimensioni. ^[17] Lo stesso accade nella chimica quantistica, dove ogni elettrone di una molecola aggiunge tre dimensioni. Funziona, ma la teoria non spiega ancora del tutto perché le reti neurali sfuggono alla maledizione, né quando ci si può fidare del risultato. È una delle domande più vive della matematica di oggi.

Uno sguardo al futuro

Prevedere il futuro di una scienza è rischioso, ma alcune tendenze sono già in corso e probabilmente segneranno i prossimi decenni.

Computer exascala e il limite dell’energia

Nel 2022 il supercomputer Frontier, negli Stati Uniti, fu il primo a superare ufficialmente 1 exaflop, cioè 10¹⁸ operazioni al secondo. ^[46] Nel 2024 El Capitan arrivò a circa 1,7 exaflop. ^[47] In Brasile il supercomputer Santos Dumont, del LNCC, a Petrópolis, serve la ricerca su clima, energia e salute. ^[22] Il prossimo limite non è la velocità ma l’energia: queste macchine consumano decine di megawatt. Per questo l’efficienza degli algoritmi conterà sempre più della forza bruta.

Precisione su misura

Le schede grafiche progettate per l’intelligenza artificiale sono molto più veloci con numeri a bassa precisione, da 16 o persino 8 bit. Una linea di ricerca importante mescola le precisioni: fa la maggior parte del lavoro con poche cifre e poi corregge il risultato con qualche calcolo ad alta precisione, recuperando tutte le 16 cifre. ^[20] Per questo l’analisi dell’errore di Wilkinson e Kahan diventa ancora più importante.

L’intelligenza artificiale come calcolatore

Nel 2023 il modello GraphCast, addestrato su decenni di dati, produsse previsioni a 10 giorni in meno di un minuto, battendo il miglior modello tradizionale nella maggior parte delle misure. ^[21] Il 25 febbraio 2025 il Centro europeo per le previsioni meteorologiche a medio termine (ECMWF) ha messo in funzione il proprio modello di IA, AIFS, che consuma circa mille volte meno energia per previsione. ^[10] Sono nate anche le reti neurali informate dalla fisica, che imparano rispettando le equazioni. ^[40] La sfida per il futuro è garantire l’errore: un modello di IA può azzeccare molto spesso e, ogni tanto, sbagliare in modo inatteso. La tendenza è combinare l’IA con i metodi classici, che offrono garanzie.

L’IA che inventa algoritmi

AlphaTensor (2022) e AlphaEvolve (2025) hanno mostrato che i sistemi di IA possono scoprire nuovi algoritmi numerici, poi verificati dai matematici. ^{[13] [26]} È probabile che molti dei prossimi miglioramenti negli algoritmi di moltiplicazione, integrazione e ottimizzazione vengano da questa collaborazione tra persone e macchine.

Calcolo quantistico, con cautela

Nel 2009 Aram Harrow, Avinatan Hassidim e Seth Lloyd proposero un algoritmo quantistico per i sistemi lineari che, in certe condizioni, sarebbe esponenzialmente più veloce. ^[18] Ma Scott Aaronson ha riassunto il problema: bisogna “leggere le clausole in piccolo”. Caricare i dati nel computer quantistico, leggere la risposta e il condizionamento del problema possono annullare il vantaggio. ^[2] La proiezione più realistica è che i computer quantistici aiutino in problemi specifici, come la simulazione di molecole, e non sostituiscano il calcolo numerico classico.

Gemelli digitali e il limite del caos

Progetti come Destination Earth, dell’Unione europea, vogliono costruire un gemello digitale della Terra: una simulazione ad altissima risoluzione, alimentata di continuo con dati, per testare scenari climatici e di disastri. ^[9] La stessa idea vale per il cuore di un paziente, una fabbrica o una città. Ma c’è un limite che nessun computer può superare: nel 1963 Edward Lorenz mostrò che l’atmosfera è caotica: piccoli errori nei dati crescono fino a distruggere la previsione. ^[23] Studi successivi stimano che, per il tempo di tutti i giorni, questo limite sia intorno alle due settimane. Per questo il futuro non è un’unica previsione perfetta, ma insiemi di previsioni con probabilità: “70% di probabilità di pioggia” è il calcolo numerico che è onesto sul proprio errore.

Conclusioni

Lo scriba di Babilonia, Archimede, Liu Hui, Aryabhata, Madhava, al-Kashi, Newton, Eulero, Gauss, Richardson, von Neumann e Kahan vissero in mondi molto diversi, con strumenti molto diversi: argilla, sabbia, bastoncini, carta, calcolatrici meccaniche, valvole e chip. Ma fecero tutti la stessa cosa: sostituirono un problema impossibile da risolvere esattamente con una sequenza di conti semplici e si chiesero quanto fosse affidabile la risposta.

Alcune idee hanno attraversato i millenni quasi intatte. Il metodo babilonese è riapparso come caso particolare del metodo di Newton. Le differenze della tavola dei seni di Aryabhata hanno anticipato quelle di Richardson, e i termini di correzione di Madhava erano già stime dell’errore. L’eliminazione dei Nove capitoli è diventata l’eliminazione di Gauss e oggi misura la velocità dei supercomputer. Le differenze finite di Richardson, fatte a mano durante una guerra, sono diventate le previsioni del tempo che consulti sul cellulare.

Allo stesso tempo, il calcolo numerico è tutt’altro che concluso. Non sappiamo se le equazioni dei fluidi abbiano sempre soluzione, né quanto in fretta si possano moltiplicare le matrici, né perché alcuni dei nostri metodi preferiti funzionino così bene. E l’intelligenza artificiale, che dipende interamente dal calcolo numerico, ha portato nuove domande su fiducia ed errore.

Forse la lezione più grande è questa: calcolare bene non significa avere tutte le cifre decimali, ma sapere quali sono vere. Dalla tavoletta d’argilla al supercomputer, questa resta l’arte del calcolo numerico.

Glossario essenziale

Algoritmo

Ricetta con un numero finito di passi per risolvere un problema.

Arrotondamento

Errore dovuto al memorizzare un numero con un numero limitato di cifre.

Condizionamento

Sensibilità di un problema a piccole variazioni dei dati; i problemi mal condizionati amplificano gli errori.

Convergenza

Quando le approssimazioni di un metodo si avvicinano sempre di più alla risposta. È quadratica quando le cifre giuste raddoppiano a ogni passo.

Derivata

La pendenza di una curva in un punto; misura quanto in fretta qualcosa sta cambiando.

Differenze finite

Sostituzione delle derivate con differenze tra valori in punti vicini di una griglia.

Equazione differenziale

Equazione che descrive come cambia una quantità, invece di darne direttamente il valore.

Interpolazione

Stimare valori tra i punti noti di una tabella, “unendo i punti” con una retta o una curva.

Iterazione

Ripetere lo stesso calcolo usando il risultato precedente come punto di partenza.

Minimi quadrati

Scegliere la curva che rende minima la somma dei quadrati degli errori.

Monte Carlo

Famiglia di metodi che usano estrazioni casuali per stimare risultati.

Radice di un’equazione

Valore che rende nulla un’espressione f(x).

Serie infinita

Somma con infiniti termini il cui totale si avvicina a un valore, come 1 − 1/3 + 1/5 − … = π/4.

Sistema lineare

Insieme di equazioni di primo grado con più incognite.

Stabilità

Qualità di un algoritmo che non amplifica gli errori di arrotondamento oltre l’inevitabile.

Troncamento

Errore dovuto all’interruzione di un processo infinito, come una somma senza fine o un’iterazione.

Virgola mobile

Modo in cui il computer memorizza i numeri, come notazione scientifica in binario (standard IEEE 754).

Ripasso veloce

Riferimenti

1. ACM, “William Kahan – A.M. Turing Award Laureate”, amturing.acm.org.
2. Aaronson, S., “Read the fine print”, 2015, Nature Physics 11.
3. Alman, J.; Duan, R.; Vassilevska Williams, V.; Xu, Y.; Xu, Z.; Zhou, R., “More Asymmetry Yields Faster Matrix Multiplication”, 2024, arXiv:2404.16349.
4. Bodleian Libraries, “Carbon dating finds Bakhshali manuscript contains oldest recorded origins of the symbol “zero””, 2017, bodleian.ox.ac.uk.
5. Butcher, J. C., “A history of Runge-Kutta methods”, 1996, Applied Numerical Mathematics 20.
6. Clay Mathematics Institute, “Navier–Stokes Equation”, claymath.org.
7. Cooley, J. W.; Tukey, J. W., “An algorithm for the machine calculation of complex Fourier series”, 1965, Mathematics of Computation 19.
8. Courant, R.; Friedrichs, K.; Lewy, H., “Über die partiellen Differenzengleichungen der mathematischen Physik”, 1928, Mathematische Annalen 100.
9. Destination Earth, “Destination Earth – a digital twin of the Earth”, destination-earth.eu.
10. ECMWF, “ECMWF’s AI forecasts become operational”, 2025, ecmwf.int.
11. ESA, “Ariane 501 – Presentation of Inquiry Board report”, 1996, esa.int.
12. Euler, L., “Institutionum calculi integralis, vol. 1 (E342)”, 1768, Euler Archive.
13. Fawzi, A. et al., “Discovering faster matrix multiplication algorithms with reinforcement learning”, 2022, Nature 610.
14. Fowler, D.; Robson, E., “Square Root Approximations in Old Babylonian Mathematics: YBC 7289 in Context”, 1998, Historia Mathematica 25.
15. Goldberg, D., “What Every Computer Scientist Should Know About Floating-Point Arithmetic”, 1991, ACM Computing Surveys 23.
16. Grcar, J. F., “John von Neumann’s Analysis of Gaussian Elimination and the Origins of Modern Numerical Analysis”, 2011, SIAM Review 53.
17. Han, J.; Jentzen, A.; E, W., “Solving high-dimensional partial differential equations using deep learning”, 2018, PNAS 115.
18. Harrow, A. W.; Hassidim, A.; Lloyd, S., “Quantum algorithm for linear systems of equations”, 2009, arXiv:0811.3171.
19. Higham, N. J., “Accuracy and Stability of Numerical Algorithms, 2nd ed.”, 2002, SIAM.
20. Higham, N. J.; Mary, T., “Mixed precision algorithms in numerical linear algebra”, 2022, Acta Numerica 31.
21. Lam, R. et al., “Learning skillful medium-range global weather forecasting”, 2023, Science 382.
22. LNCC, “Supercomputador Santos Dumont”, sdumont.lncc.br.
23. Lorenz, E. N., “Deterministic Nonperiodic Flow”, 1963, Journal of the Atmospheric Sciences 20.
24. Lynch, P., “The origins of computer weather prediction and climate modeling”, 2008, Journal of Computational Physics 227.
25. Metropolis, N.; Ulam, S., “The Monte Carlo Method”, 1949, Journal of the American Statistical Association 44.
26. Novikov, A. et al., “AlphaEvolve: A coding agent for scientific and algorithmic discovery”, 2025, arXiv:2506.13131.
27. O’Connor, J. J.; Robertson, E. F., “Ghiyath al-Din Jamshid Mas’ud al-Kashi”, MacTutor.
28. O’Connor, J. J.; Robertson, E. F., “Abu Ja’far Muhammad ibn Musa Al-Khwarizmi”, MacTutor.
29. O’Connor, J. J.; Robertson, E. F., “Archimedes of Syracuse”, MacTutor.
30. O’Connor, J. J.; Robertson, E. F., “Aryabhata the Elder”, MacTutor.
31. O’Connor, J. J.; Robertson, E. F., “Brahmagupta”, MacTutor.
32. O’Connor, J. J.; Robertson, E. F., “Johann Carl Friedrich Gauss”, MacTutor.
33. O’Connor, J. J.; Robertson, E. F., “Heron of Alexandria”, MacTutor.
34. O’Connor, J. J.; Robertson, E. F., “Martin Wilhelm Kutta”, MacTutor.
35. O’Connor, J. J.; Robertson, E. F., “Liu Hui”, MacTutor.
36. O’Connor, J. J.; Robertson, E. F., “Madhava of Sangamagramma”, MacTutor.
37. O’Connor, J. J.; Robertson, E. F., “Nine chapters on the Mathematical art”, MacTutor.
38. O’Connor, J. J.; Robertson, E. F., “Lewis Fry Richardson”, MacTutor.
39. Plofker, K., “Mathematics in India”, 2009, Princeton University Press.
40. Raissi, M.; Perdikaris, P.; Karniadakis, G. E., “Physics-informed neural networks”, 2019, Journal of Computational Physics 378.
41. Roy, R., “The Discovery of the Series Formula for π by Leibniz, Gregory and Nilakantha”, 1990, Mathematics Magazine 63.
42. Smale, S., “Mathematical problems for the next century”, 1998, The Mathematical Intelligencer 20.
43. Spielman, D. A.; Teng, S.-H., “Smoothed analysis of algorithms: Why the simplex algorithm usually takes polynomial time”, 2004, Journal of the ACM 51.
44. Stigler, S. M., “Gauss and the Invention of Least Squares”, 1981, The Annals of Statistics 9.
45. Strassen, V., “Gaussian elimination is not optimal”, 1969, Numerische Mathematik 13.
46. TOP500, “June 2022 list”, 2022, top500.org.
47. TOP500, “November 2024 list”, 2024, top500.org.
48. Trefethen, L. N.; Schreiber, R. S., “Average-case stability of Gaussian elimination”, 1990, SIAM Journal on Matrix Analysis and Applications 11.
49. Trefethen, L. N., “The definition of numerical analysis”, 1992, SIAM News.
50. Turing, A. M., “Rounding-off errors in matrix processes”, 1948, The Quarterly Journal of Mechanics and Applied Mathematics 1.
51. U.S. General Accounting Office, “Patriot Missile Defense: Software Problem Led to System Failure at Dhahran, Saudi Arabia (IMTEC-92-26)”, 1992, gao.gov.
52. von Neumann, J.; Goldstine, H. H., “Numerical inverting of matrices of high order”, 1947, Bulletin of the AMS 53.
53. Wikipedia, “Vancouver Stock Exchange”, en.wikipedia.org.
54. Ypma, T. J., “Historical development of the Newton–Raphson method”, 1995, SIAM Review 37.