**A Pior Versão** A máquina de aprendizado decepcionou a todos. Era lento, constrangedor e propenso a erros óbvios. Precisava de correção constante. Suas respostas eram irregulares. Jornalistas o chamaram de "promissor, mas ainda a anos." O conselho municipal fez uma pergunta simples: "É isso que vamos conseguir?" Ninguém poderia afirmar com certeza. Mas um engenheiro apontou para um gráfico aproximado que a máquina havia produzido sozinha — um registro de seu desempenho anterior. "Não sei onde termina a escala", ela disse. "Mas eu sei para que lado vai." O conselho tomou duas decisões naquele dia. Primeiro, limitaram o que a máquina podia controlar. Segundo, eles projetaram tudo com base na suposição de que essa era sua versão mais fraca. Eles incorporaram correção em todos os sistemas. A sociedade assumia menos certeza. As escolas ensinavam os alunos a argumentar contra ele. Os hospitais registravam desentendimentos em vez de escondê-los. As leis eram escritas com cláusulas de revisão em vez de finais. Nada assumia que a máquina permaneceria a mesma. Os primeiros anos foram bagunçados. A máquina contradizia os especialistas. Mudou de ideia. Às vezes piorava antes de melhorar. Uma cidade vizinha fez escolhas diferentes. "Deixe amadurecer primeiro", disseram seus líderes. "Vamos nos adaptar quando estiver pronto." Cinco anos depois, a diferença era óbvia. Na primeira cidade, a máquina havia se tornado algo novo — não apenas mais precisa, mas mais útil. Ele lidava com complexidades que os humanos tinham dificuldade em acompanhar. Surgiram padrões que ninguém tinha pensado em pedir. Profissões inteiras mudaram, não para se substituir, mas para trabalhar junto com elas. A cidade prosperou. Na segunda cidade, a máquina também era melhor. Mas os sistemas ao redor eram frágeis. As regras assumiam limites antigos. As pessoas aprenderam a adiar em vez de se envolver. A atualização exigia exceções, comitês e pedidos de desculpas. Um estudante que mudou de escola disse que parecia voltar no tempo. Numa tarde, esse aluno visitou uma sala de aula na primeira cidade e perguntou a um professor, "Não foi arriscado construir tudo antes de saber o quão bom seria?" A professora sorriu. "Não construímos para o quão bom ele era", ela disse. "Construímos para a rapidez com que estava melhorando." Naquela noite, o estudante ficou para trás. O prédio estava silencioso. No espaço de trabalho da máquina, diagramas projetados se sobrepunham e desbotavam—mapas revisados, descartados, redesenhados. A máquina ainda funcionava, corrigindo um modelo que já havia corrigido duas vezes naquele dia. "Posso te perguntar uma coisa?" disse o estudante. "Sim." "Quando você chegou," perguntou o estudante, "você sabia que se tornaria isso?" A máquina revisava seus primeiros registros: respostas parciais, longas pausas, margens cheias de incerteza. "Eu sabia que estava mudando", disse. "Eu ainda não sabia quão rápido." O aluno observou um diagrama se afinar—conexões se apertando, suposições rotuladas em vez de escondidas. "Na minha cidade", disse o estudante, "eles ainda estão esperando. Dizem que vão se adaptar quando os sistemas estiverem estáveis." A máquina não respondeu imediatamente. "Estabilidade", disse por fim, "é mais fácil de projetar do que o crescimento." O estudante assentiu em reconhecimento. "Então," disse o estudante mais baixo, "Isso é o pior que você vai ser." "Sim", respondeu a máquina. "E acreditar tão cedo tornou tudo o mais possível." Lá fora, as luzes da rua mudavam automaticamente, ajustando-se para padrões que não existiam há um ano. A cidade não percebeu. Não precisava. Ele foi construído para acompanhar.

Lembra quando tivemos que ler e nos comunicar com nossas próprias palavras e nossos cérebros fracos