Qualidade do aço e o problema atual com a IA

Que a IA está poluindo a internet já é conhecido. Os dados gerados pela IA, e isso inclui textos, estão fundidos com informações que foram criadas pelo ser humano, de tal forma que não sabemos como lidar com isso. A cada nova IA treinada em dados que já contêm saídas de outras IAs, cria-se um ciclo em que as informações estão distorcidas. Isso leva ao que chamam de "colapso de modelo": modelos futuros aprendem menos dos humanos, menos da realidade e mais de conteúdo artificial de qualidade inferior.

Um artigo da Futurism traz uma analogia bem interessante com o aço. Antes dos anos cinquenta, o aço produzido estava livre de contaminação por radiação. Com os testes nucleares que ocorreram a partir dessa época, a radiação emitida ficou no ar. Na fabricação do aço, usa-se o ar atmosférico, o que significa dizer que o aço produzido depois dos anos cinquenta possui traços de isótopos radioativos, como o cobalto-60. Ou seja, não é um aço de boa qualidade e, por isso, não pode ser usado em equipamentos científicos ultrasensíveis. Assim, utiliza-se aço produzido antes da energia nuclear, como aquele encontrado em navios afundados ou em estruturas antigas.

A analogia ocorre com os dados usados pela IA. Os dados antes do GPT, ou seja, antes de 2022, são dados de alta qualidade. Tudo que foi produzido após 2022 pode estar contaminado, sendo dados de baixa qualidade.