A ideia de que mais dados em modelos maiores resultam em sistemas mais inteligentes está desintegrando.
A supremacia da Nvidia no mundo dos negócios está começando a ruir, e isso não tem nada a ver com a Lei de Moore, um princípio fundamental da indústria de semicondutores que estabelece que a performance dos chips dobrará a cada dois anos, à medida que a densidade de transistores aumenta. A verdadeira chave para o sucesso da Nvidia reside na Inteligência Artificial (IA), que revolucionou a forma como os chips são projetados e utilizados.
A IA é a tecnologia por trás dos modelos de IA, que permitem que os sistemas de IA aprendam e melhorem com o tempo. A Nvidia foi uma das primeiras empresas a perceber o potencial da IA e a investir pesadamente nessa área. Com o tempo, a empresa desenvolveu chips especializados em processamento de IA, que se tornaram fundamentais para o funcionamento de sistemas de IA em diversas indústrias. No entanto, a ascensão da concorrência e o amadurecimento da tecnologia de IA estão começando a desgastar a liderança da Nvidia nesse mercado. O futuro da IA está em jogo, e a Nvidia precisa inovar para manter sua posição.
A Nova Era da Inteligência Artificial
A Lei de Moore, que foi por muito tempo o principal preditor de progresso tecnológico, foi substituída por um novo conceito: a ‘lei de escalabilidade’ da Inteligência Artificial (IA). Essa lei postula que colocar mais dados em um modelo de IA maior, o que requer mais poder de computação, resulta em sistemas mais inteligentes. A percepção da lei de escalabilidade impulsionou o progresso da IA, transformando o foco do desenvolvimento de resolver problemas científicos difíceis para o desafio mais direto de engenharia de construir clusters cada vez maiores de chips, geralmente da Nvidia.
A lei de escalabilidade teve seu momento de destaque com o lançamento do ChatGPT, e o ritmo acelerado de melhoria nos sistemas de IA nos dois anos seguintes parecia sugerir que a regra poderia se manter verdadeira até atingirmos algum tipo de ‘superinteligência’, talvez nesta década. No entanto, nos últimos tempos, os rumores na indústria aumentaram, indicando que os modelos mais recentes de empresas como OpenAI, Google e Anthropic não mostraram as melhorias esperadas de acordo com as projeções da lei de escalabilidade.
O Fim da Era da Escalabilidade
‘Os anos 2010 foram a era da escalabilidade, agora estamos de volta à era do maravilhamento e descoberta novamente’, disse recentemente Ilya Sutskever, cofundador da OpenAI, à Reuters. Este é o homem que, há um ano, disse acreditar que era ‘bastante provável que toda a superfície da Terra fosse coberta com painéis solares e centros de dados’ para alimentar a IA. Até recentemente, a lei de escalabilidade era aplicada ao ‘pré-treinamento’: a etapa fundamental na construção de um grande modelo de IA.
Agora, executivos, pesquisadores e investidores de IA estão admitindo que as capacidades dos modelos de IA estão ‘atingindo o limite’ apenas com o pré-treinamento, o que significa que mais trabalho é necessário após a construção do modelo para continuar avançando. Alguns dos primeiros adeptos da lei de escalabilidade, como o chefe da Microsoft, Satya Nadella, tentaram redefinir sua definição. Não importa se o pré-treinamento oferece retornos decrescentes, argumentam os defensores, porque os modelos agora podem ‘raciocinar’ quando questionados com uma pergunta complexa.
O Futuro da Inteligência Artificial
‘Estamos vendo a emergência de uma nova lei de escalabilidade’, disse Nadella recentemente, referindo-se ao novo modelo o1 da OpenAI. Mas esse tipo de ajuste deve deixar os investidores da Nvidia nervosos. A ‘lei’ de escalabilidade nunca foi uma regra infalível, assim como não havia um fator inerente que permitisse aos engenheiros da Intel continuar aumentando a densidade de transistores de acordo com a Lei de Moore. Em vez disso, esses conceitos servem como princípios organizadores para a indústria, impulsionando a competição.
A hipótese da lei de escalabilidade alimentou o ‘medo de perder’ a próxima grande transição tecnológica, levando a um investimento sem precedentes das empresas de tecnologia em IA. Agora, com a lei de escalabilidade sendo questionada, a indústria está sendo forçada a repensar seu futuro e encontrar novas maneiras de avançar na Inteligência Artificial.
Fonte: @ Folha UOL
