Negócios

Os executivos do Openai não para de falar sobre não ter GPUs suficientes

Openi ‘S C-Suite não para de falar sobre a demanda insaciável da empresa por poder de computação.

“Toda vez que obtemos mais GPUs, eles imediatamente se acostumam”, disse recentemente o CPO do Openai Kevin Weil, fundador do XPRIZE, Peter Diamandis durante uma entrevista no podcast de “Moonshot” de Diamandis.

Weil é apenas o mais recente executivo do OpenAI a soar no assunto. O CEO da Openai, Sam Altman, disse no mês passado que a empresa trará mais de 1 milhão de GPUs até o final do ano. Para comparação, Elon MuskA Xai revelou que usou um supercluster de mais de 200.000 GPUs chamado Colossus para ajudar a treinar Grok4.

“Muito orgulhoso da equipe, mas agora eles começam a trabalhar, descobrindo como 100x isso lol”, escreveu Altman em X em julho.

Dois dias depois, Musk’s, O ex -aliado de Altman se tornou rivaldisse que quer que Xai tenha 50 milhões de equivalentes do chip H100 da NVIDIA nos próximos cinco anos.

A competição é por um bom motivo. Jonathan Cohen, vice -presidente de pesquisa aplicada, disse recentemente que as GPUs são como “Moeda” para pesquisadores de IA. Priscilla Chan, esposa de Mark Zuckerberg e co -fundadora da organização filantrópica do casal, disse o A iniciativa Chan Zuckerberg usa o GPUs como uma ferramenta de recrutamento.

Weil disse que a necessidade é realmente bastante simples: “Quanto mais GPUs obtivemos, mais ai todos nós usaremos”. Ele comparou como a adição de largura de banda tornou possível a explosão de vídeo.

“É como a internet. Cada parte que reduzimos a latência, aumentamos a largura de banda na internet, as pessoas fazem mais coisas”, disse ele. “O vídeo costumava ser impossível. Agora, o vídeo é todos os dias, porque os recursos estão lá, a rede pode lidar com isso”.

O desejo de mais poder de computação liderou o OpenAI para lançar o Stargate, disse Recentemente, disse o CFO Sarah Friar. Um projeto de US $ 500 bilhões, a Stargate é uma joint venture entre o Openai, Oracle e Softbank. Durante sua inauguração na Casa Branca em janeiro, Altman disse que o projeto permitirá que os EUA cheguem à AGI, inteligência geral artificial.

“É voraz agora para GPUs e computação”, disse Friar à CNBC na semana passada. “A maior coisa que enfrentamos é estar constantemente em computação. É por isso que lançamos o Stargate. É por isso que estamos fazendo as construções maiores”.

Somente no lado do produto, Weil disse que há várias áreas onde mais GPUs podem ser conectadas.

“Seja, podemos levá -los no lado do produto e usá -lo para reduzir a latência ou acelerar a geração de token ou lançar novos produtos, pegar um produto disponível apenas para usuários profissionais e trazê -lo para usuários ou usuários gratuitos, ou apenas significa que podemos executar mais experimentos”, disse ele.

Ao mesmo tempo, o OpenAI precisa equilibrar as solicitações dos pesquisadores.

“Do lado da pesquisa, há basicamente uma demanda infinita por GPUs dentro dessas paredes, e é por isso que estamos fazendo tanto para criar capacidade”, disse Weil.



Source link

Artigos Relacionados

Botão Voltar ao Topo