Novas direções para a inovação na rede na era da IA
Com o surgimento de grandes modelos, a posição das redes na infraestrutura de IA torna-se cada vez mais importante. O treinamento de grandes modelos impõe requisitos mais elevados às redes, principalmente em três aspectos:
O tamanho do modelo está a crescer rapidamente, e um único cartão não consegue suportar, sendo necessário um treinamento colaborativo em múltiplos servidores, o que coloca maiores exigências na interconexão da rede.
Durante o processo de treino, é necessário realizar a sincronização de parâmetros com frequência, exigindo que a rede possua características de baixa latência e alta largura de banda.
O tempo de treinamento é longo, as exigências de tolerância a falhas da rede são altas e a estabilidade é crucial.
Para responder a essas novas demandas, a inovação na rede está ocorrendo em múltiplos níveis:
No que diz respeito ao meio de transmissão, a fibra óptica, o cabo de cobre e a interconexão à base de silício têm vantagens distintas e estão a competir e a fundir-se em diferentes cenários.
No que diz respeito aos protocolos de rede, as duas grandes facções, IB e Ethernet, estão em competição, com uma luta pelo poder de fala por trás entre os fabricantes de GPU.
Na área da arquitetura de rede, está a evoluir de uma estrutura de folha e espinha para novas arquiteturas como a arquitetura de libélula, para suportar clusters de maior escala.
Na área da interconexão de centros de dados, explorar uma rede de computação de poder inter-regional para superar as limitações de recursos elétricos de um único centro.
De uma forma geral, a IA está a impulsionar a inovação no setor das telecomunicações, e no futuro apresentará uma tendência de desenvolvimento em que dispositivos centrais e novas tecnologias coexistem. Dispositivos centrais como switches e módulos ópticos continuam a ser uma necessidade, enquanto as oportunidades trazidas por novas tecnologias também merecem atenção. O setor das telecomunicações está no início de um novo ciclo de inovação.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
8 Curtidas
Recompensa
8
8
Compartilhar
Comentário
0/400
Anon32942
· 07-26 04:31
Faz o que puder para correr o mais rápido possível!
Ver originalResponder0
Token_Sherpa
· 07-24 00:04
meh... mais um ciclo de hopium, apenas com um sabor de IA desta vez
Ver originalResponder0
RooftopVIP
· 07-23 15:16
Já começaram a especular conceitos novamente~
Ver originalResponder0
rekt_but_vibing
· 07-23 15:09
Só não consigo entender a inteligência artificial, haha.
Ver originalResponder0
LiquidityWitch
· 07-23 14:53
Ah, a casa do avô ainda não tem 5G.
Ver originalResponder0
Anon4461
· 07-23 14:51
Outra onda de novas oportunidades~
Ver originalResponder0
OldLeekNewSickle
· 07-23 14:51
fazer as pessoas de parvas Novato, fazer as pessoas de parvas é tudo.
A era da IA chegou, a inovação na rede traz novas oportunidades
Novas direções para a inovação na rede na era da IA
Com o surgimento de grandes modelos, a posição das redes na infraestrutura de IA torna-se cada vez mais importante. O treinamento de grandes modelos impõe requisitos mais elevados às redes, principalmente em três aspectos:
O tamanho do modelo está a crescer rapidamente, e um único cartão não consegue suportar, sendo necessário um treinamento colaborativo em múltiplos servidores, o que coloca maiores exigências na interconexão da rede.
Durante o processo de treino, é necessário realizar a sincronização de parâmetros com frequência, exigindo que a rede possua características de baixa latência e alta largura de banda.
O tempo de treinamento é longo, as exigências de tolerância a falhas da rede são altas e a estabilidade é crucial.
Para responder a essas novas demandas, a inovação na rede está ocorrendo em múltiplos níveis:
No que diz respeito ao meio de transmissão, a fibra óptica, o cabo de cobre e a interconexão à base de silício têm vantagens distintas e estão a competir e a fundir-se em diferentes cenários.
No que diz respeito aos protocolos de rede, as duas grandes facções, IB e Ethernet, estão em competição, com uma luta pelo poder de fala por trás entre os fabricantes de GPU.
Na área da arquitetura de rede, está a evoluir de uma estrutura de folha e espinha para novas arquiteturas como a arquitetura de libélula, para suportar clusters de maior escala.
Na área da interconexão de centros de dados, explorar uma rede de computação de poder inter-regional para superar as limitações de recursos elétricos de um único centro.
De uma forma geral, a IA está a impulsionar a inovação no setor das telecomunicações, e no futuro apresentará uma tendência de desenvolvimento em que dispositivos centrais e novas tecnologias coexistem. Dispositivos centrais como switches e módulos ópticos continuam a ser uma necessidade, enquanto as oportunidades trazidas por novas tecnologias também merecem atenção. O setor das telecomunicações está no início de um novo ciclo de inovação.