Block lança mesh-llm - rede descentralizada para inferência de LLMs

A Block, empresa fundada por Jack Dorsey, disponibilizou o projeto mesh-llm, uma infraestrutura open-source que permite agrupar máquinas heterogêneas em uma rede ponto a ponto para execução de inferência de grandes modelos de linguagem. A solução oferece compatibilidade com a API da OpenAI e utiliza protocolos como QUIC e Nostr para comunicação eficiente e segura. O mesh-llm divide modelos em camadas ou especialistas, distribuindo o processamento entre os nós da rede, o que melhora a escalabilidade e reduz dependência de servidores centralizados. Essa arquitetura se diferencia de alternativas centralizadas, como o OpenRouter, ao promover uma rede mesh onde cada participante contribui com recursos computacionais. A integração com o ecossistema cripto da Block, incluindo Cash App e Bitcoin, sugere um modelo de incentivo baseado em tokens ou compensação descentralizada. A iniciativa pode democratizar o acesso a LLMs de alta capacidade, especialmente para comunidades com infraestrutura limitada, e ao mesmo tempo criar uma rede resiliente a falhas pontuais. O projeto está em fase inicial, mas aponta para uma tendência de descentralização na computação de IA.