Acelerador de IA com eficiência energética para aplicações de borda
O acelerador AI de borda permite desempenho eficiente, lidando com vários modelos de IA nos fluxos de vídeo com ferramentas automatizadas, escalabilidade e compatibilidade de plataforma ampla.
A Memryx anunciou a disponibilidade de produção do seu acelerador AI MX3 Edge.O MX3 oferece facilidade de uso, desempenho e eficiência energética.
O acelerador de AI de borda foi projetado para resolver desafios enfrentados pelos usuários da AI Edge, oferecendo desempenho e facilidade de uso.Seu fluxo de dados e arquitetura de computação em memória permitem ao MX3 lidar com vários modelos de IA em dezenas de fluxos de vídeo simultaneamente, tornando-o adequado para aplicações como sistemas de gerenciamento de vídeo que requerem desempenho alto por segundo (FPS).
Com suas ferramentas automatizadas, o acelerador garante precisão do modelo de 1 clique, compilando e executando os modelos de IA usando ativações de ponto flutuante.Isso remove a necessidade de reciclagem ou modificações de modelos, mantendo a precisão original dos modelos de IA.O acelerador não requer ajustes nos modelos de clientes, diferentemente de outras soluções.Ele suporta modelos originais sem alterações ocultas, oferecendo otimizações opcionais, como poda ou compactação, para usuários que buscam flexibilidade de design.
A implantação de aplicativos é simplificada com os recursos automatizados de pré e pós-processamento automatizados do MX3.O sistema identifica e pacotes de código pré e pós-processamento, reduzindo o ônus dos programadores e acelerando os prazos de desenvolvimento.
Os usuários podem implantar um único chip para aplicativos compactos ou escalar até 16 chips para casos de uso maiores, sem a necessidade de hardware adicional, como switches PCIE.Essa escalabilidade permite que o acelerador da AI Edge atenda a uma variedade de requisitos de aplicativos, de câmeras inteligentes a servidores Edge.
É eficiente em termos de energia, consumindo 0,5-2,0W por chip, dependendo das configurações do sistema e das demandas do modelo de IA.Esse uso de baixa potência permite a IA em dispositivos com gerenciamento térmico limitado, como PCs industriais sem ventiladores, e usa menos energia do que as GPUs convencionais.
O acelerador de borda AI suporta várias plataformas, incluindo X86, ARM e RISC-V, e é compatível com vários sistemas operacionais.Isso garante integração em diferentes ambientes de hardware e software.