O que é NPU? – Adrenaline

NPU significa Unidade de Processamento Neural (do inglês, Neural Processing Unit). É um tipo de microprocessador ou componente de hardware projetado especificamente para acelerar tarefas relacionadas à inteligência artificial (IA), especialmente em áreas como aprendizado de máquina (machine learning) e redes neurais artificiais.

As NPUs aceleram significativamente o cálculo de tarefas de aprendizado de máquina, sendo muito mais eficientes do que GPUs e CPUs para essas funções. E além de melhorar o desempenho, as NPUs também contribuem para a eficiência energética dos chipsets.

Embora seja uma nova unidade de processamento, eles podem ser encontrados em diversos chips especializados, incluindo.

• Unidade de Processamento Tensor (TPU), focada em operações específicas de redes neurais.
• Processador de Rede Neural (NNP), dedicado ao processamento avançado de redes neurais.
• Unidade de Processamento de Inteligência (IPU), especializada em tarefas de inteligência computacional.
• Unidade de Processamento de Visão (VPU), voltada para o processamento de imagens e visão computacional.
• Unidade de Processamento Gráfico (GPU), conhecida por sua capacidade em renderização gráfica e também utilizada em cálculos relacionados a IA.

Veja também: CPUs Intel Meteor Lake devem ter tecnologia similar ao “Neural Engine” da Apple

As 3 principais características da NPU

1. Especialização em IA: diferente de CPUs (Unidades de Processamento Central) e GPUs (Unidades de Processamento Gráfico), as NPUs são otimizadas para realizar cálculos complexos e intensivos necessários para algoritmos de IA, como aqueles usados em deep learning e reconhecimento de padrões.

2. Eficiência energética: as NPUs são projetadas para executar tarefas de IA de forma mais eficiente em termos de energia do que as CPUs ou GPUs tradicionais, o que é crucial para dispositivos móveis e outros aparelhos que operam com baterias.

3. Processamento paralelo: elas podem processar múltiplas operações simultaneamente, o que é essencial para lidar com as grandes quantidades de dados e cálculos complexos envolvidos em aplicações de IA.

Veja também: Meteor Lake: 14ª geração Intel Core foca em AI e eficiência

Onde vemos as aplicações de um chip NPU?

As NPUs são usadas em carros autônomos, sistemas de monitoramento com reconhecimento facial, monitoramento de áreas urbanas e naturais, e na saúde para análises e tratamentos precisos.

As aplicações serão cada vez maiores, com a chegada de eletrônicos preparados para extrair o potencial desta nova tecnologia. Veja algumas aplicações comuns:

• Big Data: em setores que lidam com grandes volumes de dados, como o financeiro, as NPUs aceleram a análise de dados e ajudam na previsão de tendências.
• Carros Autônomos: para processar rapidamente os dados dos sensores e tomar decisões em tempo real.
• Processamento de Linguagem Natural (PLN): NPUs são fundamentais em sistemas que precisam compreender e processar a linguagem humana, tanto escrita quanto falada. Em outras palavras, úteis em assistentes virtuais e chatbots, que dependem de redes neurais treinadas para interpretar e responder a consultas em linguagem natural.
• Realidade Virtual e Aumentada: no mundo dos jogos e simulações, as NPUs contribuem para criar experiências mais realistas e envolventes. 
• Saúde: na análise de imagens médicas e na assistência para diagnósticos precisos.
• Segurança e Vigilância: em sistemas de reconhecimento facial e monitoramento de ambientes, facilitam a análise de imagens em tempo real, rastreamento de movimentos e monitoramento de objetos.
• Smartphones e dispositivos móveis: para melhorar o reconhecimento de voz, processamento de imagem, e otimização de bateria.

Veja também: Maior mudança em 40 anos! Intel Core Meteor Lake detalhada!

Como funciona um NPU?

A arquitetura de uma NPU é composta por múltiplos núcleos de processamento, cada um otimizado para realizar cálculos específicos de IA. Esses núcleos trabalham em paralelo, permitindo um processamento mais ágil e eficiente.

O foco principal desses núcleos está em operações de álgebra linear, como multiplicações de matrizes e convoluções, que são essenciais para simular o funcionamento dos neurônios no cérebro humano.

Uma característica distintiva das NPUs é sua otimização para tarefas que usam IA generativa. Portanto, elas são capazes de processar grandes conjuntos de dados e realizar cálculos complexos necessários para treinar e executar modelos de IA, tudo isso com uma eficiência energética notável.

Esta eficiência é primordial em dispositivos móveis e outros aparelhos que operam com baterias. Basicamente, a NPU assume as tarefas de IA, liberando a CPU para operações gerais e a GPU para processamento gráfico. 

Exemplos de NPUs

• Google TPU (Tensor Processing Unit): usada em Data Centers para acelerar tarefas de IA.
• Apple Neural Engine: integrada em iPhones para melhorar o desempenho de tarefas de IA no dispositivo.
• Huawei Kirin Chips: contêm NPUs dedicadas para melhorar a fotografia com IA e outras funções em smartphones.

Quais chipsets atualmente já possuem NPUs?

• AMD: AI Engine
• Apple: Neural Engine
• Arm: ML Processor
• Alibaba: Ali-NPU
• AlphaICs: Gluon
• Amazon: AWS Inferentia
• Baidu: Kunlun
• Bitmain: Sophon
• Brainchip: Akida (NPU & NPEs)
• Cambricon: MLU
• Cerebras: CS-1
• Flex Logix: InferX
• Google: TPU
• Groq:
• Graphcore: IPU
• GreenWaves: GAP8
• Gyrfalcon Technology: Lightspeeur
• Habana: HL Series
• Hailo: Hailo-8
• Huawei: Ascend
• Intel: NNP, Myriad, EyeQ, GNA
• Kendryte: K210
• Mediatek: NeuroPilot
• Mythic: Template:mythic
• NationalChip: Neural Processing Unit (NPU)
• NEC: SX-Aurora (VPU)
• NVIDIA: NVDLA, Xavier
• Qualcomm: Hexagon
• Quadric: Chimera General Purpose NPU (GPNPU)
• Rockchip: RK3399Pro (NPU)
• Samsung: Neural Processing Unit (NPU)
• Synaptics: SyNAP (NPU)
• Tesla: FSD Chip
• Vathys
• Wave Computing: DPU

…..

A importância das NPUs continuará a crescer à medida que nos aprofundamos na era da IA e do aprendizado de máquina. Sua habilidade de realizar cálculos intensivos de forma eficiente e com baixo consumo de energia abre novas possibilidades para inovações e melhorias em dispositivos e sistemas inteligentes.

É por isso que veremos a maioria dos smartphones, tablets e notebooks lançados a partir de 2024 com a tecnologia embarcada. Em muitos dispositivos modernos, as NPUs são integradas em sistemas em um chip (SoCs), juntamente com CPUs e GPUs.