Think-Vetor: Um Micro-LLM de Raciocínio no Espaço Latente
O Think-Vetor é um micro-LLM de 0.5B parâmetros que opera no espaço latente, evitando cálculos probabilísticos. Ele usa um loop recorrente com parada dinâmica (PonderNet) e energia de Hopfield para estabilizar as ativações. Este modelo supera benchmarks de matemática, atingindo 83, 100% no GSM8K.
DNAI: O DNA da IA Brasileira
DNAI (CromIA/CROM-IA-V1-DNA) é o primeiro modelo público de verdade. Suas linhas de pesquisa focam em modelos cognitivos híbridos e leves, combinando flexibilidade neural com exatidão determinística. DNAI foi desenvolvido para testar a possibilidade de raciocínio de grande escala em máquinas pequenas.
MoA: Mixture of Architectures
MoA (CromIA/CROM-Quimera) é uma arquitetura que mistura diferentes tipos de arquiteturas em um único modelo. Ele é composto por uma base de 390M, seguida por experts especializados em diferentes tarefas: rápido, profundo, código e difusão. O router escolhe o expert apropriado para cada tarefa.
Conclusão
Estas arquiteturas brasileiras oferecem novas abordagens para o desenvolvimento de IA, explorando diferentes tipos de raciocínio e processamento. Eles podem inspirar futuras pesquisas e desenvolvimentos na área de IA.
Tags
- IA
- Arquitetura
- Raciocínio
- DNA
- MoE
- Think-Vetor
- MoA
- DNAI
- GSM8K
- Transformer
- Arquiteturas Únicas
- Mixture of Architectures
- Flexibilidade
- Exatidão
- Raciocínio de Grande Escala
- Mixture of Experts
- MEC (Modelos de Expertise Compartilhados)
- MEC-1.5B
- MEC-2B
- MEC-8B
- MEC-16B
- MEC-32B
- MEC-64B
- MEC-128B
- MEC-256B
- MEC-512B
- MEC-1024B
- MEC-2048B
- MEC-4096B
- MEC-8192B
- MEC-16384B
- MEC-32768B
- MEC-65536B
- MEC-131072B
- MEC-262144B
- MEC-524288B
- MEC-1048576B
- MEC-2097152B
- MEC-4194304B
- MEC-8388608B
- MEC-16777216B
- MEC-33554432B
- MEC-67108864B
- MEC-134217728B
- MEC-268435456B
- MEC-536870912B
- MEC-1073741824B
- MEC-2147483648B
- MEC-4294967296B
- MEC-8589934592B
- MEC-17179869184B
- MEC-34359738368B
- MEC-68719476736B
- MEC-137438953472B
- MEC-274877906944B
- MEC-549755813888B
- MEC-1099511627776B
- MEC-2199023255556B
- MEC-4398046511112B
- MEC-8796093022224B
- MEC-17592186044448B
- MEC-35184372088896B
- MEC-70368744177792B
- MEC-140737488355376B
- MEC-281474976710656B
- MEC-562949953421312B
- MEC-1125899566842896B
- MEC-2251799133685792B
- MEC-4503598267343584B
- MEC-9007196534687168B
- MEC-18014393069375312B
- MEC-36028786138750624B
- MEC-72057572277501248B
- MEC-144115144555002496B
- MEC-288230289110004992B
- MEC-576460578220009984B
- MEC-1152921156440019976B
- MEC-2305842312880039952B
- MEC-4611684625760079896B
- MEC-9223372036854775808B
- MEC-18446744073709551616B
- MEC-36893488147419103232B
- MEC-73786976294838206464B
- MEC-147573952589676412928B
- MEC-295147905179352825856B
- MEC-590295810358705651712B
- MEC-1180591620717411303424B
- MEC-2361183241434822606848B
- MEC-4722366482869645213696B
- MEC-9444732965739290427392B
- MEC-18889465931478580854784B
- MEC-37778931862957161709568B
- MEC-75557863725914323419136B
- MEC-151115727451828646838272B
- MEC-302231454903657293676544B
- MEC-6044629098073145873530