NETBYTE
Iniciar um projeto

Laboratório

Tecnologia que construímos para nós próprios.

Além dos jogos e dos projetos de clientes, a NETBYTE desenvolve as suas próprias bases: um modelo de linguagem para as línguas da Europa e um motor de pesquisa independente. Nenhum dos dois está concluído. Esta página mostra em que ponto estão.

Em treino

Modelo de linguagem

Helix

Um modelo de linguagem com 320 milhões de parâmetros, treinado de raiz para as 24 línguas oficiais da UE – em GPU de gaming alugadas em vez de um centro de dados. Documentamos cada passo, incluindo os erros.

  • 320 M de parâmetros
  • 24 línguas oficiais da UE
  • 6,5 mil M de tokens de treino
Padrão de pontos sobre fundo escuro: as palavras anteriores para as quais o modelo Helix pode olhar de novo.

Em desenvolvimento

Motor de pesquisa

Mira

Uma pesquisa web independente, com rastreador e índice próprios. O Mira respeita o robots.txt e os sitemaps, espera com cortesia entre pedidos, elimina duplicados e ordena os resultados por língua e país. Ainda é um protótipo inicial.

  • Rastreador próprio
  • Índice de texto integral próprio
  • Classificação por língua
Árvore radial sobre fundo escuro: os domínios que o Mira descobriu nas primeiras recolhas, anel a anel a partir da página inicial.

Três razões para o construirmos nós próprios.

Conhecimento, não caixas negras

Quem treinou um modelo e pôs um rastreador a funcionar consegue avaliar aquilo de que um produto de IA ou de pesquisa precisa realmente – e aquilo de que não precisa.

As línguas da Europa

Os grandes modelos dão pouca atenção às línguas mais pequenas. O Helix trata as 24 línguas oficiais da UE em pé de igualdade desde o início.

Medido em público

Publicamos números, custos e erros no blogue. Isso mantém-nos honestos, e outros podem aprender com isso.

Interesse comum?

Está a planear algo com IA ou pesquisa?

Quer precise de uma pesquisa para os seus próprios conteúdos, quer queira saber o que um pequeno modelo de linguagem consegue fazer: conte-nos o que tem em mente.