NETBYTE
启动项目

实验室

我们为自己打造的技术。

在游戏和客户项目之外,NETBYTE 也在开发自己的基础:一个面向欧洲语言的语言模型,以及一个独立的搜索引擎。两者都尚未完成。本页介绍它们目前的进展。

训练中

语言模型

Helix

一个拥有 3.2 亿参数的语言模型,从零开始为欧盟全部 24 种官方语言训练——用的是租来的游戏显卡,而不是数据中心。我们记录每一步,包括犯过的错。

  • 3.2 亿参数
  • 24 种欧盟官方语言
  • 65 亿训练 token
深色背景上的点阵图案:Helix 模型能回看哪些之前的词。

开发中

搜索引擎

Mira

一个独立的网页搜索,拥有自研爬虫和自建索引。Mira 遵守 robots.txt 和站点地图,在请求之间礼貌等待,过滤重复内容,并按语言和国家对结果排序。目前仍是早期原型。

  • 自研爬虫
  • 自建全文索引
  • 按语言排序
深色背景上的放射状树形图:Mira 在最初几轮抓取中发现的域名,从起始页一圈圈向外展开。

自己动手的三个理由。

要懂行,不要黑箱

亲手训练过模型、运行过爬虫,才能判断一个 AI 或搜索产品真正需要什么——以及不需要什么。

欧洲的语言

大型模型很少关注小语种。Helix 从一开始就平等对待欧盟全部 24 种官方语言。

公开衡量

我们在博客上公开数据、成本和错误。这让我们保持诚实,也让别人可以从中学习。

志趣相投?

正在计划 AI 或搜索相关的项目?

无论您需要为自己的内容搭建搜索,还是想了解小型语言模型能做什么:请告诉我们您的计划。