NETBYTE
Начать проект

Лаборатория

Технологии, которые мы строим для себя.

Помимо игр и клиентских проектов NETBYTE разрабатывает собственную основу: языковую модель для языков Европы и независимую поисковую систему. Ни то, ни другое ещё не готово. Здесь видно, на каком этапе они сейчас.

Идёт обучение

Языковая модель

Helix

Языковая модель на 320 миллионов параметров, обученная с нуля для всех 24 официальных языков ЕС — на арендованных игровых видеокартах, а не в дата-центре. Мы документируем каждый шаг, включая ошибки.

  • 320 млн параметров
  • 24 официальных языка ЕС
  • 6,5 млрд токенов обучения
Узор из точек на тёмном фоне: на какие предыдущие слова может оглядываться модель Helix.

В разработке

Поисковая система

Mira

Независимый веб-поиск с собственным краулером и собственным индексом. Mira соблюдает robots.txt и карты сайтов, вежливо выдерживает паузы между запросами, отсеивает дубликаты и ранжирует результаты по языку и стране. Пока это ранний прототип.

  • Собственный краулер
  • Собственный полнотекстовый индекс
  • Ранжирование по языку
Радиальное дерево на тёмном фоне: домены, которые Mira обнаружила за первые обходы, кольцо за кольцом от стартовой страницы.

Три причины строить самим.

Знания, а не чёрные ящики

Тот, кто сам обучил модель и запустил краулер, может оценить, что действительно нужно продукту с ИИ или поиском, — а что нет.

Языки Европы

Небольшим языкам большие модели уделяют мало внимания. Helix с самого начала относится ко всем 24 официальным языкам ЕС одинаково.

Измерено публично

Мы публикуем цифры, затраты и ошибки в блоге. Это помогает нам оставаться честными, а другим — учиться.

Общий интерес?

Планируете что-то с ИИ или поиском?

Нужен ли вам поиск по собственному контенту или хочется понять, на что способна небольшая языковая модель, — расскажите, что вы задумали.