OpenBroker — брокер для брокеров или Devshards как услуга.
Оригинал: OpenBroker - broker for brokers or Devshards as a service.
Привет, команда @gonkalabs (https://github.com/gonkalabs) (cc @tcharchian (https://github.com/tcharchian), @qdanik (https://github.com/qdanik)),
Я тестировал OpenBroker (api.openbroker.gonka.gg/v1) с MiniMaxAI/MiniMax-M2.7 (та же учетная запись/кошелек, что и запрос белого списка № 1397 (https://github.com/gonka-ai/gonka/issues/1397)) и обнаружил два эффекта, которые блокируют использование в производстве:
Эффект A: исправлены затраты ~10 секунд на запрос. Задержка p50 составляет 10,0 с для приглашений на 100 и 1623 токена — фиксированная, не пропорциональная размеру; соответствует циклу условного депонирования в цепочке (~2 блока × ~5 с). Эффект: агент за 30 ходов платит +5 минут чистых накладных расходов.
Эффект B: жесткий потолок размера Prompt на уровне 1623–1780 Prompt_tokens. ≤1623 токенов: стабильный успех. ≥ 1780 токенов: запрос зависает навсегда (тайм-аут клиента 240 секунд недостаточен). 100% воспроизводимость, более 7 тестов с каждой стороны. Не на основе байтов — тело размером 8,6 КБ с 1523 токенами проходит нормально.
Вопросы: (1) является ли ожидаемое поведение условного депонирования с накладными расходами в 10 секунд или его можно оптимизировать (объединенное условное депонирование)? (2) является ли потолок токенов известным пределом и существует ли обходной путь? (3) выставляются ли счета за запросы на зависание (выполнялось ли их условное депонирование)? (4) второстепенный: /v1/models возвращает пустой список — идентификаторы поддерживаемых моделей можно обнаружить только по тексту ошибки 400.
Полная методология и необработанные измерения доступны по запросу. Протестировано 9 августа 2026 г.
Привет! Гонка Лабс здесь.
Мы только что выпустили OpenBroker, платформу, которая дает вам прямой доступ к выводам gonka — чистым devshards v1, v2 (и любой будущей версии) под кошельком, который внесен в белый список для управления условного депонирования. Вы получаете емкость условного депонирования, которая эластично масштабируется в зависимости от вашей нагрузки, как версии devshard (и любой будущей), так и пропускную способность, ограниченную только тем, что может обработать сама сеть.
С OpenBroker мы берем на себя обязательство сообщества обеспечивать общую наблюдаемость и мониторинг (наблюдаемость уровня протокола).
OpenBroker выполняет функцию живого испытательного полигона, где новые версии devshard тестируются в производственном масштабе, прежде чем они достигнут более широкой сети, а собираемые нами показатели наблюдения напрямую передаются участникам протокола, с которыми мы поддерживаем связь, чтобы продолжать улучшать Gonka.
Полная наблюдаемость означает, что метрики по каждому запросу, статистика общедоступной сети и показатели качества жизни — это часть продукта, а не второстепенная мысль. Мы работаем напрямую с участниками протокола, предоставляя им статистику, режимы сбоев и данные о производительности, которые мы видим в реальном масштабе, поэтому Gonka продолжает становиться лучше. Это также среда, в которой новые версии devshard проверяются при производственной нагрузке, прежде чем они будут отправлены всем. Если вы использовали node4 для прототипирования или создания собственного брокерского бизнеса и тестирования на Gonka, OpenBroker — это следующий логический шаг и тот же опыт «просто нажмите конечную точку и вперед», никаких различий (за исключением того, что вы можете сразу зарегистрироваться и получить доступ) — с большей емкостью, реальной телеметрией и обеими версиями протокола, доступными «из коробки», и все это в управляемой среде.
Проблема
Выполнение вывода на Гонке сегодня означает либо:
- Использование node4 node4 (внесенного в белый список, с ограниченной скоростью, созданного для демонстраций, а не для производства) или
- Станьте оператором devshard/escrow - зарегистрируйте свой кошелек для управления эскроу, финансирования, ротации эскроу, обработки корневых состояний состояния v1/v2, решения сложностей оператора (без расчетов и т. д.). Много связующего кода только для отправки завершения чата.
Итак, если вы хотите стать брокером, вам необходимо попасть в белый список для операций условного депонирования или получить ключ брокера и подключиться к node4.
В любом случае новым брокерам очень сложно начать работу, что поднимает планку и снижает потенциальный спрос на выводы.
Решение
OpenBroker — это система «несколько контейнеров devshard (v1, v2) + множество условного депонирования», которая находится перед сетью Gonka и предоставляет простой инфраструктурный devshard с нашим кошельком из белого списка. Так же предназначено для использования брокерами, но без необходимости внесения кошелька в белый список или регистрации для получения ключа брокера.
Со стороны брокера:
- Зарегистрируйтесь на https://openbroker.gonka.gg/register — адрес электронной почты, название организации, ваш кошелек gonka1….
Зарегистрируйтесь на https://openbroker.gonka.gg/register — адрес электронной почты, название организации, ваш кошелек gonka1….
- Внесите GNK на ваш сгенерированный адрес (активация начинается при 100 GNK).
Внесите GNK на ваш сгенерированный адрес (активация начинается при 100 GNK).
- Возьмите свой ключ API ( obk-* ) с панели управления.
Возьмите свой ключ API ( obk-* ) с панели управления.
- Наведите любой клиент OpenAI на: https://openbroker.gonka.gg/v1 Вот и все. /v1/chat/completions , /v1/models , потоковая передача + непотоковая передача, без ограничений скорости, чистые devshards.
Наведите любой клиент OpenAI на:
https://openbroker.gonka.gg/v1
Вот и все. /v1/chat/completions , /v1/models , потоковая передача + непотоковая передача, без ограничений скорости, чистые devshards.
Что вы получаете
- Неограниченная пропускная способность — столько, сколько может выдержать сеть — вы можете отправлять с помощью OpenBroker.
- Выставление счетов GNK, БЕЗ НАЦЕНКИ — наблюдайте за расходами бухгалтерской книги в режиме реального времени на своей информационной панели.
- Полностью управляемое условное депонирование — мы финансируем, регистрируем, ротируем и обеспечиваем для вас условное депонирование, включая упреждающую замену до того, как оно истощит указанный ниже безопасный минимум.
- Поддержка протоколов v1 + v2 (и будущих версий), прозрачная для вызывающей стороны, автоматическая маршрутизация.
- Оперативная общедоступная статистика — посмотрите свое использование и всю сеть на https://openbroker.gonka.gg/stats.
- Совместимость с OpenAI — поддержка LangChain, LlamaIndex, OpenAI SDK и всего, что поддерживает OpenAI. Или просто станьте своим собственным брокером и перепродавайте (вы «покупаете» без каких-либо дополнительных затрат или наценок, OpenBroker вычитает из реестра 1 к 1 стоимость условного депонирования)
Масштаб, который мы протестировали
Мы провели нагрузочное тестирование OpenBroker с использованием более 1 000 000 000 (1 миллиарда) токенов за один прогон (общая продолжительность тестирования чуть более 1 часа) на моделях Qwen, MiniMax и Kimi — без резервного узла node4, автоматическое ротирование условного депонирования, разделение трафика v1/v2 в реальном времени. Целью является производительность производственного уровня.
Ссылки
Стать брокером: https://openbroker.gonka.gg
- Текущая статистика: https://openbroker.gonka.gg/stats.
Гонка Лабс: https://gonkalabs.com
Буду рад отзывам, запросам на добавление функций и отчетам об ошибках. Если вы создаете что-то поверх OpenBroker, пишите об этом в этой теме 🙌
Привет, команда @gonkalabs (https://github.com/gonkalabs) (cc @tcharchian (https://github.com/tcharchian), @qdanik (https://github.com/qdanik)),
Я тестировал OpenBroker (api.openbroker.gonka.gg/v1) с MiniMaxAI/MiniMax-M2.7 (та же учетная запись/кошелек, что и запрос белого списка № 1397 (https://github.com/gonka-ai/gonka/issues/1397)) и обнаружил два эффекта, которые блокируют использование в производстве:
Эффект A: исправлены затраты ~10 секунд на запрос. Задержка p50 составляет 10,0 с для приглашений на 100 и 1623 токена — фиксированная, не пропорциональная размеру; соответствует циклу условного депонирования в цепочке (~2 блока × ~5 с). Эффект: агент за 30 ходов платит +5 минут чистых накладных расходов.
Эффект B: жесткий потолок размера Prompt на уровне 1623–1780 Prompt_tokens. ≤1623 токенов: стабильный успех. ≥ 1780 токенов: запрос зависает навсегда (тайм-аут клиента 240 секунд недостаточен). 100% воспроизводимость, более 7 тестов с каждой стороны. Не на основе байтов — тело размером 8,6 КБ с 1523 токенами проходит нормально.
Вопросы: (1) является ли ожидаемое поведение условного депонирования с накладными расходами в 10 секунд или его можно оптимизировать (объединенное условное депонирование)? (2) является ли потолок токенов известным пределом и существует ли обходной путь? (3) выставляются ли счета за запросы на зависание (выполнялось ли их условное депонирование)? (4) второстепенный: /v1/models возвращает пустой список — идентификаторы поддерживаемых моделей можно обнаружить только по тексту ошибки 400.
Полная методология и необработанные измерения доступны по запросу. Протестировано 9 августа 2026 г.
Hey! Gonka Labs here.
We've just shipped OpenBroker , a platform that gives you direct access to gonka inference - pure devshards v1, v2 (and any future version) under wallet that is whitelisted to operate escrows. You get escrow capacity that scales elastically with your load, both devshard versions (and any future one), and throughput limited only by what the network itself can handle.
With OpenBroker - we make a community commitment to the overall observability and monitoring ( Protocol-grade observability ).
OpenBroker doubles as a live testbed where new devshard versions get exercised at production scale before they reach the wider network, and the observanility metrics we collect goes straight back to the protocol's contributors that we in-touch with to keep improving Gonka.
Full observability means that per-request metrics, public network stats and QOL inference metrics - are part of the product, not an afterthought. We work directly with the protocol's contributors to feed back the statistics, failure modes and performance data we see at real scale, so Gonka keeps getting better. It's also the environment where new devshard versions get shaken out at production load before they ship to everyone. If you've been using node4 to prototype or create your own Broker business and test against Gonka, OpenBroker is the next logical step and same "just hit an endpoint and go" experience, no diffrence (except that you can enroll and get access right away) - with bigger capacity, real telemetry, and both protocol versions available out of the box, all in a managed environment.
The problem
Running inference on Gonka today means either:
Using node4 node4 (whitelisted, rate-limited, built for demos not production), or
- Becoming devshard/escrow operator - enroll your wallet to operate escrows, fund, rotate escrows, handle v1/v2 state roots, handle operator complexities (no settlement, etc). A lot of glue code just to send a chat completion.
So, if you want to become a broker, you need to get whitelisted for escrow operations or get broker key and connect to node4.
Either way makes it very hard for new brokers to start operating, raising the bar and lowering potential inference demand.
The Solution
OpenBroker is "a few devshard containers (v1, v2) + many escrows" system that sits in front of the Gonka network and exposes a plain devshard infra with our whitelisted wallet. Just as inteded to be used by brokers, but without need to whitelist a wallet or enroll to get a broker key.
From the broker's side:
- Register at https://openbroker.gonka.gg/register - email, org name, your gonka1… wallet.
Register at https://openbroker.gonka.gg/register - email, org name, your gonka1… wallet.
- Deposit GNK to your generated address (activation kicks in at 100 GNK).
Deposit GNK to your generated address (activation kicks in at 100 GNK).
- Grab your API key ( obk-* ) from the dashboard.
Grab your API key ( obk-* ) from the dashboard.
- Point any OpenAI client at: https://openbroker.gonka.gg/v1 That's it. /v1/chat/completions , /v1/models , streaming + non-streaming, no rate limits, pure devshards.
Point any OpenAI client at:
https://openbroker.gonka.gg/v1
That's it. /v1/chat/completions , /v1/models , streaming + non-streaming, no rate limits, pure devshards.
What you get
- Unlimited throughput - as much as network can handle - you can send with OpenBroker's help.
- GNK billing, NO MARKUP - watch the ledger drain in real time on your dashboard.
- Fully managed escrows - we fund, register, rotate, secure escrows for you, including proactive replacement before they deplete bellow safe minimum.
- v1 + v2 (and future) protocol support side-by-side, transparent to the caller, auto-routed.
- Live, public stats - see your usage and the whole network's at https://openbroker.gonka.gg/stats .
- OpenAI-compatible - drop-in for LangChain, LlamaIndex, OpenAI SDK, anything that speaks OpenAI. Or just become your own broker and resell inference (you "buy" without any additional costs or markup, OpenBroker deducts ledger 1-to-1 with what escrows cost)
Scale we've tested
We've load-tested OpenBroker past 1,000,000,000 (1 billion) tokens in a single run (a little over 1 hour total test run time) across Qwen, MiniMax and Kimi models - no node4 fallback, escrows auto-rotating, v1/v2 traffic split live. Production-grade throughput is the goal.
Links
Become a broker: https://openbroker.gonka.gg
Live stats: https://openbroker.gonka.gg/stats
Gonka Labs: https://gonkalabs.com
Would love feedback, feature requests, and bug reports. If you build something on top of OpenBroker, drop it in this thread 🙌
Hi @gonkalabs (https://github.com/gonkalabs) team (cc @tcharchian (https://github.com/tcharchian) , @qdanik (https://github.com/qdanik) ),
I've been testing OpenBroker (api.openbroker.gonka.gg/v1) with MiniMaxAI/MiniMax-M2.7 (same account/wallet as allowlist request #1397 (https://github.com/gonka-ai/gonka/issues/1397) ) and found two effects that block production use:
Effect A: fixed ~10s overhead per request. p50 latency is 10.0s for both 100-token and 1623-token prompts — flat, not proportional to size; consistent with an on-chain escrow cycle (~2 blocks × ~5s). Impact: a 30-turn agent pays +5 min of pure overhead.
Effect B: hard prompt-size ceiling at 1623–1780 prompt_tokens. ≤1623 tokens: stable success. ≥ 1780 tokens: the request hangs forever (240s client timeout not enough). 100% reproducible, 7+ tests on each side. Not byte-based — an 8.6KB body with 1523 tokens passes fine.
Questions: (1) is the 10s overhead expected escrow behavior, or optimizable (pooled escrow)? (2) is the token ceiling a known limit, and is there a workaround? (3) are the hanging requests billed (did their escrows execute)? (4) minor: /v1/models returns an empty list — supported model ids are only discoverable via the 400 error text.
Full methodology and raw measurements available on request. Tested 2026-07-08/09.
Привет! Гонка Лабс здесь.
Мы только что выпустили OpenBroker, платформу, которая дает вам прямой доступ к выводам gonka — чистым devshards v1, v2 (и любой будущей версии) под кошельком, который внесен в белый список для управления условного депонирования. Вы получаете емкость условного депонирования, которая эластично масштабируется в зависимости от вашей нагрузки, как версии devshard (и любой будущей), так и пропускную способность, ограниченную только тем, что может обработать сама сеть.
С OpenBroker мы берем на себя обязательство сообщества обеспечивать общую наблюдаемость и мониторинг (наблюдаемость уровня протокола).
OpenBroker выполняет функцию живого испытательного полигона, где новые версии devshard тестируются в производственном масштабе, прежде чем они достигнут более широкой сети, а собираемые нами показатели наблюдения напрямую передаются участникам протокола, с которыми мы поддерживаем связь, чтобы продолжать улучшать Gonka.
Полная наблюдаемость означает, что метрики по каждому запросу, статистика общедоступной сети и показатели качества жизни — это часть продукта, а не второстепенная мысль. Мы работаем напрямую с участниками протокола, предоставляя им статистику, режимы сбоев и данные о производительности, которые мы видим в реальном масштабе, поэтому Gonka продолжает становиться лучше. Это также среда, в которой новые версии devshard проверяются при производственной нагрузке, прежде чем они будут отправлены всем. Если вы использовали node4 для прототипирования или создания собственного брокерского бизнеса и тестирования на Gonka, OpenBroker — это следующий логический шаг и тот же опыт «просто нажмите конечную точку и вперед», никаких различий (за исключением того, что вы можете сразу зарегистрироваться и получить доступ) — с большей емкостью, реальной телеметрией и обеими версиями протокола, доступными «из коробки», и все это в управляемой среде.
Проблема
Выполнение вывода на Гонке сегодня означает либо:
Итак, если вы хотите стать брокером, вам необходимо попасть в белый список для операций условного депонирования или получить ключ брокера и подключиться к node4.
В любом случае новым брокерам очень сложно начать работу, что поднимает планку и снижает потенциальный спрос на выводы.
Решение
OpenBroker — это система «несколько контейнеров devshard (v1, v2) + множество условного депонирования», которая находится перед сетью Gonka и предоставляет простой инфраструктурный devshard с нашим кошельком из белого списка. Так же предназначено для использования брокерами, но без необходимости внесения кошелька в белый список или регистрации для получения ключа брокера.
Со стороны брокера:
Зарегистрируйтесь на https://openbroker.gonka.gg/register — адрес электронной почты, название организации, ваш кошелек gonka1….
Внесите GNK на ваш сгенерированный адрес (активация начинается при 100 GNK).
Возьмите свой ключ API ( obk-* ) с панели управления.
Наведите любой клиент OpenAI на:
https://openbroker.gonka.gg/v1
Вот и все. /v1/chat/completions , /v1/models , потоковая передача + непотоковая передача, без ограничений скорости, чистые devshards.
Что вы получаете
Масштаб, который мы протестировали
Мы провели нагрузочное тестирование OpenBroker с использованием более 1 000 000 000 (1 миллиарда) токенов за один прогон (общая продолжительность тестирования чуть более 1 часа) на моделях Qwen, MiniMax и Kimi — без резервного узла node4, автоматическое ротирование условного депонирования, разделение трафика v1/v2 в реальном времени. Целью является производительность производственного уровня.
Ссылки
Стать брокером: https://openbroker.gonka.gg
Гонка Лабс: https://gonkalabs.com
Буду рад отзывам, запросам на добавление функций и отчетам об ошибках. Если вы создаете что-то поверх OpenBroker, пишите об этом в этой теме 🙌