Есть ли планы добавить конфиденциальность на уровне prompt для хостов?
Оригинал: Are there plans to add prompt-level confidentiality for hosts?
Привет! Мы думали, что эти подходы, гомоморфное/гибридное шифрование, кажутся еще не готовыми технологиями для промышленного использования на модели реального размера. Но с моей точки зрения это действительно многообещающий подход.
TEE — это подход, который можно добавить в цепочку без особых усилий. Существует документ с общим видением того, как мы можем добавить TEE в цепочку https://github.com/gonka-ai/gonka/tree/gm/tee/proposals/tee.
С моей точки зрения, это должен быть дополнительный тип вывода, требующий более высокой цены. Параллельно с обычным. Это позволит производственным компаниям с высокими требованиями использовать Gonka с более высокой комиссией, но цена для пользователей без таких требований будет минимально возможной.
Привет! Мы думали, что эти подходы, гомоморфное/гибридное шифрование, кажутся еще не готовыми технологиями для промышленного использования на модели реального размера. Но с моей точки зрения это действительно многообещающий подход.
TEE — это подход, который можно добавить в цепочку без особых усилий. Существует документ с общим видением того, как мы можем добавить TEE в цепочку https://github.com/gonka-ai/gonka/tree/gm/tee/proposals/tee.
С моей точки зрения, это должен быть дополнительный тип вывода, требующий более высокой цены. Параллельно с обычным. Это позволит производственным компаниям с высокими требованиями использовать Gonka с более высокой комиссией, но цена для пользователей без таких требований будет минимально возможной.
Я читал технический документ и сравнивал архитектуру Gonka с другими децентрализованными сетями вывода (в частности, Cocoon/TON, которая использует доверенные среды выполнения Intel TDX).
Я заметил одну вещь: хотя Gonka анонимизирует IP-адрес пользователя, маршрутизируя запросы через промежуточный хост, исполняющий хост по-прежнему имеет доступ к необработанному содержимому приглашений и ответов. Для случаев использования личных помощников ИИ (например, агентов, обрабатывающих электронную почту, данные календаря, личные документы) это является существенным пробелом в конфиденциальности.
Есть ли какие-либо планы решить эту проблему в будущих выпусках? Например:
Поддержка TEE (Intel TDX, AMD SEV, NVIDIA Confidential Computing)
- Гомоморфные или гибридные схемы шифрования для вывода.
- Любой другой подход, гарантирующий, что хосты не смогут читать данные, на которых они вычисляют.
В противном случае это может стать препятствием для использования gonka в сценариях агентного использования.
Спасибо!
Привет! Мы думали, что эти подходы, гомоморфное/гибридное шифрование, кажутся еще не готовыми технологиями для промышленного использования на модели реального размера. Но с моей точки зрения это действительно многообещающий подход.
TEE — это подход, который можно добавить в цепочку без особых усилий. Существует документ с общим видением того, как мы можем добавить TEE в цепочку https://github.com/gonka-ai/gonka/tree/gm/tee/proposals/tee.
С моей точки зрения, это должен быть дополнительный тип вывода, требующий более высокой цены. Параллельно с обычным. Это позволит производственным компаниям с высокими требованиями использовать Gonka с более высокой комиссией, но цена для пользователей без таких требований будет минимально возможной.
Привет! Мы думали, что эти подходы, гомоморфное/гибридное шифрование, кажутся еще не готовыми технологиями для промышленного использования на модели реального размера. Но с моей точки зрения это действительно многообещающий подход.
TEE — это подход, который можно добавить в цепочку без особых усилий. Существует документ с общим видением того, как мы можем добавить TEE в цепочку https://github.com/gonka-ai/gonka/tree/gm/tee/proposals/tee.
С моей точки зрения, это должен быть дополнительный тип вывода, требующий более высокой цены. Параллельно с обычным. Это позволит производственным компаниям с высокими требованиями использовать Gonka с более высокой комиссией, но цена для пользователей без таких требований будет минимально возможной.
I've been reading the whitepaper and comparing Gonka's architecture with other decentralized inference networks (specifically Cocoon/TON, which uses Intel TDX trusted execution environments).
One thing I noticed is that while Gonka anonymizes the user's IP by routing requests through an intermediary host, the executing host still has access to the raw prompt and response content. For use cases involving personal AI assistants (e.g. agents that process emails, calendar data, private documents), this is a significant privacy gap.
Are there any plans to address this in future releases? For example:
TEE support (Intel TDX, AMD SEV, NVIDIA Confidential Computing)
Homomorphic or hybrid encryption schemes for inference
Any other approach to ensure hosts cannot read the data they compute on
Otherwise, it could be a blocker to leverage gonka for agentic use-cases.
Thanks!
Hi! We thought these approaches, homomorphic/hybrid encryptions seems like not yet ready technologies for production usage on real size model. But it's really promising approach from my perspective
The TEE is the approach which can be added to the chain with not that much efforts. There is a document with the high-level vision how we can add TEE to the chain https://github.com/gonka-ai/gonka/tree/gm/tee/proposals/tee
From my perspective it should be additional type of inference, with higher price. In parallel with usual one. It'll enable production companies with high requirements to use Gonka with higher fee but price for users without such requirements will be the lowest possible
Hi! We thought these approaches, homomorphic/hybrid encryptions seems like not yet ready technologies for production usage on real size model. But it's really promising approach from my perspective
The TEE is the approach which can be added to the chain with not that much efforts. There is a document with the high-level vision how we can add TEE to the chain https://github.com/gonka-ai/gonka/tree/gm/tee/proposals/tee
From my perspective it should be additional type of inference, with higher price. In parallel with usual one. It'll enable production companies with high requirements to use Gonka with higher fee but price for users without such requirements will be the lowest possible
Я читал технический документ и сравнивал архитектуру Gonka с другими децентрализованными сетями вывода (в частности, Cocoon/TON, которая использует доверенные среды выполнения Intel TDX).
Я заметил одну вещь: хотя Gonka анонимизирует IP-адрес пользователя, маршрутизируя запросы через промежуточный хост, исполняющий хост по-прежнему имеет доступ к необработанному содержимому приглашений и ответов. Для случаев использования личных помощников ИИ (например, агентов, обрабатывающих электронную почту, данные календаря, личные документы) это является существенным пробелом в конфиденциальности.
Есть ли какие-либо планы решить эту проблему в будущих выпусках? Например:
Поддержка TEE (Intel TDX, AMD SEV, NVIDIA Confidential Computing)
В противном случае это может стать препятствием для использования gonka в сценариях агентного использования.
Спасибо!