Лидеры Ethereum предлагают новую систему для защиты конфиденциальности ИИ

Руководитель ИИ Ethereum Foundation Давиде Крапис и соучредитель Ethereum Виталик Бутерин предложили способ использования доказательств с нулевым разглашением и других методов, чтобы гарантировать конфиденциальность взаимодействия пользователя с большими языковыми моделями, предотвращая при этом спам и злоупотребления.

Вызовы API происходят каждый раз, когда пользователь отправляет сообщение программному приложению, например чат-боту с искусственным интеллектом. Крапис и Бутерин заявили в своем блоге в среду, что основной проблемой как для пользователей, так и для поставщиков является конфиденциальность, безопасность и эффективность.

«Нам нужна система, в которой пользователь может внести средства один раз и совершать тысячи вызовов API анонимно, безопасно и эффективно», — сказали они.

«Поставщику должна быть гарантирована оплата и защита от спама, а пользователю должно быть гарантировано, что его запросы не могут быть связаны с его личностью или друг с другом», — добавили они.

С ростом использования чат-ботов с искусственным интеллектом утечка данных из LLM становится все более серьезной проблемой. Чат-боты часто обрабатывают очень конфиденциальные данные, и привязка использования к личным данным может создать значительные риски конфиденциальности, юридического характера и безопасности. Журналы использования можно использовать даже в судебных разбирательствах.

Решение Crapis и Бутерин для пользователей и провайдеров

Крапис и Бутерин заявили, что провайдеры в настоящее время вынуждены выбирать между двумя «неоптимальными путями»: доступом на основе личных данных, при котором пользователи вынуждены передавать конфиденциальную информацию, такую ​​как электронная почта или кредитная карта, что создает риски для конфиденциальности, или внутрисетевыми платежами по каждому запросу, которые являются медленными, дорогостоящими и отслеживаемыми.

Дуэт предлагает систему, в которой пользователи вносят средства в смарт-контракт, а затем совершают вызовы API, не раскрывая свою личность или запросы на связывание, используя доказательства с нулевым разглашением и обнуляющие ограничения скорости для платежей и обеспечения защиты от спама.

“Пользователь вносит 100 долларов США в смарт-контракт и делает 500 запросов к размещенному LLM. Поставщик получает 500 действительных платных запросов, но не может связать их с одним и тем же вкладчиком или друг с другом, в то время как запросы пользователя остаются не связанными с личностью пользователя”, – сказали Крапис и Бутерин.

«Модель обеспечивает платежеспособность, требуя от пользователя доказать, что его совокупные расходы, представленные текущим индексом билетов, остаются строго в пределах их первоначального депозита и подтвержденной истории возмещения».

Обман системы может сократить ваш депозит

Чтобы предотвратить мошенников, создание незаконного контента, попытки взлома и другие нарушения условий обслуживания, Крапис и Бутерин предлагают систему двойной ставки.

Если пользователь пойман при попытке двойного расходования средств, его депозит может потребовать кто угодно, включая сервер. Однако пользователи, нарушающие условия обслуживания, будут отправлять свои депозиты на сжигаемый адрес, а событие сокращения будет записано в цепочке.

«Например, пользователь может отправить запрос с просьбой к модели сгенерировать инструкции по созданию оружия или помочь ей обойти меры безопасности – запросы, которые нарушат политику использования многих поставщиков», — сказали Крапис и Бутерин.

«Хотя личность пользователя остается скрытой, сообщество может проверить скорость, с которой Сервер сжигает ставки, и опубликованные доказательства этих сжиганий».

Источник: cryptohamster.org