Google сделала доступной для разработчиков технологию SynthID Text, которая позволяет добавлять «водяные знаки» к текстам, сгенерированным искусственным интеллектом, и выявлять их. Теперь этот инструмент можно загрузить с платформы Hugging Face или воспользоваться им через обновлённый «Responsible GenAI Toolkit» от Google.
SynthID Text поможет разработчикам идентифицировать ИИ-контент без ущерба для его качества
SynthID Text работает путем корректировки вероятностей для отдельных слов или символов (токенов), которые генерируются моделями, не влияя на точность или скорость работы ИИ. В результате формируется паттерн оценок, который становится своего рода цифровым водяным знаком. Этот метод остается эффективным даже после редактирования или частичной модификации текста.
Google признает, что технология имеет свои ограничения, особенно когда речь идет о коротких текстах или точных ответах на запросы. Например, при запросах типа «Какая столица Франции?» возможности для корректировки ограничены, так как необходимо сохранить фактическую точность.
SynthID уже интегрирована в модели Gemini и широко используется в новых продуктах компании. Её массовое внедрение остается актуальным, в частности в контексте новых законодательных требований к маркировке контента, сгенерированного ИИ, которые уже появились в Китае и Калифорнии.
