Google и технология SynthID Text - помечаем текст от ИИ

Google представила новую технологию под названием SynthID Text, которая предназначена для маркировки водяными знаками текста, созданного искусственным интеллектом. Водяной знак действует как цифровая подпись, она должна помочь людям понять, был ли фрагмент текста создан системой ИИ или нет. Идея состоит в том, чтобы упростить различение контента, написанного человеком и контента созданного нейросетью.

Основная цель всего мероприятия  - повысить прозрачность и доверие к контенту, созданному через всякие чатГП. Однако кроется проблема в этом: добавление этих водяных знаков иногда может повлиять на качество текста. Это заметно в коротких текстах или когда текст должен быть очень точным, например, в переводах.

Такого рода технология не является уникальной. Известная компания OpenAI, еще один крупный игрок в области ИИ, также работает над аналогичными решениями для водяных знаков. В некоторых странах, например, в Китае, маркировка контента, созданного нейросетью, уже является обязательным требованием, что свидетельствует о растущей тенденции всех регулировать этот аспект.

Итак итог всему простой, SynthID Text - еще один шаг к тому, чтобы сделать контент, созданный ИИ, более открытым для пользователя, но он также подчеркивает необходимый баланс между обеспечением качества и сохранением четкой идентификации участия нейросетей.