Конфиденциальность и безопасность в чатах с ИИ

Общение с ИИ кажется приватным: только вы и поле ввода. Но каждое отправленное сообщение уходит на сервер, обрабатывается моделью и, в зависимости от сервиса, может храниться какое-то время. В этом руководстве мы расскажем, что обычно происходит с вашими данными, чем ни в коем случае нельзя делиться в чатах с ИИ, как ChatG обращается с перепиской и как защититься от мошенников, использующих нейросети.

Что происходит с отправленным сообщением

В деталях сервисы различаются, но общий путь всегда один:

1. Ваше сообщение (а часто и предыдущие реплики диалога) передается по зашифрованному соединению на серверы сервиса.
2. Сервис передает его ИИ-модели — собственной или от стороннего провайдера.
3. Модель генерирует ответ и отправляет его обратно вам.
4. В зависимости от платформы и ваших настроек диалог может сохраняться в аккаунте, оставаться в логах для безопасности и защиты от спама, проверяться людьми или использоваться для обучения будущих моделей.

Многие популярные ИИ-сервисы по умолчанию используют переписку для дообучения моделей, а некоторые привлекают сторонних специалистов для выборочной проверки диалогов. В большинстве сервисов это можно отключить, а у многих есть временные или инкогнито-чаты. Отказ от обучения обычно действует только на будущие диалоги: данные, уже попавшие в готовую модель, извлечь оттуда нельзя. Регулярно проверяйте настройки и политику конфиденциальности используемых сервисов — они периодически меняются.

Чего никогда нельзя отправлять в чаты с ИИ

• Пароли, ПИН-коды, коды восстановления и одноразовые пароли. Для задач ИИ они никогда не требуются.
• API-ключи, токены доступа и приватные ключи. Заменяйте их на плейсхолдеры.
• Полные номера карт, данные онлайн-банков и реквизиты документов: паспорта, СНИЛС, ИНН.
• Чужие персональные данные: контакты клиентов, медицинские карты или личные дела коллег — если у вас нет разрешения и сервис не одобрен для этих целей.
• Конфиденциальные рабочие материалы: непубличные отчеты, договоры или исходный код, если только использование сервиса прямо не согласовано работодателем.
• Все, что вы не готовы показать на людях. Относитесь к ИИ как к вежливому незнакомцу, а не к личному дневнику.

Как получить ответ, не раскрывая лишнего

Почти всегда можно получить отличный результат, просто убрав личные данные. Заменяйте их понятными шаблонами:

Вместо:
Мой клиент Иван Смирнов (ул. Ленина, 14) должен нам 350 000 рублей
по счету № 2024-118, его телефон [номер]...

Напишите:
Клиент [КЛИЕНТ] задерживает оплату счета на сумму [СУММА] уже на 45 дней.
Составь вежливое, но твердое напоминание. Конкретные данные я подставлю
самостоятельно.

В медицинских или юридических вопросах описывайте ситуацию в общих чертах («пациент 50 лет с симптомами...»), не указывая имя и не прикладывая анализы. В документах удаляйте имена, адреса, номера счетов и подписи либо отправляйте только нужный фрагмент текста.

Как ChatG обращается с вашими диалогами

Вот простые правила того, как устроен ChatG:

• Без регистрации. Чтобы пользоваться чатом, не нужно регистрироваться, вводить имя или указывать email.
• История хранится только у вас. Переписка сохраняется в памяти вашего браузера на текущем устройстве, а не на наших серверах. Очистка данных сайта в браузере удалит ее, поэтому сохраняйте нужные диалоги заранее.
• Сообщения обрабатываются для генерации ответа. Чтобы составить ответ, сообщения передаются в наш сервис обработки, работающий со сторонними ИИ-провайдерами. Мы не храним ваши тексты дольше, чем это нужно для коротких технических логов.
• Лимиты без создания аккаунтов. Чтобы учитывать бесплатные сообщения в день и защищаться от злоупотреблений, мы используем хешированный идентификатор на основе вашего IP-адреса.
• Публичные ссылки видны всем, у кого есть ссылка. Если вы делитесь диалогом, его копия доступна только для чтения на нашем сервере по адресу вида chatg.org/s/. Такие страницы не индексируются поисковиками, их нельзя отредактировать задним числом, а для удаления нужно написать на hello@chatg.org. Проверяйте диалог на наличие личных данных перед тем, как им поделиться.
• Реклама и аналитика. ChatG остается бесплатным благодаря рекламе вокруг интерфейса — в сами ответы она никогда не встраивается. Наш рекламный партнер и Google Analytics используют файлы cookie и схожие технологии, а в регионах, где этого требует закон, вы увидите окно согласия.

Все подробности можно прочитать в политике конфиденциальности и условиях использования. Если вы работаете за чужим или общественным компьютером, обязательно очищайте диалоги в настройках чата.

Схемы обмана с применением ИИ

Мошенники тоже пользуются нейросетями. Знание популярных приемов убережет вас и ваших близких:

• Правдоподобный фишинг. Вредоносные письма и сообщения больше не выдают себя грубыми орфографическими ошибками. Обращайте внимание на суть просьбы: срочный перевод, ссылка на вход, покупка подарочных карт или передача кода — текст при этом может быть безупречным.
• Клонирование голоса. Короткой аудиозаписи бывает достаточно, чтобы подделать голос. Если вам звонит «родственник» в беде и просит денег, положите трубку и перезвоните ему сами по знакомому номеру. С семьей полезно заранее договориться о кодовом слове.
• Фейковые видео и фото. Критически относитесь к сенсационным роликам с известными людьми, особенно если они призывают инвестировать или перевести деньги.
• Поддельные приложения и сайты. Злоумышленники маскируют вредоносные программы под популярные ИИ-сервисы, чтобы списать деньги или украсть данные. Скачивайте приложения только из официальных магазинов и проверяйте разработчика.
• «ИИ-боты для трейдинга», обещающие гарантированную доходность, — почти всегда банальное мошенничество.

ИИ можно использовать и для защиты. Скопируйте подозрительное сообщение, убрав свои личные данные, и попросите чат найти признаки обмана. Проверяйте информацию только через официальные каналы — ни в коем случае не по ссылкам и номерам из подозрительного сообщения.

Осторожность при использовании ответов ИИ

• Здоровье, законы и финансы: ИИ может объяснить термины простыми словами и помочь составить вопросы, но он не заменит врача, юриста или финансового консультанта. Прежде чем действовать, проконсультируйтесь со специалистом. В экстренных случаях сразу звоните в службы спасения.
• Инструкции, влияющие на безопасность: любые работы с электричеством, химикатами, дозировки лекарств и ремонт автомобиля стоит перепроверять по официальным руководствам или со специалистами.
• Скрытые инструкции в контенте: если ИИ читает сайты, почту или документы, злоумышленники могут внедрить в этот контент скрытые команды (prompt injection). Будьте осторожны с ИИ-агентами, выполняющими действия от вашего имени (отправка писем, оплата), и проверяйте каждый их шаг.
• Дети: ChatG не предназначен для детей младше 13 лет. Родителям подростков стоит обсудить с ними, чем нельзя делиться в сети и почему ответы ИИ требуют критического осмысления.

В руководстве по проверке фактов за ИИ мы рассказываем, как проверять полученную информацию, а в статье о том, как работают чат-боты, объясняем причины их ошибок.

Чек-лист безопасности

• Я убрал имена, контакты и адреса, без которых ответ останется точным.
• Я не отправлял пароли, ключи и одноразовые коды.
• Я уточнил правила компании или учебного заведения перед отправкой их материалов.
• Я знаю, где сервис сохраняет историю и обучается ли он на моих сообщениях.
• Я перечитал диалог, прежде чем создать публичную ссылку.
• Я удалил историю на общественном компьютере.

Ответы на другие вопросы о ChatG можно найти в FAQ и в разделе о проекте. Если вы используете ИИ для программирования или работы с документами, в наших статьях об ИИ для кода и ИИ для малого бизнеса собраны советы о том, какие данные лучше держать при себе.

Часто задаваемые вопросы

Могут ли создатели ИИ-сервиса читать мои диалоги?

В зависимости от платформы сотрудники или модераторы могут просматривать часть переписок — например, для контроля безопасности или дообучения моделей. Читайте политику каждого сервиса. В ChatG история хранится только в вашем браузере, а не на наших серверах, но сообщения передаются провайдеру ИИ для генерации ответа.

Если удалить чат, он удалится отовсюду?

Не всегда. Удаление обычно стирает диалог из интерфейса, но его копии могут храниться в логах или резервных копиях в течение срока, установленного сервисом. В ChatG удаление стирает переписку из браузера, однако опубликованные по ссылке диалоги останутся в сети, пока вы не попросите нас их удалить.

Защищает ли приватный режим браузера мою переписку?

Режим инкогнито просто не дает браузеру сохранить историю после закрытия окна: на ChatG чаты исчезнут сразу после закрытия вкладки. Но сами сообщения все равно передаются на сервер для генерации ответа, поэтому от самого сервиса режим инкогнито их не скрывает.

Что делать, если я случайно отправил важные конфиденциальные данные?

Сразу же смените скомпрометированный пароль или ключ доступа. Удалите чат и проверьте настройки сервиса на предмет удаления данных. Если это была публичная ссылка ChatG, напишите на hello@chatg.org с указанием адреса страницы, и мы ее удалим.