ChatGPT может создавать цифровое досье на пользователей
В памяти искусственного интеллекта могут сохраняться имена, адреса, сведения о здоровье, доходах и личных предпочтениях пользователей. Об этом предупредили в управлении МВД РФ по борьбе с противоправным использованием информационно-коммуникационных технологий.
По данным исследования The Algorithmic Self-Portrait, почти все записи в памяти ИИ создавались без согласия пользователей. У половины аккаунтов сохранялась информация о здоровье и убеждениях, а почти у всех — цели, намерения и особенности поведения.
В МВД считают, что накопленные сведения могут помочь идентифицировать человека даже при использовании псевдонима. Еще одна угроза — внедрение ложных инструкций в документы, которые обрабатывает ИИ. Это может использоваться для скрытого влияния на решения конкретных людей.
Чтобы снизить риски, в ведомстве рекомендуют:
— проверять настройки памяти и персонализации;
— не загружать в ИИ служебные документы и личные данные;
— обезличивать запросы;
— пользоваться временными чатами.