Компания Meta расширила сбор данных с рабочих устройств сотрудников в США в рамках инициативы по обучению систем искусственного интеллекта (ИИ). Внутренние документы показывают, что инструмент фиксирует не только действия пользователей в программах, но и другие виды активности, включая переписку и историю просмотров.
ЧТО ИЗВЕСТНО О ПРОЕКТЕ
По данным Reuters, внутренние материалы Meta свидетельствуют, что инициатива Model Capability Initiative (MCI) собирает данные о взаимодействии сотрудников с более чем 200 приложениями и сайтами. Проект направлен на создание ИИ-систем, способных самостоятельно выполнять стандартные цифровые задачи.
На базовом уровне система отслеживает перемещения курсора, клики и навигацию в программах. Как следует из документов, со временем такие данные могут использоваться для обучения ИИ выполнению многоэтапных операций в рабочих приложениях.
КАКИЕ ДАННЫЕ ПОПАЛИ В ПОЛЕ ВНИМАНИЯ
Система также может фиксировать содержимое электронных писем и сообщений, отправляемых сотрудникам, находящимся в США, включая переписку с коллегами из других стран. В одном из внутренних FAQ компании отмечалось, что если сотрудник из США использует инструмент во время общения по электронной почте или в чате с зарубежным коллегой, такая активность может быть зафиксирована.
Представитель Meta Дейв Арнольд заявил, что инструмент установлен только на устройствах в США и предназначен прежде всего для анализа поведения пользователей, а не содержания коммуникаций. По его словам, компания оценила риски для конфиденциальности и намерена соблюдать действующие законы и нормативные требования.
КАКИЕ ВОПРОСЫ ВОЗНИКЛИ ВНУТРИ КОМПАНИИ
Некоторые сотрудники сообщили, что система работает как более масштабный механизм сбора данных, встроенный в существующее программное обеспечение мониторинга. Внутренние анализы, на которые ссылаются документы, указывают, что MCI может фиксировать изменения в коде, историю браузера, циклы перехода устройств в спящий режим и действия с буфером обмена.
Один из сотрудников описал проект как систему, которая способна не только выполнять отдельные действия, но и понимать последовательность операций при работе с документами и программами. Позднее публикация с этим описанием была удалена, утверждается в материалах.
Дейв Арнольд назвал подобные оценки «в корне неточными», однако конкретные технические детали не прокомментировал.
ПОЧЕМУ ПРОЕКТ ВЫЗВАЛ ВНИМАНИЕ СПЕЦИАЛИСТОВ ПО ЗАЩИТЕ ДАННЫХ
Часть экспертов связывает ситуацию с требованиями европейского законодательства о защите персональных данных. Даже если инфраструктура проекта ограничена территорией США, переписка с сотрудниками из Европейского союза может затрагивать нормы Общего регламента ЕС по защите данных (GDPR).
Эксперт организации NOYB Клеанти Сардели заявила, что использование рабочих коммуникаций для обучения ИИ может не соответствовать первоначальным целям, ради которых такие данные собирались. В свою очередь, Meta сообщила ирландскому регулятору по защите данных, что сбор информации о сотрудниках из ЕС не является основной задачей проекта.
