Пользователи из разных стран неоднозначно отреагировали на нововведения Apple, призванные защитить несовершеннолетних. Мнение пользователей iPhone проанализировал профильный ресурс 9to5Mac.
Например, Apple может создать своего рода идентификатор тех людей, которые хранят у себя на устройствах запрещенный контент или пересылают его. А что помешает отдельному государству отслеживать таким же образом своих граждан, идентифицируя, например, оппозиционеров, по содержимому их фотоальбомов?
Другой пример. Устройство Apple может с помощью нейросетей определять, когда в сообщениях iMessage отправляется «обнаженка». А что помешает государству воспользоваться этим и внести свой фильтр слов или фраз, надавив на компанию на своей территории?
Сканирование фотографий
На данный момент процесс выглядит следующим образом. Искусственный интеллект сканирует фотоальбомы на iPhone или iPad, и, в случае выявления нескольких изображений с детской порнографией, помечает пользователя как потенциального нарушителя закона. Эта метка передается в Apple, и далее уже специальные сотрудники вручную перепроверяют за нейросетью результаты её работы. Если факт хранения «запрещенки» подтверждается — Apple отправляет данные в правоохранительные органы.
И эксперты по кибербезопасности, и обычные пользователи видят в этой схеме большую проблему — по сути, на вашем устройстве можно при желании искать абсолютно любую информацию, а не только противоправную. А если лазейка есть — ею однажды обязательно воспользуются «не по назначению». И это очень тревожит правозащитные организации.
Сканирование iMessage
Отдельные опасения вызывает у пользователей сканирование сообщений iMessage. Это происходит так: при получении подозрительного сообщения ребенок (речь идет именно о дочерних аккаунтах Apple ID, заведенных на несовершеннолетних) получает предупреждение — внутри может быть что-то плохое. Ребенок должен выбрать: просмотреть или отклонить. В случае просмотра родители могут получить уведомление об этом.
По мнению правозащитников, здесь есть несколько слабых мест. Во-первых, ребенок, который увидит, что о его действиях в iMessage узнают родители, может просто перейти в другой мессенджер и продолжить там. Во-вторых, отмечается, что родители далеко не всегда являются надежными доверенными лицами.
Эксперты предполагают, что Евросоюз может запретить Apple продолжать использовать алгоритм выявления детской порнографии, описанный выше. Такое же решение могут вынести и американские суды.