Рассказываем, как китайцы намерены контролировать работу искусственного интеллекта в сети интернет.
Вэнь Ли — специалист по маркетингу в гостиничном бизнесе из Шанхая, впервые заподозрила, что алгоритм обманывает ее, когда однажды вечером она и ее подруга воспользовались одним и тем же приложением агрегатора такси.
Друг Вэнь, который редко заказывал поездки в люксовых автомобилях, увидел более низкую цену за ту же поездку. Вэнь обвинила алгоритмы компании и сказала, что они пытаются выжать из нее больше денег.
Китайские поставщики услуг по предоставлению поездок утверждают, что цены варьируются в зависимости от колебаний трафика. Однако некоторые исследования и новостные репортажи утверждают, что приложения предлагают разные цены в зависимости от таких факторов, как история поездок и используемый телефон.
КНР будет запрещать дискриминацию с использованием алгоритмов
1 марта Китай запретит такую дискриминацию с помощью алгоритмов в рамках, возможно, самых амбициозных в мире усилий по регулированию искусственного интеллекта. Согласно правилам, компаниям запрещено использовать персональные данные для того, чтобы предлагать пользователям разные цены на товар или услугу.
Далеко идущие правила распространяются на алгоритмы, которые устанавливают цены, определяют результаты поиска, рекомендуют видео и фильтруют контент. Они введут новые ограничения в отношении крупных компаний, предоставляющих услуги по перевозке пассажиров, электронной коммерции, потокового вещания и социальных сетей.
Правила расширяют чрезвычайные меры против самых популярных и крупных технологических компаний Китая, которые уже привели к крупным штрафам и задержкам в проведении IPO. «В процессе быстрого развития цифровой экономики нашей страны появились некоторые нездоровые и неправильные ситуации и тенденции», — сказал председатель КНР Си Цзиньпин в своей речи в октябре.
Политики в других странах берут это на заметку
«Сегодня утром я был на встрече в министерстве иностранных дел Нидерландов, и меня спросили, делает ли Китай то, чего не делаем мы», — сказал Рогир Кримерс, эксперт по китайскому праву и управлению в Лейденском университете в Нидерландах. «Они двигаются чрезвычайно быстро».
Правила, известные как «Правила управления рекомендациями алгоритмов в интернете», были разработаны Администрацией киберпространства Китая, влиятельным ведомством, ответственным за обеспечение кибербезопасности, цензуры в интернете и правил электронной коммерции. Среди прочего, они запрещают поддельные аккаунты, манипулирование трафиком и продвижение контента, вызывающего зависимость.
Например, компаниям запрещено предлагать пользователям разные цены на товар на основе личных характеристик. Они также должны информировать пользователей и предоставлять им возможность отказаться от использования алгоритмов для составления рекомендаций. Компаниям, нарушившим правила, грозят штрафы, запрет на регистрацию новых пользователей, отзыв лицензии на ведение бизнеса или закрытие их сайтов или приложений.
Обеспечить соблюдение некоторых правил достаточно трудно
Отследить поведение алгоритма, который постоянно меняется в зависимости от новых данных, может быть непростой технической задачей.
Однако китайская общественность в целом, похоже, поддерживает меры, направленные на ограничение власти крупных технологических платформ, которые используют их каждый день. И последние 18 месяцев показали, что китайские регуляторы не стесняются наказывать именитые компании. Приложение Didi было удалено из китайских магазинов приложений вскоре после того, как оно стало публичным в США, из-за опасений правительства по поводу практики использования данных.
Гигант электронной коммерции Alibaba был оштрафован на миллионы за нарушение антимонопольного законодательства.
Другие элементы правил расплывчаты или открыты для толкования, например, положения, требующие от компаний «сосредоточиться на своих основных ценностях», «энергично распространять позитивную энергию» и «предотвращать или уменьшать разногласия или споры». Другой раздел предложения просит китайские компании избегать действий, которые приводят пользователей к «зависимости или чрезмерному потреблению». Аналогичные опасения привели к ограничению культуры знаменитостей в прошлом году и строгим ограничениям на количество времени, которое несовершеннолетние могут проводить за видеоиграми.
Еще до вступления в силу нормативных актов китайские компании уже вносят изменения
ByteDance, пекинская компания, стоящая за популярным приложением для просмотра коротких видеороликов Douyin, в октябре начала показывать пятисекундные видеоролики, которые требуют от пользователей выхода из системы, если они смотрят их в течение длительного времени. Этот шаг был призван уменьшить зависимость от алгоритмически составленной ленты.
Компания также внедрила в Douyin и другие приложения функции, позволяющие пользователям отказаться от использования личных данных в рекомендательных алгоритмах. Исследование, проведенное китайской медиакомпанией, показало, что за последний год 26 из 28 популярных приложений ввели способы отказа пользователей от персонализированных рекомендаций в ответ на очередной закон о конфиденциальности.
Китайские технологические компании уже тщательно отслеживают контент, чтобы соответствовать правилам обмена информацией, которые правительство считает вредными. В начале этого месяца социальная медиа-платформа Weibo удалила 71000 сообщений с нападками на олимпийских спортсменов, включая фигуристку американского происхождения Чжу И, выступающую за Китай.
Компания Tencent Video выпустила версию фильма «Бойцовский клуб» 1999 года, концовка которого была изменена китайским дистрибьютором (оригинал был быстро снят с продажи).