Технологии искусственного интеллекта прочно вошли в нашу жизнь и продолжают менять её. С каждым днем расширяется перечень цифровых услуг, создаются приложения, которые упрощают привычные операции: помогают получать финансовые услуги, записаться на прием к врачу, сделать покупку. Необязательно идти в отделение банка, чтобы оплатить ЖКХ или открыть депозит в банке — теперь это можно сделать в приложении.
В настоящее время правовой статус искусственного интеллекта законодательно не определен. Развитие искусственного интеллекта имеет множество преимуществ, в тоже время его применение может иметь серьезные последствия для безопасности потребителей, такие как распространение ложной информации, нарушение конфиденциальности, мошеннические действия (в частности взломы аккаунтов в социальных сетях и мессенджерах, использование видео и голосовых сообщений для создания видео и аудиозаписей якобы от лица владельца аккаунта).
В первую очередь распространено применение голосовых помощников, роботов ассистентов, чат-ботов. Чат-боты могут не отличать правду от неправды и выдавать вымышленные факты за реальные, в результате чего потребители могут получить недостоверную информацию и сделать ошибочные выводы.
Однако, в рамках федерального проекта «Искусственный интеллект» и стратегия развития информационного общества на 2017-2030 гг. разработан кодекс этики искусственного интеллекта (далее- ИИ). Кодекс этики в сфере искусственного интеллекта, устанавливает общие этические принципы и стандарты поведения в этой области, помогает организовать взаимоотношение людей и компаний в связи с развитием ИИ.
Кодекс этики в сфере искусственного интеллекта (далее – Кодекс) устанавливает общие этические принципы и стандарты поведения, которыми следует руководствоваться участникам отношений (п.1.3. раздела 2 Кодекса) в сфере искусственного интеллекта (далее – Акторы ИИ) в своей деятельности, а также механизмы реализации положений настоящего Кодекса.
Кодекс адресован всем, кто создает, внедряет или использует технологии ИИ: государство, разработчики и бизнес, наука, пользователь.
Согалсно п.2.4 Кодекса Акторы ИИ не должны допускать использование технологий ИИ в целях причинения вреда жизни и (или) здоровью человека, имуществу граждан и юридических лиц, окружающей среде. Любое использование, в том числе проектирование, разработка, тестирование, внедрение, эксплуатация СИИ (система искусственного интеллекта), способных целенаправленно причинять вред окружающей среде, жизни и (или) здоровью человека, имуществу граждан и юридических лиц, недопустимо.
В случае, если Продавец/Исполнитель в своей деятельности использует ресурсы искусственного интеллекта для предоставления потребителям информации о своих товарах/Услугах, то такая информация должна быть достоверная.
Общий перечень информации о товарах (работах, услугах), который в обязательном порядке должен быть доведен до потребителя, содержится в п. 2 ст. 10 Закона РФ от 07.02.1992 N 2300-1 «О защите прав потребителей». Кроме того, специальные перечни содержат иные нормативные акты, регулирующие отдельные виды отношений в сфере защиты прав потребителей.
В соответствии со ст. 12 Закона РФ от 07.02.1992 № 2300-1 «О защите прав потребителей», если потребителю не предоставлена возможность незамедлительно получить при заключении договора информацию о товаре (работе, услуге), он вправе потребовать от продавца (исполнителя) возмещения убытков, причиненных необоснованным уклонением от заключения договора, а если договор заключен, в разумный срок отказаться от его исполнения и потребовать возврата уплаченной за товар суммы и возмещения других убытков.
Также в развитие положений Кодекса этики в сфере ИИ разработаны Рекомендации по применению рекомендательных технологий и алгоритмов, основанных на искусственном интеллекте (далее-ИИ), в цифровых сервисах (далее – Рекомендации, Документ), которые призваны систематизировать этичную практику и обобщить подходы, допустимые и рекомендуемые к применению при разработке и настройке рекомендательных алгоритмов, а также при внедрении и эксплуатации функционала персонализированных рекомендаций в цифровых сервисах различного типа.
Рекомендации предлагаются для добровольного исполнения компаниями, использующими рекомендательные системы в цифровых сервисах.
Рекомендательные системы — это комплекс сервисов и программ, который анализирует предпочтения пользователей и пытается предсказать, что может их заинтересовать.
В интернет-магазинах, видео- и музыкальных сервисах, социальных сетях широко применяются программные инструменты, которые анализируют предпочтения пользователей и пытаются предсказать, что их может заинтересовать.
Целью использования рекомендательных систем является привлечение и удержание как можно более многочисленной аудитории и, следовательно, увеличение объемов продаж. Чтобы сформировать рекомендацию, система анализирует разнообразные данные – от личной информации о потребителе из его профиля в социальной сети, совершенных и несовершенных покупках до сделанных им запросов в поисковиках. В результате на экран выводятся именно те предложения, которые могут быть интересны пользователю.
Рекомендации применяются в различных сферах: в интернет-магазинах предлагается выбрать товары в разделах: «с этим товаром покупают» или «вам может понравиться». При помощи рекомендательных алгоритмов медиа имеют возможность показать интересные пользователю материалы, а соцсети предлагают добавить в друзья определенных людей. Видео- и музыкальные стриминги также используют рекомендательные системы для сбора персонализированных плейлистов или рекомендаций фильмов для конкретного пользователя.
Если гипотезы окажутся верны, и пользователь совершит успешные транзакции с предложенными объектами, т.е. удовлетворит свои потребности с минимальными трудозатратами это сформирует успешный опыт. Успешный опыт взаимодействия с сервисом не только способствует долгосрочной коммерциализации повторяющихся сопутствующих транзакций, но и формирует у пользователя лояльность к сервису, т.е. подтвержденную на практике уверенность в том, что данный сервис оптимально подходит для удовлетворения его определенных потребностей.
Кроме того, следует учитывать, что использование рекомендательных сервисов для предложения пользователям товаров и услуг, которые явно рассчитаны на определенную целевую аудиторию и могут быть негативно восприняты за пределами этой аудитории.
Рекомендуется учитывать, что ряд товаров и сервисов могут быть крайне чувствительными, и использование рекомендательных сервисов для продвижения таких товаров и услуг должно иметь ограничение, например товаров и услуг: для взрослых (18+); религиозного характера; ритуального характера; которые могут способствовать разжиганию конфликтов или межнациональной розни.
Владельцам (администраторам) цифровых сервисов, ориентированных на пользователей (потребителей) из Российской Федерации, следует учитывать, что применения рекомендательных систем регулируется в том числе следующими нормативно-правовыми актами:
- Федеральный закон от 31.07.2023 № 408-ФЗ «О внесении изменения в Федеральный закон «Об информации, информационных технологиях и о защите информации»;
- Закон РФ от 07.02.1992 № 2300-1 «О защите прав потребителей»;
- Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и защите информации»;
- Федеральный закон «Об основах государственного регулирования торговой деятельности в Российской Федерации» от 28.12.2009 № 381-ФЗ;
- Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных»;
- Федеральный закон «О защите детей от информации, причиняющей вред их здоровью и развитию» от 29.12.2010 № 436-ФЗ;
- Закон РФ от 27.12.1991 № 2124-1 «О средствах массовой информации»;
- Федеральный закон «О рекламе» от 13.03.2006 № 38-ФЗ;
- Федеральный закон «Об охране здоровья граждан от воздействия окружающего табачного дыма, последствий потребления табака или потребления никотинсодержащей продукции» от 23.02.2013 № 15-ФЗ;
• Федеральный закон «О защите конкуренции» от 26.07.2006 №135-ФЗ и т.д. Приведенный перечень нормативных правовых актов не является исчерпывающим. Лица, применяющие рекомендательные системы, должны осознавать свою ответственность и соблюдать нормы законодательства.