Всемирный день защиты прав потребителей в 2024 году проводится под девизом «Справедливый и ответственный искусственный интеллект для потребителей»

Искусственный интеллект (ИИ) - это  свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека.

Интеллектуальная система - это техническая или  программная система, способная решать задачи, традиционно считающиеся творческими, принадлежащие конкретной предметной области, знания о которой хранятся в памяти такой системы. 

Структура интеллектуальной системы включает три основных блока: базу знаний,  механизм вывода решений и интеллектуальный интрефейс (обмен информацией, «проводник» между человеком и программой, операционной системой, техническим устройством или способ взаимодействия).

По технологии принятия решений интеллектуальная система- это  информационно-вычислительная система с интеллектуальной поддержкой, которая решает задачи без участия человека - лица, принимающего решение (ЛПР). 

Отличие  интеллектуализированной системы -  в ней присутствует человек/оператор.

Также искусственный интеллект- это раздел информатики, который занимается решением когнитивных задач, обычно отведенных человеку. К таким задачам относятся обучение, создание и распознавание образов. Современные организации собирают большие объемы данных из различных источников – интеллектуальных датчиков, инструментов мониторинга, системных журналов и контента, созданного человеком. 

Задача искусственного интеллекта заключается в создании самообучающихся систем, которые извлекают смысл и знания из данных. Далее искусственный интеллект может применять эти знания для решения новых задач подобно человеку. 

Например, технология искусственного интеллекта может эффективно реагировать на человеческую речь, создавать оригинальные изображения и текст, принимать решения на основе данных, получаемых в реальном времени; камеры над дорогой вычисляют скорость движения автомобиля, распознают его знак и высылают штраф, а системы безопасности в метро и аэропортах находят людей в толпе.

В центре внимания Всемирного дня защиты прав потребителей – алгоритмы искусственного интеллекта, используемые для создания нового контента-  генеративные чат-боты ИИ, которые уже давно применяются в сфере обслуживания и поддержки клиентов. Эти чат-боты интегрируют системы ИИ для имитации человеческого общения сложными и специфическими способами, например, в онлайн-поиске, где ведущие технологические компании уже начали внедрять поисковый опыт.

В рамках Всемирного дня в 2024 году, актуален вопрос: «Насколько потребители могут доверять «чат-ботам» с генеративным искусственным интеллектом?». 

Практически любой пользователь хотя бы раз сталкивался с чат-ботом или голосовым ассистентом (помощником), когда пытался решить вопрос, например, с банком или сотовым оператором, с продавцом или исполнителем услуги. 

 Чат-бот- это программа с искусственным интеллектом, имитирующая диалог с человеком, и настроенная на мгновенный ответ на вопрос пользователя через мессенджеры, сайты, телефон или мобильное приложение.

Эти программы можно настраивать и использовать по-разному. Большинство из нас знакомы с чат-ботами для бизнеса, а также с популярными мессенджерами: Telegram, Facebook* Messenger, WhatsApp. Чат-бот может помочь решить проблемы, которые часто встречаются у пользователей; умеют собирать контакты пользователей и могут делиться с ними бесплатными материалами.

  Преимуществом чат-ботов является:

• Возможность мгновенно ответить на вопрос пользователя. 

• Чат-боты доступны круглосуточно и без выходных, 7 дней в неделю.

• Ели бот не может понять запрос и дать ответ, он может передать вопрос специалисту службы поддержки.

Чат-боты предоставляют целый ряд возможностей для решения различных задач для человека. Например, они умеют:

• принимать заказы;

• бронировать билеты и номера в отелях; 

• оказывать техническую поддержку клиентов; 

• консультировать по продукту или по услуге;

• проводить оплату и совершать денежные переводы.

Это универсальный инструмент для бизнеса любого масштаба, а также любой отрасли: туризм, розничная и оптовая торговля, банковская сфера, общественное питание, медицина. 

Основная задача «чат-бота» – давать естественные, а не достоверные ответы, поэтому потребители могут получать неверную информацию и делать ошибочные выводы.

Чат-боты не могут отличать правду от неправды, могут выдавать вымышленные факты за реальные, в результате чего потребители могут получить недостоверную информацию и сделать ошибочные выводы.

Поэтому, несмотря на множество преимуществ искусственного интеллекта,  его применение может иметь серьезные последствия для безопасности потребителей, такие как распространение ложной информации и нарушение конфиденциальности, так как самый большой недостаток чат-ботов – это их способность отвечать только на те вопросы, для которых ответ был заготовлен заранее. Если поступит вопрос, которого нет в его базе «заготовленных» ответов, он может долго думать, нелогично отвечать, или давать ответы с недостоверной и ложной информацией. 

И при лучшем раскладе, обращение будет переведено на сотрудника службы поддержки. 

Дополнительные минусы использования чат-ботов:

• Клиенты больше предпочитают общение с живыми людьми чем с чат-ботом. Живые сотрудники службы поддержки увеличивают рейтинг удовлетворенности клиентов. 

• Чат-боты не могут вникнуть в суть проблемы.

• У Чат-ботов нет способности принимать решения.

Также часто люди психологически не готовы или просто не понимают, как правильно общаться с ботом, поэтому компания или организация, которая использует в своей деятельности чат-боты, должна  предоставить право клиенту/потребителю самому выбирать с кем вести диалог - с чат-ботом или с сотрудником кампании. Эта возможность должна быть при решении любых вопросов клиентов, независимо от их сложности.  

Три приоритета защиты прав потребителей во времена ИИ

Первым приоритетом является прозрачность и понятность алгоритмов, используемых  ИИ. Потребители сталкиваются с автоматическими решениями, которые принимаются на основе алгоритмов ИИ. Однако, такие алгоритмы могут быть сложными и непрозрачными (не понятными) для обычных пользователей. Потребители должны иметь возможность понимать, как принимаются решения, и какую информацию использовал ИИ. Только при наличии прозрачности потребители могут быть уверены в том, что их права защищены.

Вторым приоритетом является конфиденциальность данных потребителей. ИИ основан на обработке больших объемов данных, и часто требуется доступ к личной и конфиденциальной информации. Важно, чтобы потребители имели гарантию, что их данные защищены от несанкционированного доступа или использования. Защита данных становится все более важной в условиях повсеместного присутствия ИИ, поэтому законодательство и правила должны быть разработаны с учетом особенностей этой технологии.

Третьим приоритетом является ответственность за негативные последствия ИИ. Известные случаи некорректной работы ИИ показывают, что технология не всегда работает идеально и может вызвать нежелательные последствия для потребителей. Потребители должны иметь гарантии, что в случае неправильного решения или негативного влияния ИИ будет принята ответственность со стороны компаний и организаций, использующих эту технологию. 

Это включает в себя возмещение ущерба, улучшение алгоритмов и принятие мер по предотвращению повторения подобных ситуаций.

В настоящее время правовой статус искусственного интеллекта законодательно не определен и нет ясности, кто несет ответственность за создание и распространение недостоверной или неточной информации, попадающей в открытые источники при использовании искусственного интеллекта.

Поэтому мероприятия, организованные Роспотребнадзором в рамках Всемирного дня прав потребителей, направлены на осуществление комплексного подхода к обеспечению эффективной защиты прав российских потребителей от рисков, связанных с использованием платформ, управляемых искусственным интеллектом.

Надежда Александрович, специалист консультационного пункта по вопросам защиты прав потребителей Зеленодольского филиала ФБУЗ «Центр гигиены  и эпидемиологии в РТ»