Эксперты Татарстана обсудили риски искусственного интеллекта и пути их минимизации

На площадке Экспертного клуба Татарстана специалисты обсудили потенциальные угрозы, связанные с внедрением технологий искусственного интеллекта (ИИ), а также стратегии управления этими рисками. Дискуссия стала ответом на недавние заявления Президента РФ о необходимости внимания к данной сфере.

Ключевые тезисы выступления Игоря Бикеева (первый проректор Казанского инновационного университета, депутат Государственного Совета РТ):

• Ответственность за действия ИИ и их последствия должен нести исключительно человек (разработчик, владелец или оператор).
• Требуется четкий просчет результатов применения ИИ-систем до их внедрения.
• Недопустима утрата людьми познавательных и мыслительных способностей из-за чрезмерного делегирования задач алгоритмам.

Оценка трансформации рынка и управления от Антона Глухова (руководитель исследовательского агентства):

• ИИ вызывает исторические перемены, сопоставимые с промышленной революцией. Речь идет не о массовом исчезновении профессий, а о радикальном изменении задач внутри них.
• Существует риск чрезмерной оптимизации человеческих ресурсов бизнесом, что в масштабах всей экономики может привести к снижению потребительского спроса.
• Опасность представляют галлюцинации ИИ, распространение ошибочной информации и формирование у людей привычки слепо доверять машине.
• Решение заключается в максимизации человеческого контроля, обеспечении прозрачности алгоритмов и системном обучении пользователей.
• Позитивный пример: в Татарстане функционирует единая база из более чем 12 млн электронных ЭКГ. ИИ ежедневно помогает выявлять около 600 патологий, при этом окончательное медицинское решение остается за врачом.

Вызовы для системы высшего образования по мнению Алексея Лопатина (кандидат технических наук, заведующий кафедрой КНИТУ-КАИ):

• ИИ многократно усиливает результаты компетентных специалистов, но требует активного освоения больших языковых моделей.
• Необходима программа активного обучения профессорско-преподавательского состава основам профессионального применения ИИ в преподавательской и исследовательской деятельности.
• Преподаватели должны не отставать от молодежи в цифровых компетенциях. Запретительные меры в отношении ИИ без альтернативного обучения приведут к стагнации в образовании.

Итог: В будущем важным преимуществом человека станет не скорость обработки информации, а способность ставить задачи, критически оценивать результат, понимать контекст и принимать ответственные решения там, где возможностей алгоритма недостаточно.