В России обсуждаются подходы к регулированию систем искусственного интеллекта, включая возможный запрет на манипулирование поведением пользователей с помощью алгоритмов. Соответствующие положения содержатся в законопроекте Минцифры об искусственном интеллекте, который в настоящее время проходит межведомственное согласование.

Документ предполагает, что разработчики и операторы систем искусственного интеллекта должны предупреждать пользователей о недопустимости применения нейросетей для манипулирования поведением человека или эксплуатации его уязвимостей — возрастных, психологических или социально-экономических.

Депутат Государственной Думы Антон Немкин отметил, что развитие технологий искусственного интеллекта требует формирования понятных и сбалансированных правил их применения.

«Сегодня системы искусственного интеллекта способны анализировать огромные массивы данных о пользователях и на основе этого формировать персонализированный контент и рекомендации. Это открывает большие возможности для развития сервисов, но одновременно создаёт риски злоупотреблений, связанных с манипулированием поведением человека», — подчеркнул Антон Немкин.

По словам депутата, регулирование должно быть направлено прежде всего на предотвращение вреда для пользователей, включая случаи, когда технологии могут использоваться для психологического давления или мошенничества.

«Важно понимать, что ответственность должна лежать не на самой технологии, а на тех, кто её создаёт и внедряет. Именно разработчики и операторы сервисов должны закладывать в свои продукты механизмы безопасности, которые исключают использование ИИ для обмана, давления или эксплуатации уязвимостей человека», — отметил Антон Немкин.

В то же время парламентарий считает, что регулирование не должно ограничивать развитие полезных цифровых сервисов, которые используют искусственный интеллект для помощи пользователям.

«Нейросети активно применяются в рекомендательных системах — от онлайн-магазинов до кинотеатров и образовательных платформ. Такие алгоритмы помогают пользователям быстрее находить нужные товары, контент или услуги. Поэтому при разработке регулирования крайне важно провести чёткую границу между полезной персонализацией и недобросовестной манипуляцией», — заявил Антон Немкин.

По его словам, эффективное регулирование ИИ возможно только при тесном взаимодействии государства, технологических компаний и экспертного сообщества.

«Сфера искусственного интеллекта развивается стремительно, и предусмотреть все возможные сценарии использования технологий в нормативных актах невозможно. Именно поэтому ключевым фактором должно стать постоянное взаимодействие государства, отрасли и экспертов для выработки гибких и актуальных правил», — заключил Антон Немкин.

Источник: пресс-служба депутата Государственной Думы РФ Антона Немкина