Искусственный интеллект и общество

29-30 июня 2023 года ведущий научный сотрудник Отдела исследований европейской интеграции Института Европы РАН Д.Ю. Базаркина приняла участие в конференции «Искусственный интеллект и общество» на факультете компьютерных наук Национального исследовательского университета «Высшая школа экономики».

Конференция была призвана объединить специалистов технического и гуманитарного профилей для обмена идеями о взаимном влиянии двух сложных систем: искусственного интеллекта (ИИ) и совокупности общественных процессов.

С приветственным словом к участникам и гостям конференции обратился руководитель Департамента анализа данных и ИИ НИУ ВШЭ, доктор физико-математических наук С.О. Кузнецов. В роли модератора выступил заместитель руководителя Департамента анализа данных и ИИ, доктор физико-математических наук В.А. Громов.

Доклады участников конференции охватили широкий круг проблем, продемонстрировав необходимость междисциплинарного подхода к изучению феномена ИИ. В фокусе внимания спикеров находились широкомасштабная структура естественного языка, пути к общему ИИ с использованием глубокого обучения, представления о креативных возможностях ИИ, роль ИИ в гуманитарном образовании, его возможности в задачах обработки сигналов мозга. Затрагивались такие общественно значимые темы, как речь ненависти, токсичная коммуникация онлайн и ее выявление с помощью ИИ; применение ИИ для разметки психологических данных; текущие и перспективные угрозы информационно-психологической безопасности в Китае, обусловленные злонамеренным использованием ИИ; роль ИИ в разработке медицинских устройств и многие другие.

Д.Ю. Базаркина представила доклад «ИИ в контексте гибридных угроз: вызовы и возможности», в котором раскрыла понятие гибридных угроз в рамках теории гибридной войны, а также на примерах из практики Европейского союза показала, как государственные и негосударственные акторы могут использовать передовые технологии в рамках гибридного противоборства. Сделав акцент на террористических акторах как на субъектах гибридных угроз, Д.Ю. Базаркина также отметила, что факторы перехода тех или иных лиц к террористической деятельности могут иметь разную природу – экономическую, социально-психологическую, политическую. Террористические организации активно используют все перечисленные факторы, стремясь «удешевить» теракты не только за счет все более доступных технологий ИИ (включая разработанные не ими самими), но и за счет вербовки или пропаганды, нацеленной на то, чтобы востребованный профессионал стал террористом-одиночкой. Необходимо проанализировать: представителей каких профессий в обозримом будущем может постигнуть такая участь? В какой степени подвержены специалисты по ИИ риску стать мишенью для террористической вербовки?

В докладе также были затронуты возможности борьбы с гибридными угрозами с помощью ИИ на примере терроризма. Дальнейшего изучения как техническими, так и общественными науками заслуживают пути использования ИИ для противодействия социальной инженерии. Прогнозная аналитика на основе ИИ применяется не только для прогнозирования террористических актов, но и для психологического профилирования террористов на основе их поведения. Обработка естественных языков предлагается для модерации контента в Интернете. Интересны также существующие в современных исследованиях предложения по использованию ИИ в психологической защите от манипуляций.

Программа конференции: https://cs.hse.ru/aisschool/?ysclid=ljmju6b5w2222881577#prog