ИИ в пандемию: больше пользы или вреда?

Обзор применения ИИ в медицинско-социальных целях

Нидерландский фонд ALLAI опубликовал обзор по областям применения ИИ в медицинско-социальных целях в ходе текущей пандемии. 

Медицинское применение ИИ

Медицинское применение ИИ включает в себя инструменты, непосредственно связанные с медицинскими аспектами пандемии коронавируса: эпидемиология, молекулярные исследования, клиническая практика и предоставление помощи, например: создание лекарств и вакцин с использованием ИИ; прогнозирование развития заболеваний на основе ИИ; диагностика с применением ИИ (распознавание изображений); оптимизация оказания помощи с помощью ИИ (например, распределение средств индивидуальной защиты и прогнозирование их использования).

Социальное применение ИИ

Социальное применение ИИ включает в себя инструменты, связанные с общественными и личными аспектами пандемии: политические решения, онлайн-обучение, удалённая работа, предоставление данных, таких как: мониторинг социального дистанцирования и использования масок с помощью ИИ; ИИ в дистанционном обучении и экзаменах; управление информацией о пандемии искусственным интеллектом.

Этика и оценка применения ИИ

Обзор стал результатом применения на практике Руководства по этике для доверенного ИИ, принятого Высокоуровневой экспертной группой ЕС в 2019 году. Для практического применения принципов Руководства на их основе фонд разработал собственный фреймворк. На основе этого фреймворка фонд произвел оценку ИИ, использовавшихся в пандемию. Критериями оценки были:  

• влияние на общество; 
• технологическая надёжность и эффективность;
• управление и подототчетность. 

Результаты оценки

По оценке фонда, большинство из попавших в обзор применений ИИ по соотношению выгод и преимуществ скорее вредны, чем полезны для общества; многие не имеют доказанной эффективности. 

Так, использование стационарных температурных сканеров социально нормализует расширение практики постоянного и повсеместного наблюдения за гражданами при отсутствии доказанной эффективности в выявлении заболевших. 

Также вызывает беспокойство, например, растущая тенденция работодателей использовать программное обеспечение для мониторинга сотрудников, работающих удалённо. Это включает отслеживание положения глаз, движений мыши и так далее. Такие методы контроля не способствуют повышению лояльности сотрудников и плохо сочетаются с уважением к человеческому достоинству и защитой частной жизни.

Самые позитивные оценки получило ПО, которое помогло развитию медицины и прямой борьбе с пандемией: 

• ИИ, анализирующее структуру постоянно изменяющегося белка коронавируса;

• ИИ, помогавшее в разработке и распространении вакцины.