ИИ в пандемию: больше пользы или вреда?

Нидерландский фонд ALLAI опубликовал обзор по областям применения ИИ в медицинско-социальных целях в ходе текущей пандемии. 

Медицинское использование ИИ включает в себя приложения, которые напрямую связаны с медицинскими аспектами корона-кризиса: эпидемиология, молекулярные исследования, клиническая практика и оказание помощи, такие как: разработка лекарств и вакцин с помощью ИИ; прогнозирование развития заболевания на основе ИИ; диагностика на основе ИИ (распознавание изображений); ИИ оптимизация оказания помощи (например, раздача средств индивидуальной защиты и её прогнозирование).

Социальное использование ИИ включает в себя приложения, связанные с публичными и частными аспектами пандемии: политические меры, дистанционное обучение, удаленная работа, предоставление информации, такой как: AI-мониторинг социального дистанцирования, ношения масок и т. д.; ИИ и дистанционное обучение и экзамены; (дез)информация о пандемии, управляемая искусственным интеллектом.

Обзор стал результатом применения на практике Руководства по этике для доверенного ИИ, принятого Высокоуровневой экспертной группой ЕС в 2019 году. Для практического применения принципов Руководства на их основе фонд разработал собственный фреймворк. На основе этого фреймворка фонд произвел оценку ИИ, использовавшихся в пандемию. Критериями оценки были:  

• влияние на общество; 
• технологическая надёжность и эффективность;
• управление и подототчетность. 

По оценке фонда, большинство из попавших в обзор применений ИИ по соотношению выгод и преимуществ скорее вредны, чем полезны для общества; многие не имеют доказанной эффективности. 

Так, использование стационарных температурных сканеров социально нормализует расширение практики постоянного и повсеместного наблюдения за гражданами при отсутствии доказанной эффективности в выявлении заболевших. 

Также, например, может настораживать растущее использование работодателями ПО для мониторинга сотрудников, работающих на дому, включая отслеживание положения глаз, движений мышью и т. п. Такие методы контроля не повышают лояльность сотрудников и при этом плохо совместимы с уважением к человеческому достоинству и с охраной частной жизни.

Самые позитивные оценки получило ПО, которое помогло развитию медицины и прямой борьбе с пандемией: 

• ИИ, анализирующее структуру постоянно изменяющегося белка коронавируса;
• ИИ, помогавшее в разработке и распространении вакцины.