Искусственный интеллект научился «объяснять» свои решения

Биоинформатики из Рурского университета в Бохуме разработали нейронную сеть, которая обучена дедуктивному методу и умеет «объяснять» ход своих суждений. Исследование опубликовано в журнале Medical Image Analysis.

Авторы исследования начали создание нейронной сети как обычно, снабдив искусственный интеллект большим количеством микроскопических инфракрасных снимков тканей, некоторые из которых содержали опухоли, а другие — только здоровые ткани. Искусственный интеллект обычно индуктивен, то есть идёт от частного к общему: используя обучающие данные, ИИ создаёт общую модель, на основе которой оценивает все дальнейшие наблюдения, которые ему предоставляют.

При этом нейронные сети часто представляют собой чёрный ящик: неясно, какие именно признаки алгоритм выбирает из обучающих данных, а из-за индуктивной логики он может прийти к неверным выводам. Учёные решили использовать иной подход: они научили ИИ дедуктивному методу, который используется в научном познании. Разработанная ими нейронная сеть с помощью индукции классифицирует образец ткани в зависимости от наличия опухоли, а также дедуктивно создаёт карту микроскопического изображения ткани. По ней человек затем может проверить правильность модели, используя молекулярные методы, например, гистологическое окрашивание ткани специальным красителем.

Такой подход позволит разработать биомаркеры, по которым искусственный интеллект сможет определять подтипы опухолей — их необходимо знать для эффективной терапии. Кроме того, прозрачность работы алгоритма повысит доверие к нему у врачей и пациентов. Ранее искусственный интеллект смог выявить новые биомаркеры заболеваний мозга человека.