Нейронную сеть научили обосновывать свое решение

Ученые Лаборатории искусственного интеллекта (CSAIL) Массачусетского технологического института (MIT) научили нейронные сети не только производить расчеты, делать предсказания и классификации, но и объяснять свое решение. Таким образом исследователи хотят разработать новый метод лечения рака молочной железы.

В процессе обучения ученые разделили сеть на пару небольших модулей. Первый извлекает сегменты текста и оценивает их по длительности и последовательности. Короткие сегменты, извлеченные из длинных последовательностей слов, оцениваются наивысшим баллом. Второй модуль прогнозирует субъект, которому принадлежит сегмент, и пытается соответственно его классифицировать.

В рамках эксперимента ученые использовали отзывы с сайта пивного рейтинга. Перед нейронной сетью поставили задачу оценить сорта пива по пятизвездочной шкале на основании аромата, вкуса и внешнего вида, используя письменные комментарии на сайте. После обучения системы группа CSAIL обнаружила, что рейтинг нейронной сети в большинстве случаев совпадает с человеческим: на 95% для аромата, 96% – для внешнего вида и 80% для вкуса.

Исследователи MIT надеются, что после усовершенствования системы машинного обучения удастся применять ее в борьбе с раком молочной железы в качестве средства извлечения и анализа объяснений патологоанатомов, которые они дают после вскрытия.