Новая интересная разработка Массачусетского института

Исследования искусственного интеллекта называются еще системами машинного обучения, или нейронными сетями, которые изучают, как выполнять задачи, анализируя огромные объемы баз данных.Во время обучения нейронная сеть постоянно перенастраивает тысячи внутренних параметров, пока не сможет корректно выполнить задачи, такие как идентификация объектов в цифровых изображениях или перевод текста с одного языка на другой. Но сами по себе конечные значения этих параметров не дают понять, как нейронная сеть это делает.

Понимание того, что делают нейронные сети, может помочь исследователям развиваться в правильном русле и передавать свои идеи другим приложениям. Ученые, работающие в сфере компьютеров недавно разработали умные методы для предсказания вычислений конкретных нейронных сетей.На конференции по эмпирическим методам обработки естественного языка в 2017 году, исследователи из Лаборатории компьютерной науки и искусственного интеллекта Массачусетского технологического института представят новую универсальную технику для понимания нейронных сетей, которая может очень качественно интерпретировать тексты.

Этот метод применяется к любой системе, которая принимает текст в качестве входных данных и выдает строки символов как выходные данные, например, автоматический переводчик. Поскольку анализ текста зависит от разных входных данных и изучения влияния на результаты, он может работать с онлайн-сервисами обработки на языке без доступа к базовому программному обеспечению.Фактически, эта технология работает с любой системой обработки текста черного ящика, независимо от ее внутренней аппаратуры. В своих экспериментах исследователи показывают, что этот метод может также идентифицировать особенности работы человеческих переводчиков.

Эта методика аналогична методике, которая была использована для анализа нейронных сетей, обучаемых для выполнения задач компьютерного зрения, таких как распознавание объектов. Программное обеспечение может систематически менять различные части изображения и повторно передает изображение в распознаватель объекта. Но адаптация этого подхода к обработке естественного языка не является простой.Исследователи применили свою технику к трем различным наборам типов системы обработки на естественном языке. Одна из них - система, которая выводила произношение слов; другая - набор переводчиков, два автоматизированных и один человек; а третья - простая компьютерная диалоговая система, которая пытается предоставить правдоподобные ответы на произвольные замечания или вопросы.