ОК, если уже вдаемся в детали, то соглашусь, что я допустил непростительные неточности в формулировках :-)
Нейрональные сети используют, когда создание модели и алгоритма к ней зартуднительно. Если я могу сформулировать модель, то почему бы мне не использовать классический подход вместо нейрональной сети? То, что мы получаем в результате создания нейрональной сети (особенно рекуррентной) - это "черный ящик" с изначально неизвестной нам начинкой и потенциально бесконечным количеством состояний. Мы можем разобрать его на мелкие составные части и преобразовать (грубо говоря) в машину Туринга, после чего мы упираемся в "проблему остановки". Проблема верификации для произвольного алгоритма принципиально нерешаема. Ее решают только для конкретных случаев, пользуясь информацией о (а) структуре алгоритма и (б) его контексте.
Ладно, предположим, что мы случайно нашли ошибку в поведении сети. Поскольку путь преобразования от алгоритма обучения до структуры сети для нас снова "черный ящик", то как нам надо поменять систему обучения для удаления ошибки?
Самое веселое, что именно эту проблему мы имеем с человеческим мозгом. Где гарантия, что водитель автобуса внезапно не сделает финт рулем в сторону бетонной стенки? Нет гарантии. Тем не менее ИИ, фейлящий с той же частотой, что и люди, никто в критические области не допустит.
И тем не менее, области применения ИИ на нейрональных сетях достаточно широки, потому что есть немало случаев, когда ошибки не фатальны. Просто это не далеко не панацея.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
no subject
Date: 2016-06-21 08:45 pm (UTC)Нейрональные сети используют, когда создание модели и алгоритма к ней зартуднительно. Если я могу сформулировать модель, то почему бы мне не использовать классический подход вместо нейрональной сети? То, что мы получаем в результате создания нейрональной сети (особенно рекуррентной) - это "черный ящик" с изначально неизвестной нам начинкой и потенциально бесконечным количеством состояний. Мы можем разобрать его на мелкие составные части и преобразовать (грубо говоря) в машину Туринга, после чего мы упираемся в "проблему остановки". Проблема верификации для произвольного алгоритма принципиально нерешаема. Ее решают только для конкретных случаев, пользуясь информацией о (а) структуре алгоритма и (б) его контексте.
Ладно, предположим, что мы случайно нашли ошибку в поведении сети. Поскольку путь преобразования от алгоритма обучения до структуры сети для нас снова "черный ящик", то как нам надо поменять систему обучения для удаления ошибки?
Самое веселое, что именно эту проблему мы имеем с человеческим мозгом. Где гарантия, что водитель автобуса внезапно не сделает финт рулем в сторону бетонной стенки? Нет гарантии. Тем не менее ИИ, фейлящий с той же частотой, что и люди, никто в критические области не допустит.
И тем не менее, области применения ИИ на нейрональных сетях достаточно широки, потому что есть немало случаев, когда ошибки не фатальны. Просто это не далеко не панацея.