У ИИ на нейрональных сетях есть большая проблема: его поведение математически непредсказуемо. С обычными алгоритмами (особенно с задействованными в опасных областях) проводится формальная процедура V&V (верификация и валидирование). И если программа дает сбой, то это ошибка разработчика. А ИИ на нейрональных сетях можно тестировать бесконечно, но гарантии, что в критической ситуации будет получен верный результат все равно не будет. Хуже того: в случае критической ошибки разработчик не может ее понять, локализировать и удалить. То есть ситуация та же, что и с человеческим интеллектом. Проблема только в том, что от ИИ часто требуется большая надежность.
no subject
Date: 2016-06-21 08:32 am (UTC)