5 секунд нейронной активности

У ИИ на нейрональных сетях есть большая проблема: его поведение математически непредсказуемо. С обычными алгоритмами (особенно с задействованными в опасных областях) проводится формальная процедура V&V (верификация и валидирование). И если программа дает сбой, то это ошибка разработчика. А ИИ на нейрональных сетях можно тестировать бесконечно, но гарантии, что в критической ситуации будет получен верный результат все равно не будет. Хуже того: в случае критической ошибки разработчик не может ее понять, локализировать и удалить. То есть ситуация та же, что и с человеческим интеллектом. Проблема только в том, что от ИИ часто требуется большая надежность.