смотря какая сеть. сеть, скажем, с прямой передачей - это, с хорошей степенью приближения, конечный автомат с большим числом состояний. теория автоматов уже давно разработана и широко применяется, так что там с проблемами такого справиться можно, хоть это и требует заметных вычислительных мощностей.
рекуррентные нейронные сети в этом смысле гораздо сложнее для анализа и вполне может быть, что на сегодня задача не решена, но чтобы говорить о "принципиальной невозможности" анализа ее работы во всем многообразии входных данных, требуется строгое доказательство этого тезиса. так что я переадресую вам ваше - ссыль на бочку, где это строго доказано.