Автономные системы пока не вызывают доверия – не всегда ясно, как они принимают решения. При этом для автономных систем неприменимы традиционные методы — функциональное тестирование и проверка перебором – получения объективных свидетельств, подтверждающих пригодность системы для конкретного применения. Необходимы специальные методы валидации автономных систем, учитывающие, в числе прочего, их динамическое изменение и обучаемость.
Сейчас как никогда актуальна задача обеспечения качества ПО, для решения которой сегодня предлагается множество инструментов верификации и валидации кода. При этом важно не только внедрить сами инструменты, развивать соответствующие компетенции и выстроить стратегию тестирования. Для устранения рисков, связанных с человеческим фактором, нужны развитые возможности автоматического обнаружения критических точек и дефектов.