Развитие методов верификации и объяснимого ИИ (XAI) ставит вопрос о возможности формальной проверки планов, созданных искусственным интеллектом. В статье представлена новая логика ресурсов — Proof Carrying Plans (PCP), предназначенная для верификации планов, генерируемых ИИ-планировщиками. Логика PCP опирается на принципы линейной сепарационной логики и логики Хоара для моделирования состояний и выполнения планов с учетом доступных ресурсов. Данный подход позволяет гарантировать корректность и безопасность исполнения планов в сложных системах.
В работе представлена новая логика ресурсов Proof-Carrying Plans (PCP), предназначенная для математической верификации планов, созданных ИИ-системами. Опираясь на принципы линейной логики и логики Хоара, авторы решают критическую проблему объяснимости и надежности нейросетей. Предложенный подход позволяет гарантировать корректность и безопасность действий автономных агентов в сложных сценариях.