КОНОНОВ Александр Анатольевич, ведущий научный сотрудник Института системного анализа РАН Федерального исследовательского центра «Информатика и управление. - презентация

1 КОНОНОВ Александр Анатольевич, ведущий научный сотрудник Института системного анализа РАН Федерального исследовательского центра «Информатика и управление Российской академии наук (ИСА РАН ФИЦ ИУ РАН), кандидат технических наук О перспективных направлениях междисциплинарных исследований по предупреждению когнитивных искаженний в обеспечении безопасности больших систем Cеминар «Анализ больших данных в информатике, управлении и психологии: перспективные направления междисциплинарных исследований» 21 марта 2018 г., г. Москва, Проспект 60-ти летия Октября, 9 ИСА ФИЦ ИУ РАН

2 Когнити́вные искажен́ния это не соответствующие действительности субъективные представления о реальности, обусловленные систематическими ошибками в мышлении или шаблонными отклонениями, возникающими на основе убеждений, внедренных в когнитивные схемы, и, как правило, являющихся результатом: –сбоев в обработке и анализе информации; –физическими ограничениями и особенностями строения человеческого мозга; –получением неполной или искаженнной информации; –слишком большими объемами информации. Особую опасность представляют когнитивные искаженния в оценках угроз и рисков, выражающиеся в том, что принято называть «человеческим фактором» при расследованиях причин аварий и ЧС. В системах управления когнитивные искаженния являются источником ошибок в принимаемых решениях на руководящем уровне и нарушений инструкций и служебных обязанностей на исполнительском уровне. Cognitive biases – когнитивные искаженния или предубеждения

3 Пример карты КИ

4 Процент неверных утверждений по составу критериальной базы, подтверждающих наличие когнитивных искаженния Характеристики когнитивных искаженний Уровень управления Объект 1 РЖД Объект 2 CГТС Объект 3 АП ОГ Объект 4 Банк Объект 5 Аэропор т Средний процент Руководящий ,4 Среднего звена ,6 Исполнители (операторы) ,0 Средний по объекту процент совпадения критериев 64,368,774,080,068,071,0 Процент неверных утверждений 35,731,326,020,032,029,0

5 Характеристик и когнитивных искаженний Уровень управления Объект 1 Объект 2 Объект 3 Объект 4 Объект 5 Средний процент когнитивных искаженний Руководящий ,4 Среднего звена ,2 Исполнители (операторы) ,8 Процент неверных оценок соответствия критериям 17,721,714,312,7 15,8 Процент неверных оценок, подтверждающих наличие когнитивных искаженний при оценке соответствия критериям безопасности

6 Масштаб выявленных когнитивных искаженний

7 Пример того к чему приводят когнитивныхе искаженния при несовершенной критериальной системе «Внезапный» крах авиакомпании ВИМ-Авиа привел к тому, что из-за границы в Россию не смогли вовремя вернуться около 40 тыс. человек. В.В.Путин: "Мы вчера с министром транспорта на этот счет разговаривали. Максим Юрьевич (Соколов) мне сказал о том, что эта компания полностью соответствовала всем критериям. Он мою реакцию знает, не буду повторять, но в одной части повторюсь: если вы выработали такие критерии, то чего они стоят?... И контроль нужно наладить за тем, как исполняются нормы. Требования и соответствующие критерии, они действенными должны быть. Действенными! Понятными и прозрачными. Если вы выработали такие критерии, то чего они стоят, если ничего не видно за ними. Что это за критерии такие? Критериям соответствует, а работать не может …". На заседании правительства РФ 27 сентября

8 Что делать: Структурировать и детализировать требования безопасности Контролировать качество систем требований безопасности. Их полноту, актуальность Контролировать полноту моделей угроз Контролировать выполнение требований во всех структурных составляющих систем безопасности

9 Под структурной моделью системы будем понимать иерархическую модель, отражающую организационную и функциональную структуру каждой ее составляющей, вплоть до отдельных элементов, по которой могут быть определены критерии, степень соответствия которым будет влиять на защищенность системы в целом Структурная модель

10 Под критериальной моделью системы понимается структурная модель системы, с определенным по каждой структурной составляющей множеством критериев, соответствие которым позволит оценивать уровень защищенности структурной составляющей и ее влияние на защищенность системы в целом. Критериальная модель

11 Наше решение - веб-сервис:

12 Формирование критериальных моделей 12

13 13 Получение индикативных оценок рисков по структурным составляющим

14 Перспективные направления междисциплинарных исследований по предупреждению когнитивных искаженний в обеспечении безопасности Направления Задачи по каждому направлению Безопасность критически важных объектов и критических инфраструктур Информационная безопасность Безопасность АСУ ТП, больших систем ОТ и ИТ в течение их жизненного цикла Безопасность регионов и территорий Безопасность новой техники и оборудования Безопасность новых технологий, для которых отсутствует нормативная база по безопасности (роботы, ИИ, нано- и био- разработки) Безопасность научных исследований и разработок Исследования когнитивных искаженний (КИ), влияющих на безопасность Определение степени влияния КИ на безопасность Установление взаимосвязи КИ и критериальных систем безопасности Использование методов анализа больших данных для установления связей между КИ и критериями безопасности Использование методов анализа больших данных для выявления зависимостей между отдельными КИ и критериями безопасности и использование этих зависимостей для оценки соответствия критериям и для верификации оценок выполнения требований безопасности. Использование методов анализа больших данных для построения критериальных моделей, контроля и повышения качества критериальных систем

15 АДРЕС В INTERNET: Телефон для справок: (499) Бесплатное использование текущей экспериментальной версии ПО на экспериментальном стенде: