Boeing выявила ошибку в ПО 737 Max, которая появилась после обновления компьютеров в кабине. В сложном сценарии посадки автоматика может отказать именно тогда, когда у экипажа и без того мало времени на решение. Это хороший пример того, почему успешная установка обновления еще не означает, что система безопасно переживет редкое сочетание событий.
Как пишет «Коммерсантъ» со ссылкой на The Wall Street Journal, сбой может возникнуть после ухода на второй круг, когда экипаж меняет запланированную траекторию. Уход на второй круг означает, что самолет прерывает заход на посадку и начинает новый заход либо следует в другой аэропорт. В одном из сценариев пилотам придется перейти на ручное управление без части функций автопилота.
Boeing предупредила эксплуатантов в конце августа и заявила, что проблема не создает угрозы безопасности. Компания передала авиакомпаниям инструкции для выхода из таких ситуаций, готовит исправление и рекомендовала вернуться к предыдущей версии ПО. Сколько самолетов получили проблемное обновление, пока неизвестно.
Масштаб потенциальной проверки велик. По данным Cirium, которые приводит Corriere della Sera, в мире эксплуатируются 2 430 самолетов 737 Max у 108 авиакомпаний. Издание также пишет, что Southwest Airlines и United Airlines попросили Boeing пока не поставлять новые самолеты с этой версией ПО. FAA знает о проблеме и собирается рассмотреть ее на совете по корректирующим действиям. Если регулятор увидит угрозу безопасности, он обещает принять меры.
Где здесь риск
Ошибка проявляется не в обычном режиме, а после ухода на второй круг, когда экипаж меняет запланированную траекторию. Малая высота и возможная плохая погода могут дополнительно повысить нагрузку на экипаж. Проблема появляется на стыке, а расплачиваться за нее приходится ростом нагрузки на человека.
Именно так стоит тестировать ИИ, который управляет оборудованием или подсказывает оператору действия: не только на штатной задаче, но и после изменения плана, частичного отказа автоматики и ручного вмешательства. Иначе обещанная автоматизация в худший момент превращается в дополнительную работу для человека, которому еще нужно понять, чему теперь можно доверять.
У 737 Max уже была тяжелая история с программными системами. В 2020 году Boeing изменила MCAS после того, как эту систему назвали причиной двух катастроф. Текущий сбой компания оценивает иначе и не сообщает об инцидентах с последствиями для безопасности. Поэтому главный маркер сейчас конкретный: признает ли FAA проблему значимой, сколько самолетов затронуто и ограничатся ли операторы откатом версии до выхода исправления.
Для компании в России или СНГ, которая внедряет ИИ в производство, склад или транспорт, стоит проверить конкретную процедуру: кто останавливает обновление, кто возвращает прошлую версию и как работает система, если оператор меняет план вручную под высокой нагрузкой. Если решение поставляет интегратор, эти полномочия и доступ к предыдущей сборке должны быть определены до релиза. Ограничение аналогии очевидно: авиационное ПО связано с отраслевыми стандартами эксплуатации и сертификации. Тем важнее самостоятельно тестировать редкие цепочки событий, где цифровая ошибка способна стать физической.