Восстание машин
Может ли гаджет уронить самолет?
Экспертам еще предстоит разобраться, что конкретно случилось. Но факт остается фактом: интеллект бортовых вычислительных систем самолета стремительно растет. Настолько, что "летающий компьютер" может контролировать и даже поправлять действия пилота. Не так давно во время захода на посадку пассажирского гиганта А-380, летевшего из Дубая в Манчестер, на высоте 400 м (!) бортовой компьютер неожиданно предупредил экипаж: полоса слишком коротка. И отменил приземление. Повторный заход - то же самое. Только после того, как самолет сел в другом аэропорту, а затем возвратился обратно, компьютер разрешил-таки посадку. Неужели близок тот день, когда бортовая ЭВМ может напрямую "восстать" против действий пилота? Об этом "РГ" беседует с ректором Московского государственного технического университета гражданской авиации профессором Борисом Елисеевым.
Борис Петрович, многие уже говорят: сегодня пилот - это скорее оператор ПК, задача которого - лишь присматривать за работой умной электроники. Вы согласны?
Борис Елисеев: Нет, конечно. Это, извините, глупые разговоры. Статистика авиакатастроф свидетельствует: какие бы передовые технологии не использовались при разработке новой, более совершенной и безопасной летательной техники, именно хорошо подготовленный летный и технический персонал - основной гарант безопасности на борту.
Но современный самолет это действительно "летающий компьютер". Его вычислительная система включает не меньше 80 бортовых мини-эвм, которые обеспечивают полет по трассе, с изменениями курса, эшелона, высоты, скорости и т.д. То есть штурвал самолета на самом деле уже не "руль" - джойстик бортового компьютера воздушного судна. И вычислительная система самолета, контролируя пилотов, принимает решение на окончательное управление рулевыми поверхностями самолета.
Летчики ведут самолет в ручном режиме всего две-три минуты после взлета и столько же - перед посадкой. Остальное - автопилот. Верно?
Борис Елисеев: Верно. Но если говорить об интерфейсе "человек-машина" и безопасности полетов, то проблема кроется совершенно в другом. Вы знаете, что значительная часть пассажирских авиаперевозок в России выполняется на магистральных самолетах зарубежного производства. В основном они взяты в лизинг за границей, зарегистрированы в офшорах, у многих значительные сроки эксплуатации. При этом бортовые компьютеры "иномарок" имеют закрытое программное обеспечение.
Штурвал современного самолета - уже не "руль", а джойстик бортового компьютера
При расследовании авиационных катастроф, увы, не всегда известно главное - где ошибки летчика, а где "ошибки" бортового компьютера. То есть система безопасности полетов полностью не наблюдаема: отсутствуют описания алгоритмов и программ принятия бортовым компьютером решений по управлению самолетом. По неполной информации, следуя гипотезе абсолютно корректного программного обеспечения бортовых компьютеров, эксперты делают заключение о развитии ситуации на борту воздушного судна. И, конечно, при неизвестном алгоритме контроля систем самолета техническая псевдоисправность оборудования вынуждает экспертов сделать вывод об ошибках экипажа. Вместе с тем опыт эксплуатации воздушных судов показал: в программном обеспечении бортовых компьютеров воздушных судов находили и исправляли ошибки.
Но, судя по некоторым данным, оказывается, нельзя исключать и возможность несанкционированного вмешательства в работу бортовой системы?
Борис Елисеев: Нельзя. И это очень серьезно. Еще три года назад на профильной конференции в Амстердаме бывший пилот, а ныне консультант по вопросам безопасности Хьюго Тесо наглядно продемонстрировал возможность взлома бортовой системы воздушного судна с помощью смартфона. В сети есть информация о том, что американский хакер Крис Робертс взламывал бортовые компьютеры Boeing и Airbus. Именно поэтому основатель одной из компьютерных компаний, называющий себя экспертом в вопросах кибербезопасности, попал в поле зрения ФБР.
В свое время НАСА не случайно инвестировала огромные средства и ресурсы в верификацию и сопровождение программного обеспечения для космических кораблей Shuttle. Несмотря на это, на этапе эксплуатации программного обеспечения было выявлено 16 ошибок "первой степени серьезности", способных, как следовало из отчетов, привести к "потере корабля и экипажа". Восемь из этих ошибок присутствовали в коде во время полетов. К счастью, без последствий. При этом НАСА имеет самую совершенную и дорогостоящую комплексную систему процессов разработки и верификации программного обеспечения.
Кстати, коварство программных ошибок еще и в том, что они могут проявиться далеко не сразу, иногда после сотен тысяч часов нормальной эксплуатации - как реакция на вдруг возникшую специфическую комбинацию многочисленных факторов.
И где выход?
Борис Елисеев: Надежность аппаратуры может быть увеличена за счет ее дублирования. Это резко уменьшает опасности от случайных сбоев. Эквивалентного способа защиты от программных ошибок пока не найдено. Если бы методы производства идеального программного обеспечения существовали, то можно было бы предположить, что следование им потребовало бы большого количества ресурсов и времени. Наблюдаемая же тенденция свидетельствует о движении в обратном направлении - в сторону снижения стоимостных и временных издержек.
Виктор Петров, декан факультета авиационных систем и комплексов МГТУ ГА, профессор:
- Можно предположить, что фактически любая сложная программная система при определенных обстоятельствах способна вести себя неожиданно, даже для ее разработчиков. Вероятность такого поведения, особенно если оно может привести к тяжелым последствиям, следует реалистически оценивать и предусматривать специальные средства защиты. В том числе - уже не на уровне самого программного обеспечения, а на уровне всей системы. Однако основным требованием безопасной эксплуатации авиатехники должна стать открытость программного обеспечения бортовых компьютеров воздушных судов и поставки его в комплекте с технической документацией к воздушному судну. Тогда будет понятно, каким образом бортовой компьютер реагирует на развитие особой ситуации на воздушном судне, что он делает по ее устранению и не противоречит ли это действиям летчика.
Кроме этого, должны быть известны алгоритмы тестирования бортовых компьютеров, их глубина и полнота при нахождении самолета на земле и в воздухе. Также должны быть известны все изменения в программном обеспечении бортовых компьютеров, которые вводит разработчик и объяснена необходимость их введения. Информацию о программном обеспечении необходимо потребовать от ее разработчиков на уровне руководящих документов ИКАО. Наверняка потребуется внести существенные изменения и дополнения в национальное законодательство.
В авиации все значительно серьезней, чем в любом другом виде транспорта. Ошибки в программном обеспечении или уязвимости бортовых компьютеров воздушных судов могут привести к авиационным происшествиям и катастрофам с сотнями жертв.
04.08.2016