Разработанная Массачусетским технологическим институтом система Air-Guardian сочетает в себе человеческую интуицию и машинную точность, создавая более симбиотические отношения между пилотом и самолетом.
Представьте, что вы находитесь в самолете с двумя пилотами, человеком и компьютером. Оба держат в руках контроллеры, но всегда заботятся о разных вещах. Если они оба обращают внимание на одно и то же, человек получает возможность управлять воздушным судном. Но если человек отвлекается или что-то упускает, компьютер быстро берет верх.
Встречайте Air-Guardian — систему, разработанную исследователями Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL). Когда современные пилоты сталкиваются с потоком информации с нескольких мониторов, особенно в критические моменты, Air-Guardian действует как активный второй пилот. Партнерство между человеком и машиной основано на понимании внимания.
Но как именно она определяет внимательность? Для людей система использует отслеживание глаз, а для нервной системы она полагается на так называемые «карты значимости», которые определяют, куда направлено внимание. Карты служат визуальными ориентирами, выделяющими ключевые области изображения, помогая понять и расшифровать поведение сложных алгоритмов. Air-Guardian выявляет ранние признаки потенциальных рисков с помощью этих маркеров внимания, вместо того чтобы вмешивается только в случае нарушений безопасности, как традиционные системы автопилота.
Более широкое значение этой системы выходят за рамки авиации. Подобные механизмы совместного управления однажды могут быть использованы в автомобилях, дронах и более широком спектре робототехники.
«Замечательной особенностью нашего метода является его дифференцируемость», - говорит постдок MIT CSAIL Лианхао Инь, ведущий автор новой статьи об Air-Guardian. «Наш уровень взаимодействия и весь сквозной процесс могут быть обучены. Мы специально выбрали причинно-следственную модель нейронной сети непрерывной глубины из-за ее динамических особенностей в отображении внимания. Еще одним уникальным аспектом является адаптивность. Система Air-Guardian не является жесткой; ее можно регулировать в зависимости от требований ситуации, обеспечивая сбалансированное партнерство между человеком и машиной».
В полевых испытаниях и пилот, и система принимали решения на основе одних и тех же необработанных изображений при навигации к целевым точкам маршрута. Успех Air-Guardian оценивался на основе совокупных наград, полученных во время полета, и более короткого пути к путевой точке. Air-Guardian снизила уровень риска полетов и повысила вероятность успешного достижения целевых точек.
«Эта система представляет собой инновационный подход к ориентированной на человека авиации с поддержкой искусственного интеллекта», - добавляет Рамин Хасани, исследователь MIT CSAIL и изобретатель жидких нейронных сетей. «Наше использование жидких нейронных сетей обеспечивает динамичный, адаптивный подход, гарантирующий, что искусственный интеллект не просто заменит человеческое суждение, но и дополнит его, что приведет к повышению безопасности и сотрудничеству в небе».
Истинная сила Air-Guardian заключается в ее основополагающей технологии. Используя кооперативный уровень на основе оптимизации, использующий визуальное внимание людей и машин, а также жидкие замкнутые нейронные сети непрерывного времени (CfC), известные своими способностями в расшифровке причинно-следственных связей, она анализирует входящие изображения на предмет важной информации. Всё это дополняет алгоритм VisualBackProp, который определяет фокусные точки системы на изображении, обеспечивая четкое понимание ее карт внимания.
Для будущего массового внедрения необходимо усовершенствовать человеко-машинный интерфейс. Отзывы показывают, что индикатор, например световой сигнал, может быть более интуитивным, чтобы указать, когда система берет на себя управление.
«Система Air-Guardian подчеркивает синергию между человеческим опытом и машинным обучением, способствуя достижению цели использования машинного обучения для повышения квалификации пилотов в сложных сценариях и уменьшения эксплуатационных ошибок», - говорит Даниэла Рус, профессор электротехники и компьютерных наук Массачусетского технологического института, директор CSAIL, и старший автор статьи.
«Одним из наиболее интересных результатов использования показателя визуального внимания в этой работе является возможность более раннего вмешательства и большая интерпретируемость пилотами-людьми», - говорит Стефани Гил, доцент кафедры компьютерных наук в Гарвардском университете, которая не участвовала в исследовании. «Это демонстрирует отличный пример того, как ИИ можно использовать для работы с человеком, снижая барьер для достижения доверия за счет использования естественных механизмов связи между человеком и системой ИИ».
Это исследование частично финансировалось исследовательской лабораторией ВВС США (USAF), Ускорителем искусственного интеллекта ВВС США, компанией Boeing и Управлением военно-морских исследований. Результаты не обязательно отражают точку зрения правительства США или ВВС США.
