Человеко-ориентированная автоматизация АИП (англ.: AIP Human-Centered Automation) – это подход к разработке сбалансированных систем автоматизации между человеком и программно-техническим окружением, основанный на методах и инструментах АИП Института для поддержания квалификации пользователей в любых условия и экстремальных ситуациях, и развитии когнитивных функций человека путем непрерывной тренировки.
Мировой феномен тотальной автоматизации в связи с развитием уровня разработки нейросетей (ИИ) в большей мере проявляется в направлении частичной или полной замены деятельности человека на автономно исполняемые функции (автономные модули). В большинстве случаев используемая автоматизация управления исполняется в фоновом режиме без прямого контроля со стороны оператора, тем самым исключая человеческий фактор из системы. Такой вид автоматизации можно рассматривать как полностью автономный [1].
В этом случае человек является не более чем одним из субъектов, учитываемых в системе автоматизации, в том числе с применением ИИ, наравне с животными или статичными предметами, у которых эпизодически учитываются индивидуальные параметры (вес, габариты, скорость движения). Очевидно, что при таком подходе возникает эффект чрезмерной автоматизации, влекущий за собой возникновение чрезвычайных ситуаций.
В докладе Национального совета по безопасности на транспорте (Национальный совет по безопасности на транспорте США, 2017, about Tesla) были сделаны выводы, что применение повсеместной автоматизации не обязательно приводит к улучшению человеческой жизнедеятельности. Аварии с автопилотами — это один из ярких примеров результатов применения автоматизации “потому что мы можем”, без должного учета человеческого фактора. Неподготовленный водитель ожидает от системы под названием “автопилот” большего, чем она может дать, вследствие чего возникают непредвиденные аварии и ошибки.
Вопросы о применении автопилотов и уровне автоматизации довольно остро стоят в авиации. В публикации организации Safety Alerts for Operators (SAFO) была отражена озабоченность относительно автопилотов: “Постоянное использование систем автоматического полета не укрепляет знания и навыки пилота при выполнении ручных полетов”. Таким образов наблюдается растущая проблема с подготовкой пилотов и потерей надлежащей квалификации из-за расслабленности и не использования навыков в полете. Увеличение зависимости пилотов от автопилотов влечет к ослаблению их способности летать без него и может привести к критическим последствиям в случаях непредвиденных отключений (источник: “Autopilot: An Accident” by JPS Hawkeye).
В жизненно важных сферах, таких как транспорт (автомобили, поезда, самолеты), медицина (хирургия), и даже обслуживание ядерных станций, внедрение полностью автономных систем без должного учета человеческого фактора ведет к снижению бдительности операторов и потери их квалификации, что в свою очередь пагубно влияет на поведение таких специалистов в критических ситуациях при возникновении сбоев в работе систем автоматизации.
Системы автоматизации, реализованные с применением технологии нейросетей, являются «черным ящиком», алгоритмы принятия решений которого непонятны пользователям (источник: IBM AI Guidelines) Несмотря на достижение высоко эффективности в решении задач, в повсеместном применении таких систем есть значительный минус – невозможность экстрагирования (извлечение) знаний, пригодных для передачи и тем более обучения пользователя.
В связи с этим видится перспективным путь развития автоматизации как человеко-ориентированной системы, где алгоритмы, построенные вокруг знаний, умений и физических способностей человека, учитывают баланс между необходимым компьютерным контролем для быстрой автоматизации и человеческим стремлением к совершенствованию, когда это необходимо.
Целью человеко-ориентированного подхода в автоматизации [2] в первую очередь является повышение эффективности, расширение возможностей и компенсации ограничений оператора, а не замена выполняемых человеком функций на автономные интеллектуальные системы.
На примере автоматизации транспортных средств в данной парадигме ПО будет подстраивать систему под навыки и физическое состояние человека, являясь в то же время резервным помощником, способным перехватить управление в случае возникновения инцидента. Такое решение дает свободу для практики и обучения водителя. Транспортное средство становится одновременно тренажером и расширением функциональных возможностей человека. Подобный симбиоз при снижении фактора задержки обмена данными между человеком и ИИ системой, возможно даже через импланты, позволит реализовать исконную цель автоматизации – расширение возможностей и компенсации ограничений оператора, а не освобождение от любой деятельности со снижением когнитивных функций как результат.
Подобная человеко-ориентированная автоматизация реализуется за счет внедрения процессов непрерывной оценки и обучения. АИП Институт запустил и улучшает ряд инициатив, совместно создающих экосистему для человеко-ориентированной автоматизации. Данные инициативы в том числе направлены на решение острых вопросов, появляющихся при создании систем автоматизации, например, решение проблемы снижения квалификации, которая подрывает человеческие навыки, которые могут потребоваться при сбоях автоматизации, и трудность сохранения бдительности, когда действия пользователя становятся менее частыми.
[1] Mitchell, C. M. (1996). Human-Centered Automation: A Philosophy, Some Design Tenets, and Related Research. In Human Interaction with Complex Systems (pp. 377-381). Springer, Boston, MA.
[2] Abbott, K. H., & Schutte, P. C. (1989). Human-centered automation and AI-Ideas, insights, and issues from the Intelligent Cockpit Aids research effort.