Человеко-ориентированная автоматизация АИП (англ.: AIP Human-Centered Automation) – это подход к разработке сбалансированных систем автоматизации между человеком и программно-техническим окружением, основанный на методах и инструментах АИП Института для поддержания квалификации пользователей в любых условия и экстремальных ситуациях, и развитии когнитивных функций человека путем непрерывной тренировки.
Применение
Мировой феномен тотальной автоматизации в связи с развитием уровня разработки нейросетей (ИИ) в большей мере проявляется в направлении частичной или полной замены деятельности человека на автономно исполняемые функции (автономные модули). В большинстве случаев используемая автоматизация управления исполняется в фоновом режиме без прямого контроля со стороны оператора, тем самым исключая человеческий фактор из системы. Такой вид автоматизации можно рассматривать как полностью автономный [1].
В этом случае человек является не более чем одним из субъектов, учитываемых в системе автоматизации, в том числе с применением ИИ, наравне с животными или статичными предметами, у которых эпизодически учитываются индивидуальные параметры (вес, габариты, скорость движения). Очевидно, что при таком подходе возникает эффект чрезмерной автоматизации, влекущий за собой возникновение чрезвычайных ситуаций.
В докладе Национального совета по безопасности на транспорте (Национальный совет по безопасности на транспорте США, 2017, about Tesla) были сделаны выводы, что применение повсеместной автоматизации не обязательно приводит к улучшению человеческой жизнедеятельности. Аварии с автопилотами — это один из ярких примеров результатов применения автоматизации “потому что мы можем”, без должного учета человеческого фактора. Неподготовленный водитель ожидает от системы под названием “автопилот” большего, чем она может дать, вследствие чего возникают непредвиденные аварии и ошибки.
Вопросы о применении автопилотов и уровне автоматизации довольно остро стоят в авиации. В публикации организации Safety Alerts for Operators (SAFO) была отражена озабоченность относительно автопилотов: “Постоянное использование систем автоматического полета не укрепляет знания и навыки пилота при выполнении ручных полетов”. Таким образов наблюдается растущая проблема с подготовкой пилотов и потерей надлежащей квалификации из-за расслабленности и не использования навыков в полете. Увеличение зависимости пилотов от автопилотов влечет к ослаблению их способности летать без него и может привести к критическим последствиям в случаях непредвиденных отключений (источник: “Autopilot: An Accident” by JPS Hawkeye).
В жизненно важных сферах, таких как транспорт (автомобили, поезда, самолеты), медицина (хирургия), и даже обслуживание ядерных станций, внедрение полностью автономных систем без должного учета человеческого фактора ведет к снижению бдительности операторов и потери их квалификации, что в свою очередь пагубно влияет на поведение таких специалистов в критических ситуациях при возникновении сбоев в работе систем автоматизации.
Системы автоматизации, реализованные с применением технологии нейросетей, являются «черным ящиком», алгоритмы принятия решений которого непонятны пользователям (источник: IBM AI Guidelines) Несмотря на достижение высоко эффективности в решении задач, в повсеместном применении таких систем есть значительный минус – невозможность экстрагирования (извлечение) знаний, пригодных для передачи и тем более обучения пользователя.
В связи с этим видится перспективным путь развития автоматизации как человеко-ориентированной системы, где алгоритмы, построенные вокруг знаний, умений и физических способностей человека, учитывают баланс между необходимым компьютерным контролем для быстрой автоматизации и человеческим стремлением к совершенствованию, когда это необходимо.
Целью человеко-ориентированного подхода в автоматизации [2] в первую очередь является повышение эффективности, расширение возможностей и компенсации ограничений оператора, а не замена выполняемых человеком функций на автономные интеллектуальные системы.
На примере автоматизации транспортных средств в данной парадигме ПО будет подстраивать систему под навыки и физическое состояние человека, являясь в то же время резервным помощником, способным перехватить управление в случае возникновения инцидента. Такое решение дает свободу для практики и обучения водителя. Транспортное средство становится одновременно тренажером и расширением функциональных возможностей человека. Подобный симбиоз при снижении фактора задержки обмена данными между человеком и ИИ системой, возможно даже через импланты, позволит реализовать исконную цель автоматизации – расширение возможностей и компенсации ограничений оператора, а не освобождение от любой деятельности со снижением когнитивных функций как результат.
Подобная человеко-ориентированная автоматизация реализуется за счет внедрения процессов непрерывной оценки и обучения. АИП Институт запустил и улучшает ряд инициатив, совместно создающих экосистему для человекоцентрированной автоматизации. Данные инициативы в том числе направлены на решение острых вопросов, появляющихся при создании систем автоматизации, например, решение проблемы снижения квалификации, которая подрывает человеческие навыки, которые могут потребоваться при сбоях автоматизации, и трудность сохранения бдительности, когда действия пользователя становятся менее частыми.
[1] Mitchell, C. M. (1996). Human-Centered Automation: A Philosophy, Some Design Tenets, and Related Research. In Human Interaction with Complex Systems (pp. 377-381). Springer, Boston, MA.
[2] Abbott, K. H., & Schutte, P. C. (1989). Human-centered automation and AI-Ideas, insights, and issues from the Intelligent Cockpit Aids research effort.
Описание концепции человеко-ориентированного подхода к автоматизации через непрерывное обучение АИП
Человеко-ориентированный подход в разработке систем автоматизации с применением технологий непрерывного обучения обеспечивает быстрый профессиональный рост пользователям-учащимся (Personal Grow) прямо на рабочем месте и адаптацию взаимодействия с окружением (Activity Based Adaptation) на основе активности пользователя. Такой эффект достигается за счет сбалансированной интеграции пользователя-учащегося (user-learner) в специализированное программно-технического окружение (software and hardware environment), а встроенные алгоритмы оценки и обучения АИП позволяет достичь требуемой продуктивности в рамках исполняемых трудовых функций (Operator Expert Model).
Далее описаны три основных концепта, используемых в человеко-ориентированном подходе на основе АИП.
Специализированное программно-аппаротное окружение (англ.: “Specialized software and hardware environment”) – cпециализированное программно-техническое окружение с элементами автоматизации, задействованное в трудовой деятельности пользователя-учащегося. Использование алгоритма АИП с непрерывной оценкой позволяет интегрировать пользователя в окружение для расширения его возможностей. При взаимодействии пользователя с окружением система способна адаптироваться под предпочтения, психофизиологическое состояние пользователя, а также состояние окружающей среды на основе персональных когниграфических данных и подключенных источников данных.
Когниграфическая модель пользователя-учащегося (англ.: “User-learner Cognigraphic Model”) – модель пользователя-оператора строится на основе когниграфических данных, собранных через оценку и тестирование пользователя в карту когниграфических данных и его персональных особенностей (не когниграфические данные). Персональная динамическая карта пользователя-учащегося постоянно обновляется на основе встроенных в алгоритм АИП методов непрерывной оценки и тестирования, а также собираемой активности пользователя при взаимодействии с окружением. Встроенные методологии работы с запоминанием информации учитывают при формировании обучающего набора материалов забываемость и неповторяемые действия при анализе персональной динамической карты.
Когниграфическая модель оператора (англ.: “Operator Cognigraph Model”) – Модель оператора формируется на основе опыта профессионалов и лучших практик экспертов представленных в онтологии когниграфических данных. Специализированные шаблоны когниграфических данных, содержащий в себе детализированное описание всех необходимых и специфических действий, навыков и знаний для выполнения трудовой функции пользователя-учащегося.
На основе сравнения когниграфических данных модели эксперта и пользовательской модели алгоритм АИП формирует персонализированные маршруты обучения, фокусируясь на недостающих. Данная модель централизовано обновляется в системе и транслируется для всех операторов для подтверждения их квалификации или обучения новым навыкам и знаниям, включенным в модель.
Человеко-ориентированная автоматизация АИП для транспортных средств
АИП Институт совместно с компанией Electric Vehicle Automation S.R.L. разрабатывает комплексное человеко-ориентированное решение по автоматизации на основе АИП для многопрофильных операторов транспортных средств, интегрированное через специальные сценарии в систему автоматизации контроля и управления на базе ADANEC Hardware Automation Scenarios.
Методы оценки и обучения АИП позволяют развивать теоретические и практические знания, когнитивные, психомоторные и другие физиологические возможности человека, необходимые для трудовых действий.
Комплексное решение на основе человеко-ориентированного подхода АИП для многопрофильных операторов (водителей) транспортных средств включает в себя:
- Адаптивные сценарии взаимодействия с системой непрерывной оценки квалификации операторов на основе тестирования и наблюдаемых параметров (качества езды, выполненных успешно заказов, работы со специализированным оборудованием и т.д.);
- Специализированные карты когниграфических данных на основе лучших экспертов и практик в каждой области для различных ролей операторов транспортных средств, включая оператора-водителя, оператора-курьера, удаленного оператора по контролю автопарка и другие;
- Систему Когниграф для формирования и работы с персональными динамическими картами когниграфических данных для операторов;
- Адаптивные методики и образовательные материалы, реализованные в АИПах с целью развития знаний и умений пользователя (водителя) в рамках специализированных карт когниграфических данных;
- Интерфейсы виртуального ассистента для взаимодействия с пользователем через обучающие компоненты обратной связи системы в виде визуальных или аудио нотификаций(подсказок), компонентов тестирования;
- Обработка и анализ данных по профилям осуществляется как на клиентском устройстве, так и на удаленном аналитическом сервисе, в зависимости от сложности используемых моделей и методов анализа.